Ga naar inhoud
← Terug

Moeilijkere rekenvragen, gecontroleerd door code

Kan een taalmodel moeilijkere rekenopgaven bedenken, en kun je automatisch checken of ze kloppen?

Aanpak

Voor mijn MSc-scriptie (UvA, 2025) herschreef een leraar-model rekenopgaven tot moeilijkere varianten met een Python-oplossing.

Resultaat

Een verifier voerde die code uit en hield alleen varianten die draaiden, het juiste antwoord gaven en nieuw waren voor het model: 6.213 opgaven uit 7.460 originelen, moeilijker dan de handgemaakte GSM-Symbolic-benchmark. In een handmatige steekproef waren 81 van de 100 volledig correct. Eerlijk resultaat: fine-tunen op de nieuwe data gaf geen significante verbetering.

Hoogtepunten

  • 6.213 geverifieerde opgaven uit 7.460 originelen; in een handmatige steekproef waren 81 van de 100 volledig correct
  • Moeilijker dan de handgemaakte GSM-Symbolic-benchmark
  • Eerlijk resultaat: fine-tunen op de nieuwe data gaf geen significante verbetering

Technologie

PythonQwen2.5LLM-verificatieSynthetische data

Laten we kennismaken

mannes@mokkenstorm.com
© 2026 Storm IT SolutionsAmsterdam
EN