Moeilijkere rekenvragen, gecontroleerd door code
Kan een taalmodel moeilijkere rekenopgaven bedenken, en kun je automatisch checken of ze kloppen?
Aanpak
Voor mijn MSc-scriptie (UvA, 2025) herschreef een leraar-model rekenopgaven tot moeilijkere varianten met een Python-oplossing.
Resultaat
Een verifier voerde die code uit en hield alleen varianten die draaiden, het juiste antwoord gaven en nieuw waren voor het model: 6.213 opgaven uit 7.460 originelen, moeilijker dan de handgemaakte GSM-Symbolic-benchmark. In een handmatige steekproef waren 81 van de 100 volledig correct. Eerlijk resultaat: fine-tunen op de nieuwe data gaf geen significante verbetering.
Hoogtepunten
- 6.213 geverifieerde opgaven uit 7.460 originelen; in een handmatige steekproef waren 81 van de 100 volledig correct
- Moeilijker dan de handgemaakte GSM-Symbolic-benchmark
- Eerlijk resultaat: fine-tunen op de nieuwe data gaf geen significante verbetering
Technologie
PythonQwen2.5LLM-verificatieSynthetische data
Laten we kennismaken
mannes@mokkenstorm.com