Wat moeten we onze studenten vertellen?

Korte samenvatting: Blijf kalm en ga door met het studeren van wiskunde.

Ik wil Terry mijn hartelijke dank uitspreken voor de gelegenheid om een bijdrage aan zijn blog te leveren. Na veel nadenken over welk onderwerp de meeste impact zou hebben, heb ik besloten deze kans te gebruiken om studenten aan te spreken: in het bijzonder die bachelor- en masterstudenten die tot enkele maanden geleden nog droomden van een academische carrière in de wiskunde, maar wiens dromen nu ver weg lijken, en voor sommigen zelfs onmogelijk lijken om te realiseren.

Dit bericht is geïnspireerd door een bericht (hieronder integraal geciteerd, met toestemming) dat ik ontving van een student die wanhopig op zoek was naar advies en begeleiding. Dit is niet het enige bericht van dit type dat ik heb ontvangen (en ik vermoed dat velen van ons soortgelijke verzoeken krijgen), maar het is wellicht het meest oprecht en het bericht dat me het meest heeft geraakt. Let ook op de urgentie van het bericht: studenten moeten nu beslissingen nemen.

***

"Beste professor, ik volg uw video's al een tijdje als student pure wiskunde die ooit een carrière in de academische wiskunde wilde nastreven. Ik weet dat u waarschijnlijk veel vragen over dit onderwerp krijgt, maar ik ben volledig verloren wat betreft mijn carrièretraject, en zelfs, de zin van het leven op dit moment. (Ik besef dat veel mensen het veel slechter hebben dan ik). Ik weet dat u de laatste tijd veel video's heeft gemaakt over de voortgang van de nieuwe LLM's, dus ik dacht dat u de juiste persoon zou zijn om te benaderen voor een gestructureerder antwoord op deze kwestie.

Om direct ter zake te komen: wat ik echt wil weten is: zal de academische wiskunde groot en toegankelijk genoeg blijven voor iedereen met pure passie (ondanks dat men niet de briljantste geest in het vakgebied is) om een carrière in na te streven, of zal het onvermijdelijk krimpen zodat het alleen nog toegankelijk is voor de allerbeste geesten? (Ik besef dat de 'briljantste geesten' die ik hier noem niet goed gedefinieerd zijn, en in zekere zin neem ik als hypothese aan dat dit iemand is die 'slimmer is dan ik').

Mijn tweede vraag is: zal AI binnen 5 tot 10 jaar mensen overtreffen in het vermogen om fundamenteel wiskundig onderzoek te doen? Ik voel me al een paar maanden volledig verloren in het leven. Ik wil uw dag niet depressiever maken; mijn excuses als ik zo overkom. Ik zou elk advies waarderen."

***

De vooruitgang in Large Language Models (LLM's) ontregelt bijna alle aspecten van academisch onderzoek en onderwijs in de wiskunde. Hoewel er veel aspecten zijn die me zorgen baren, is het punt dat me het meest zorgen baart de zeer reële mogelijkheid dat we een hele generatie wiskundigen gaan verliezen. Veel studenten vragen zich af of het op dit moment de juiste carrièrestap is om te kiezen voor een PhD in de wiskunde. Velen van hen waren een jaar geleden nog op weg naar een promotieonderzoek, maar veranderen nu van gedachten en denken dat een andere carrière (soms zo ver weg van de wiskunde als een rechtenstudie) het beste pad is, gezien de dreiging dat AI het academische wiskundige landschap in de komende maanden volledig kan veranderen.

De vragen waar studenten zich zorgen over maken zijn als volgt:

• Zal AI de wiskundige onderzoekscapaciteit van elke mens overtreffen?
• Worden onderzoekswiskundigen 'professionele prompters' en interpreten van LLM-output?
• Zullen alleen de 'briljantste geesten' nog zinvol kunnen bijdragen aan wiskundig onderzoek?
• Zullen wiskundigen nog inzetbaar zijn? Zullen wiskundigen nog nodig zijn?
• Moet ik op dit moment een PhD in wiskunde nastreven?

In dit essay zal ik proberen deze vragen naar beste kunnen te beantwoorden, maar ik begin met twee disclaimers, gevolgd door een korte samenvatting van mijn eigen visie.

Kanttekeningen

Disclaimer 1. Mijn antwoorden kunnen "verouderen als melk", zoals YouTube-commentaren vaak opmerken bij oudere video's. Ik kan daarmee leven, omdat dit bericht uitdrukt hoe ik en velen in mijn directe omgeving zich vandaag voelen. Dingen kunnen echter snel veranderen (zie Disclaimer 2). Ook wil ik mijn bevoorrechte standpunt erkennen als vaste professor in de wiskunde — de situatie kan er veel zorgwekkender uitzien vanuit het perspectief van de baanonzekerheid van een beginnend wiskundige.

Disclaimer 2. Niemand heeft op dit moment de antwoorden. Ik wil vanaf het begin duidelijk maken dat niemand met zekerheid de antwoorden kan weten op enige van de bovenstaande vragen: geen enkele Fields-medaillewinnaar, geen enkele wiskundige, geen enkele luidruchtige AI-expert en geen enkel bedrijf dat grensmodellen ontwikkelt. En als iemand met buitengewone overtuiging vertelt wat de toekomst brengt, dan zou ik onmiddellijk wantrouwen tegenover de motieven van die overtuiging hebben. Niemand heeft een helder beeld omdat de ontwikkeling van LLM's zo snel (en ondoorzichtig) is gegaan dat het bijna onmogelijk is om te voorspellen wat er gaat komen. Een goed advies is om dezelfde vragen aan veel mensen te stellen, om een (hopelijk gebalanceerd) scala aan meningen te horen.

Voor de duidelijkheid: ik heb de antwoorden ook niet, maar ik ben hoopvol en enthousiast over de toekomst. Ik leg hieronder uit waarom.

Wie bepaalt het narratief over LLM's in de wiskunde?

Over het algemeen variëren de reacties van de wiskundige gemeenschap op de vorderingen van AI van verwarring tot woede — maar vooral verwarring over hoe nu verder te gaan. De meest dystopische voorspellingen lijken gedreven te worden door het feit dat de zogenaamde bedrijven die grensmodellen ontwikkelen (en andere LLM-gestuurde bedrijven) het narratief controleren in hun eigen belang. Helaas kunnen de beste zakelijke uitkomsten voor een LLM-bedrijf potentieel catastrofale gevolgen hebben voor de wiskundige (en wetenschappelijke) gemeenschap.

Het is zeker dat AI-bedrijven willen dat we geloven dat hun producten onmiddellijk "supermenselijke intelligentie" zullen bereiken en dat ze in het bijzonder in staat zullen zijn om autonoom elk wiskundig probleem op te lossen dat een mens zou kunnen oplossen, met of zonder hulp van een LLM. Het is in hun commerciële belang dat het publiek overtuigd is van het (beweerlijk) "onbeperkte potentieel" van hun technologie, vooral voordat hun bedrijven naar de beurs gaan (bijv. de aanstaande IPO's van Anthropic in november 2026, OpenAI in begin 2027, etc.).

Daarom hebben ze geprobeerd het narratief te beheersen door een enorme hoeveelheid (menselijke en computationele) middelen in te zetten om oplossingen te vinden voor bepaalde bekende wiskundige problemen. De bewijzen worden vervolgens gepubliceerd in aankondigingen die het publiek doen geloven dat hun modellen al autonoom elk probleem kunnen oplossen, en dat ook nog eens snel. Dit is echter (momenteel) ver verwijderd van hun werkelijke capaciteiten. Ze bespreken bijvoorbeeld nooit hoeveel tokens in de prullenbak zijn beland zonder resultaat bij het proberen (en falen) om beroemde problemen op te lossen. We weten bijvoorbeeld dat OpenAI het equivalent van ongeveer 15 miljoen dollar heeft geïnvesteerd om het Navier-Stokes-probleem op te lossen (of eigenlijk: te 'scoopen'), maar we zijn niet op de hoogte van de zeker kolossale operationele kosten van de mislukkingen om andere Millennium Prize-problemen op te lossen.

Mijn eigen visie

Hoewel ik bezorgd ben over de inbreuk van LLM's op de academische wiskunde, ben ik vrij hoopvol. Sterker nog, ik beschouw dit als de meest opwindende tijd in mijn wiskundige carrière (laten we zeggen sinds het jaar 2000). Echt, dit is misschien wel het meest spannende moment in de wiskunde in de moderne geschiedenis van ons vakgebied, en ik zou het vreselijk vinden als jongeren de academische wereld zouden verlaten en de verbazingwekkende kans zouden missen om in de frontlinie van de huidige wetenschappelijke revolutie te staan. En niet alleen dat: ik denk dat hun afwezigheid rampzalige gevolgen zou hebben voor het vakgebied.

Ongetwijfeld zijn LLM's al een ongelooflijk krachtig hulpmiddel. Als ze correct worden gebruikt, en als we redelijke academische gedragsverwachtingen opstellen rond het gebruik van LLM's, kunnen deze tools de vooruitgang in ons vakgebied versnellen op een manier die in geen enkel vorig tijdperk mogelijk was. Ik verwacht volledig dat wij, als gemeenschap, ons zullen aanpassen aan deze nieuwe periode en dat we deze tools zullen inzetten om werkelijk grote dingen te bereiken die enkele maanden geleden nog onbereikbaar leken. En ik verwacht volledig dat menselijke wiskundigen centraal zullen staan in deze prachtige prestaties die komen gaan.

Ik wil er ook bij zeggen dat het dagelijks leven van een wiskundige tot nu toe niet veel is veranderd! Mijn dagen zijn nog steeds gevuld met lesgeven en vreugdevolle gesprekken over wiskunde met collega's en studenten, het doen van onderzoek naar een aantal spannende (oude en nieuwe) projecten, en het bezoeken van stimulerende conferenties om onze meest recente methoden en bevindingen te leren kennen en te verspreiden.

Eén ding is wel veranderd: ik ben drukker dan ooit, omdat het aantal onderzoeksprojecten waarin ik betrokken ben in slechts enkele maanden tijd is verdrievoudigd. Mijn onderzoekshorizon is aanzienlijk uitgebreid en ik heb veel meer projecten beschikbaar waar studenten me bij kunnen helpen.

Antwoorden op de prangende vragen

"Zal AI de wiskundige onderzoekscapaciteit van elke mens overtreffen?" Dit is volledig onduidelijk. Aan de ene kant is de huidige trend in capaciteiten zeker significant, en we hebben al veel indrukwekkende resultaten gezien die zijn bewezen door LLM's, of waarvan de bewijzen mogelijk zijn gemaakt dankzij substantiële LLM-bijdragen. Aan de andere kant lijken geen van de bewijzen tot nu toe "alien ideas" te bevatten, een "move-37", of volledig nieuwe argumenten of nieuwe concepten die niet in enige vorm aanwezig waren in de literatuur. Dit is niet verbazingwekkend, omdat LLM's zijn gebouwd en getraind op de totaliteit van alle menselijke bijdragen tot nu toe; het is dan ook logisch dat ze 'denken' binnen de grenzen van onze huidige kennis en verbindingen leggen (soms verrassende en ingenieuze!) tussen ideeën die al aanwezig zijn in de literatuur.

Ik ben bijzonder gegrepen door de hypothese (of het "speelgoedmodel", zoals hij het noemde) die Nestor Guillen in een recent blogbericht naar voren bracht, waarin hij betoogt dat LLM's werken binnen de grenzen van de convexe huls (convex hull) van ideeën die momenteel beschikbaar zijn in de literatuur.

Neem bijvoorbeeld de weerlegging van het unit-distance conjuectuur van Erdős. We kunnen de huidige set wiskundige ideeën voorstellen als een gesternde hoogdimensionale polytoop. De idee voor het bewijs lijkt op het eerste gezicht ingenieus omdat het slim strategieën uit twee vakgebieden combineert, maar na nauwere inspectie is het een bewijs dat binnen bereik van mensen lag, omdat het zich simpelweg binnen de convexe huls van de polytoop bevindt.

Dit komt overeen met wat Melanie Matchett-Wood zei over het bewijs: "Ik geloof dat als het niveau en type menselijke expertise dat in deze notitie is vertegenwoordigd een maand geleden was samengebracht om een tegenvoorbeeld voor dit conjuectuur te vinden, en die mensen een vergelijkbare hoeveelheid tijd hadden besteed aan het werken eraan als ze deden aan het lezen en nadenken over de oplossing van ChatGPT, de wiskundigen een tegenvoorbeeld zouden hebben gevonden."

Echter, een bewijs van de Riemann-hypothese zou bijvoorbeeld nieuwe ideeën kunnen vereisen die strikt buiten de convexe huls van huidige wiskundige ideeën liggen, en is daarom onbereikbaar voor een LLM. Pas nadat een nieuw idee is geïntroduceerd in een nieuw artikel, kan de polytoop van ideeën een nieuw buitenste vertex verkrijgen. Pas dan kunnen de LLM's, na opnieuw getraind te zijn om die ideeën op te nemen, de set resultaten aanvullen tot aan de nieuwe convexe huls.

Als dit model standhoudt, zouden we inderdaad de zeer snelle vorderingen in de wiskunde verwachten die we momenteel zien. LLM's zullen de gaten tussen de buitenste punten blijven vullen. Maar naarmate de LLM's de convexe huls vullen met nieuwe resultaten, zullen we een vertraging zien in het aantal resultaten dat uitsluitend door kunstmatige intelligentie wordt getoond. We zullen menselijke vorderingen en intuïtie nodig hebben om nieuwe ideeën te genereren die onze kennispolytoop uitbreiden.

Zelfs als de wiskundige capaciteit van LLM's op een gegeven moment voorbij de convexe huls van de huidige set menselijke ideeën kan reiken, is er een andere manier waarop we een limiet aan de LLM-capaciteit kunnen bereiken: de haalbaarheid en het ethisch gebruik van middelen (vergelijkbaar met wat Kevin Buzzard de "natuurlijke grens" noemde). Is elke kostprijs (geld, menselijke kosten, ethische kosten) acceptabel bij het streven naar de oplossing van een gegeven probleem? We zouden bijvoorbeeld kunnen bereiken dat een LLM een belangrijk probleem kan oplossen voor exorbitante kosten, maar dat dit simpelweg geen acceptabele kost is voor de belastingbetaler of de samenleving. In plaats daarvan zullen we mensen nodig hebben om een alternatieve route te bedenken om het probleem op te lossen tegen acceptabele kosten, die een soortgelijk resultaat oplevert in termen van wiskundige vooruitgang en, belangrijker nog, menselijk begrip.

"Worden onderzoekswiskundigen 'professionele prompters' en interpreten van LLM-output?" Er is geen aanwijzing dat dit het geval zal zijn. Ja, LLM's hebben enigszins autonoom bewijzen geproduceerd van belangrijke resultaten die sommige wiskundigen de taak kregen te interpreteren en te verteren. Maar in mijn eigen ervaring, en andere onderzoekswiskundigen die LLM's in hun onderzoek gebruiken lijken het ermee eens, is werken met een LLM vergelijkbaar met het bespreken van een probleem met een collega, en de resultaten hangen sterk af van hoeveel begeleiding en intuïtie de wiskundige in het gesprek brengt. Met andere woorden, LLM's zijn meer dan tools: ze kunnen onderzoekscollaborateurs zijn, maar zoals in elke samenwerking worden de ervaring en de resultaten sterk verbeterd wanneer alle partijen bijdragen aan de discussie. Bovendien hebben wiskundigen geen behoefte om simpelweg te prompten: "los de Riemann-hypothese op, maak geen fouten" en vervolgens het bewijs te interpreteren. We geven er de voorkeur aan om actieve deelnemers te zijn tijdens alle stappen in het proces van de ontdekking van een bewijs, omdat we gemotiveerd worden door het waarom het resultaat waar is, meer dan door het uiteindelijke antwoord dat het statement waar is.

"Zullen alleen de 'briljantste geesten' nog zinvol kunnen bijdragen aan wiskundig onderzoek?" In elk tijdperk van de wiskunde zijn er wiskundigen geweest wiens mentale capaciteit voor wiskunde volledig supermenselijk leek. Het is natuurlijk om te vermoeden dat zij elk probleem dat wij konden oplossen, in een fractie van de tijd zouden kunnen oplossen. Dit heeft ons met een bescheidener capaciteit voor wiskunde echter nooit belet om enorm te genieten van onderzoek en resultaten te produceren die verre van onbeduidend zijn. In feite heeft de wiskunde altijd geprofiteerd van het scala aan ideeën en standpunten, van het zeer concrete tot het grote vogelperspectief.

Hetzelfde geldt voor LLM's. Zelfs als hun capaciteit veel superieur wordt, zal er altijd behoefte zijn aan wiskundigen op alle niveaus om onderzoek te sturen op paden die logisch zijn voor mensen om te bewandelen. Het wiskundige universum is enorm en rekentijd is eindig. Er zullen altijd gebieden van de wiskunde zijn die onderbelicht zijn en waar zelfs beginners nieuw terrein kunnen betreden. LLM's kunnen helpen in dit proces door snel doodlopende wegen te verkennen of juist vruchtbare paden aan te wijzen.

"Zullen wiskundigen nodig zijn? Zullen ze inzetbaar zijn?" Ik vind deze vragen natuurlijk, maar ook verbijsterend. Zelfs in het meest dystopische scenario waarin AI supermenselijk wordt in alle onderzoekstaken, wat zou een bewijs (van een stelling in de pure wiskunde) waard zijn als er geen menselijke wiskundigen zijn om het te verteren en te begrijpen? Ongeacht de vorderingen in LLM's en AI zullen er bergen onderzoek zijn die door mensen begrepen moeten worden.

Daarnaast lijken we te vergeten dat wiskundeafdelingen aan universiteiten bestaan om twee primaire doelen te dienen: de ontdekking en de communicatie van wiskundige kennis. Het leren denken als een wiskundige is een uiterst nuttige en toepasbare vaardigheid. Zolang de wiskundige manier van denken een waardevolle vaardigheid blijft voor studenten, zal er een grote behoefte blijven aan wiskundigen die door universiteiten worden aangenomen.

Moet ik nu een PhD in wiskunde doen?

Het antwoord op deze vraag moet persoonlijk zijn voor elke student. Maar naar mijn mening zou het antwoord niet moeten zijn veranderd van een jaar geleden naar vandaag. De belangrijkste reden (en misschien de enige reden) om een PhD in wiskunde te doen, moet zijn dat de kandidaat gepassioneerd is over wiskunde en een expert wil worden in een specifiek onderwerp binnen ons vakgebied. Als dat het doel is, dan is de aanwezigheid van LLM's in de wiskunde irrelevant, omdat het doel wordt bereikt wanneer de kandidaat voldoende kennis heeft opgedaan om een expert te zijn. Zo kunnen LLM's zelfs als tool worden gebruikt om dat doel efficiënter te bereiken.

Ik wilde een PhD in de wiskunde doen omdat het als een prachtige uitdaging voelde. Ik wilde leren hoe Andrew Wiles de Laatste Stelling van Fermat had bewezen. Ik wilde wiskunde blijven studeren omdat ik simpelweg geen "echte baan" wilde, en de mogelijkheid om een paar jaar lang zelfstandig over geavanceerde wiskunde na te denken voelde als een droom. Ik weet dat ik het diep zou hebben betreurd als ik geen poging had gedaan om een PhD af te ronden toen ik de kans kreeg.

En als jij een student bent die gepassioneerd is over wiskunde, en iemand die al dit soort dingen wil, dan is een PhD het juiste pad voor jou, ongeacht de technologie die beschikbaar is tijdens je studie.

Nawoord: de grote OpenAI-release

Nadat ik dit blogbericht had geschreven en naar Terry had gestuurd, publiceerde OpenAI een enorme hoeveelheid resultaten in de wiskunde. Ze lossen grote open problemen op: de zogenaamde quasi Riemann-hypothese, het conjuectuur van Goldfeld, het Hodge-conjuectuur in het geval van CM abelian varieties, Hilbert's 10th over Q, het Rigidity-conjuectuur... en de lijst gaat zo door.

Maar zo'n enorme release dwingt me niet om mijn standpunten te wijzigen. Integendeel, we wisten al dat hun modellen verbazingwekkende dingen kunnen doen en dat ze punten in de bestaande literatuur op ingenieuze wijzen kunnen verbinden. Ook toont de release aan dat hun modellen limieten hebben: uit hun rapport blijkt dat ze 4000 open problemen hebben aangepakt, maar slechts voor ongeveer 700 konden zij vooruitgang boeken.

De kern van mijn bericht blijft hetzelfde. Er is nog steeds een enorme hoeveelheid wiskundig onderzoek te doen, met en zonder de hulp van LLM's. Er zijn nieuwe bergen wiskunde om uit te leggen en te communiceren. En als jij een student bent die gepassioneerd is om te leren wat nieuw is en wat er nog te doen is, dan is een PhD absoluut het juiste pad voor jou.