Het artikel analyseert de transformatie van de wiskunde door de komst van kunstmatige intelligentie. De auteur stelt vast dat veel wiskundigen reageren volgens de fasen van rouw (ontkenning, woede, afdingen en depressie), omdat zij vrezen dat de essentie van hun vakgebied verloren gaat.
Er wordt een filosofische discussie gevoerd over de definitie van 'begrip'. Waar sommigen betogen dat menselijk inzicht en de weg naar een bewijs belangrijker zijn dan het resultaat zelf, stelt de auteur dat 'begrip' een vaag concept is en dat het aantal correct bewezen stellingen een tastbaardere maatstaf is. De auteur pleit bovendien voor transparantie van AI-labs over hun wiskundige resultaten om dubbel werk te voorkomen.
De auteur concludeert met een optimistische visie: AI is een krachtig instrument voor probleemoplossing dat wiskundigen naar nieuwe fronten kan brengen. Omdat wiskunde echter oneindig is, zal er altijd een nieuwe menselijke uitdaging ontstaan, zelfs nadat AI zijn natuurlijke grenzen heeft bereikt.
Rouw, of niet rouwen?
De AI-pessimisten
Het model van Elisabeth Kübler-Ross over het rouwproces is inmiddels bekend: de vijf fasen zijn ontkenning, woede, afdingen, depressie en acceptatie. De eerste vier hiervan zijn momenteel zeer sterk vertegenwoordigd binnen de wiskundige gemeenschap, wat wellicht gewicht geeft aan de bewering dat veel wiskundigen momenteel rouwen om wat zij ervaren als het verlies van iets dat hen zeer dierbaar is. Er zullen echter ook wiskundigen zijn wiens standpunten in de volgende categorieën vallen en die waarschijnlijk krachtig zullen aanvoeren dat wat zij voelen helemaal geen rouw is. We rouwen niet allemaal, maar velen van ons bevinden zich in een van de fasen van rouw.
Ontkenning
De Association for Human Mathematics stelt prominent dat haar doel is om wiskunde als menselijke inspanning te beschermen tegen wat zij de "dreiging van kunstmatige intelligentie" noemen. Leden verbinden zich eraan om geen door AI gegenereerde output te publiceren, en er is een "AI-vrije" optie om het gebruik van AI in een onderzoekscapaciteit volledig af te zweren en zich te verbinden aan het vinden van bewijzen en het verkennen van voorbeelden zonder deze tools te gebruiken. Uit gesprekken met leden begrijp ik dat er meerdere motivaties zijn om lid te worden van deze vereniging, variërend van ernstige zorgen over wat AI met de wiskunde doet, tot ernstige zorgen over wat AI met de planeet doet of wat het met de mensheid zou kunnen doen. Een prominent lid van de vereniging is Fieldsmedaillewinnaar Peter Scholze, die tijdens een recent panel van het Heidelberg Laureate Forum over AI en wiskunde zei dat hij geen AI zal gebruiken en bovendien dat hij "op die heuvel zal sterven, en een publiek figuur zal zijn dat op die heuvel sterft".
Woede
De website proofs and prompts bevat berichten die een grote variëteit aan meningen vertegenwoordigen, en het is niet moeilijk om berichten te vinden van mensen die boos zijn. Een prominent voorbeeld is het bericht van Vlad Lazic. Lazic heeft zijn visie verder uitgewerkt op zijn eigen site, die diverse links bevat naar stukken geschreven door andere wiskundigen met soortgelijke gevoelens.
Afdingen
De Advisory Group on Mathematics and Artificial Intelligence is een onafhankelijke commissie van senior wiskundigen (waaronder drie Fieldsmedaillewinnaars) die onlangs aanbevelingen publiceerde naar aanleiding van het nieuws dat OpenAI beschikt over "een groot aantal significante resultaten in de wiskunde die, volgens hun rapportage, zijn geproduceerd door hun interne model". Een citaat uit de eerste paragraaf van de aanbeveling is dat de groep "deze praktijk niet steunt, en we vragen [de frontier AI-labs] om te stoppen met het testen van geavanceerde wiskundige problemen op propriëtaire modellen." Ze vragen de labs vervolgens om resultaten "verantwoord" vrij te geven en suggereren verschillende acties die de labs in de toekomst kunnen overwegen, zoals "het bieden van ondersteuning, inclusief financiering, voor de ontwikkeling van het menselijk begrip van de door hen vrijgegeven AI-wiskundige output."
Depressie
Als je wiskundige bent, ken je bijna zeker wel iemand die zich zo voelt. Een faculteitslid dat ik ken en dat in vloeistofdynamica werkt, vertelde me dat het nieuws over Navier-Stokes "extreem deprimerend" was. Een post-doc vertelde me dat hij overwoog om te stoppen met wiskundig onderzoek vanwege wat het op het punt stond te worden. Een PhD-student vertelde me dat hij vastliep op een lemma in zijn onderzoek en dat ChatGPT het in één keer oploste, waardoor hij zich afvroeg wat het nut van alles nog was.
Tussenschot: waarom mensen wiskunde bedrijven
Ik wil eerst duidelijk maken dat de bovenstaande lijst zeker niet bedoeld is als kritiek op deze standpunten; ik hoop dat ik elk standpunt eerlijk heb behandeld. Verschillende mensen wiens mening ik zeer waardeer, zijn in de bovenstaande lijst vertegenwoordigd, en onlangs heb ik geprobeerd goed te luisteren naar de zorgen van mijn mogelijk rouwende vrienden en collega's. Toch is het zo dat ik elke ochtend wakker word en me enthousiast voel over de toekomst van mijn vakgebied. Voordat ik uitleg waarom, wil ik de controversiële vraag bespreken waarom we wiskunde bedrijven.
Thurstons visie op wiskunde
Het feit dat AI nu moeilijke stellingen kan bewijzen, heeft ertoe geleid dat mensen in discussie zijn gegaan over waarom mensen überhaupt wiskunde bedrijven. Ik vermoed dat veel wiskundigen een paar jaar geleden gelukkig zouden zijn ingestemd met de stelling dat de wiskundige gemeenschap haar grootste prijzen en onderscheidingen toekent aan de mensen die de moeilijkste stellingen bewijzen. Nu AI echter moeilijke stellingen bewijst, lijken we veel tijd te besteden aan het uitleggen dat we deze prijzen en onderscheidingen in feite geven aan de mensen wiens ideeën ons het diepste begrip van ons vakgebied geven.
Het is ook vermeldenswaardig dat de diepste door AI gegenereerde wiskundige bewijzen op dit moment doorgaans vergezeld gingen van een slecht geschreven pdf of helemaal geen pdf, en misschien een end-to-end formalisering in Lean. Dit geeft een supermenselijk vertrouwen in de correctheid van het bewijs, maar geeft weinig aanwijzingen over waar de ideeën vandaan kwamen, of zelfs waar de nieuwe ideeën zitten. Hier verwijs ik opnieuw naar Scholze, die erop wijst dat de Elkies–Klagsbrun constructie van een elliptische kromme van rang 29 over de rationals gepaard ging met een geometrische uitleg, maar dat de nieuwe elliptische krommen van rang 30 en 31 enkel vergezeld gingen van vergelijkingen en niets anders. "We hebben eigenlijk niets geleerd."
De vaak geciteerde rechtvaardiging van het kader "het gaat niet om het aantal stellingen, maar om het menselijk begrip" is Thurstons essay uit 1994, "On proof and progress in mathematics". Deze framing van het "doel" van wiskunde is op sociale media met enige scepsis ontvangen, waarbij zelfs wordt beweerd dat wiskundigen de doelpalen verplaatsen in een wanhopige poging om te overleven. Dit cynisme is echter niet gerechtvaardigd; experts in het veld weten al decennia dat prijsioinnende resultaten ons niet alleen een nieuwe stelling opleveren, maar ook een grote hoeveelheid nieuw begrip. Om een voorbeeld uit mijn eigen vakgebied te nemen: het Wiles–Taylor–Wiles bewijs van de Laatste Stelling van Fermat loste gelijktijdig een onbenullige 350 jaar oude puzzel over positieve gehele getallen zonder toepassingen op, en gaf ons tegelijkertijd werkelijk diepgaande nieuwe inzichten in het Langlands-programma, waarvan de gevolgen 30 jaar later nog steeds voelbaar zijn.
Andere visies op wiskunde
Maar Thurstons visie is niet de enige. Ik heb deze week Hardy's "A mathematician’s apology" herlezen. Toen ik dit als student probeerde te lezen, kwam het me extreem pompeus en seksistisch voor; ik maakte het boek niet eens af. Dit keer ben ik wel tot het einde gekomen, en mijn begrip van Hardys standpunt is dat dit volledig verschilt van dat van Thurston. Hardy bedrijft wiskunde omdat hij het ziet als kunst (dus zou hij waarschijnlijk om dezelfde redenen boos zijn dat AI wiskunde bedrijft als veel kunstenaars boos zijn dat AI kunst maakt). Hij is vernietigend over hen die "uitleggen" en eerlijk wanneer hij ons vertelt dat een van zijn belangrijkste motivaties om stellingen te bewijzen is, zodat hij na zijn dood herinnerd wordt. Dit is een visie die zeer verschilt van die van Thurston, maar ook zeer verschilt van die van mijzelf.
Laat me vervolgens bespreken waarom het promoten van Thurstons visie op wiskunde (wat velen van ons nu doen) uiteindelijk tegen onze gemeenschap kan werken. AI heeft een Millenniumprobleem opgelost en dit heeft ons laten zien waar AI staat in de wiskunde. Maar ik geloof dat veel mensen in onze gemeenschap nog steeds zwaar onderschatten hoe snel AI beweegt. Als we "begrip" gebruiken als rechtvaardiging voor het voortbestaan van wiskunde als een studieobject, waar trekken we ons dan precies naartoe als AI over een jaar niet alleen stellingen bewijst, maar deze ook perfect aan mensen kan uitleggen?
Ik herinner me dat Thurstons essay me tegenstribbelde vanwege wat mij persoonlijk motiveert om wiskunde te bedrijven. Ik ben onlangs gediagnosticeerd met autisme en ik vraag me af of dit een van de redenen is waarom ik mijn positie inneem. Thurstons essay was een reactie op een eerder paper van Jaffe en Quinn, die beargumenteren dat een wiskundig idee pas echt geldig of nuttig wordt zodra het wordt verankerd door een rigoureus bewijs. Mijn eigen vakgebied (de Langlands-filosofie) zit vol argumenten die "bekend zijn bij de experts" zonder dat er een publiek toegankelijk verslag van is. Deze situatie zorgde ervoor dat ik gedesillusioneerd raakte door het veld en uiteindelijk volledig stopte met nieuwsgierigheidsgedreven onderzoek om over te stappen op wiskundige formalisering. Je kunt Lean niet misleiden; Lean accepteert geen bewijs door autoriteit of bewijs door intimidatie. Ik voel me veilig bij Lean.
Wiskunde "begrijpen"
Als PhD-student van Richard Taylor in het begin van de jaren 90 begreep ik snel dat de stelling die ik in mijn proefschrift probeerde te bewijzen, steunde op een constructie van Deligne. Ik stelde Taylor voor om eerst Deligne's bewijs te lezen, maar hij wees dit idee direct af; mijn financiering was slechts voor drie jaar en ik had simpelweg niet genoeg tijd om in deze fase van mijn carrière al de relevante literatuur volledig te doorgronden. Ik heb nooit de tijd gevonden om Deligne's constructie te lezen, of het bewijs van de Langlands–Tunnell stelling, of veel andere zaken die ik nodig had in mijn thesis. Dus "begrijp" ik mijn eigen werk wel? Wat bedoelen we eigenlijk met "menselijk begrip van wiskunde"?
Ik denk dat hoewel wiskundigen er nu in beginnen te stemmen dat wiskunde volledig draait om menselijk begrip, ze het niet eens zullen worden over wat het betekent om wiskunde op hoog niveau te begrijpen. Natuurlijk weten we wat het betekent om resultaten op bachelorniveau te begrijpen. Maar "begrijp" ik het bewijs van de Laatste Stelling van Fermat, gegeven dat ik eerder dit jaar 22 uur aan colleges over dit onderwerp heb gegeven? Ik weet dat Langlands–Tunnell cruciaal is voor Wiles, maar ik weet zeer weinig over de details. Wat als er een fout was ontdekt in het proces van formalisering? Kan men wiskunde "begrijpen" die onjuist is? Of wiskunde die onvolledig is? Ik persoonlijk kan dat niet, en ik ben tevreden om sommige dingen niet te begrijpen. Ik doe het voor de "theorem tally" (het aantal bewezen stellingen). In schril contrast met Thurston geloof ik dat "begrip" een enigszins vaag concept is, terwijl het totaal aantal correct bewezen stellingen iets is dat we kunnen meten. Ik ben me ervan bewust dat ik hierin een minderheid vorm.
Ik roep OpenAI daarom op om simpelweg hun collectie stellingen aan de wereld te presenteren, zodat we precies kunnen zien wat ze beweren gedaan te hebben. Het opruimen kan later gebeuren. In elk geval, behalve bij Navier-Stokes, hebben we gezien dat mensen AI-gegenereerde wiskunde via reverse-engineering kunnen begrijpen. Als mensen willen begrijpen, dan zullen we begrijpen. Op dit moment besteden mensen mogelijk hun tijd aan het bewijzen van stellingen die al zijn bewezen door een techbedrijf. Waar is de logica daarvan? Deze mensen hebben het recht om te weten wat er bekend is.
Een AI-optimist
Laat me nu uitleggen waarom ik een optimist ben.
In een stuk uit 2020 in de Notices of the AMS stelde ik de volgende vraag: "Als één mens gelijktijdig een begrip zou hebben van alle moderne zuivere wiskunde, hoeveel verder zouden zij dan onmiddellijk kunnen zien?" Zes jaar later beginnen we het antwoord op deze vraag te begrijpen. Machines hebben de wiskunde op het internet geabsorbeerd en zijn in staat deze data op een coherente manier te manipuleren. De weerlegging van de Erdős unit distance kwam tot stand omdat een machine toevallig expert was in zowel discrete meetkunde als klassenveldtheorie; men vindt zelden mensen die gelijktijdig expert zijn in beide. Machines beantwoorden nu vragen die men gemakkelijk zou kunnen geloven dat mensen, indien zij een paar jaar langer in de juiste groepen zouden werken, ook hadden kunnen beantwoorden. Het gaat alleen veel sneller.
Mijn persoonlijke antwoord op de vraag waar wiskunde over gaat, is dat het gaat over het bewijzen van stellingen (probleemoplossing), het ontwikkelen van instrumenten (theoriebouw) en het zien waar men heen moet (het formuleren van conjuncturen). Op dit moment hebben we veel bewijs gezien dat computers goed zijn in probleemoplossing, maar veel minder bewijs van hun vermogens op het gebied van theoriebouw of het formuleren van conjuncturen. Dit legt een harde beperking op aan hoe ver de huidige machines zullen gaan.
Voor hen die de observatie dat machines X vandaag niet kunnen doen, wegwuiven met de opmerking dat "mensen gewoon niet begrijpen hoe exponentiële groei werkt", nodig ik hen uit om de volgende feiten te overwegen. De huidige vooruitgang is inderdaad exponentieel, maar we kunnen niet verwachten dat exponentiële groei oneindig voortduurt. Bovendien is wiskunde oneindig, en dat wint het glansrijk van exponentiële groei.
Ik geloof daarom dat we in de toekomst een nieuwe "natuurlijke grens" in de wiskunde zullen bereiken, voorbij waar we nu zijn, maar waar machines vast zullen lopen en waar het niet langer levensvatbaar is om meer middelen in te zetten voor de volgende grote sprong. Ik ben een optimist, dus ik verwacht dat toekomstige machines geweldig zullen zijn; maar ik kan simpelweg niet zien hoe ze met finite middelen tot oneindigheid kunnen komen, dus ze moeten ergens stoppen. Ik geloof dat het optimale is om de machines hun gang te laten gaan, te zien wat er gebeurt, en vervolgens de reis te beginnen naar de plek waar ze zijn gestopt. Als we nu instappen, zullen ze ons naar buitengewone nieuwe plaatsen brengen. En nadat we zijn gearriveerd, begint het nieuwe avontuur.
Dit is waarom ik ook de brief heb ondertekend. Ik weet dat sommige lezers de ideeën daarin afschuwelijk zullen vinden. Maar ik kan niet anders dan enthousiast zijn over de krachtige nieuwe instrumenten die we hebben. Wir müssen wissen — wir werden wissen!
Rouw, of niet rouwen?
De AI-pessimisten
Het model van Elisabeth Kübler-Ross over het rouwproces is inmiddels bekend: de vijf fasen zijn ontkenning, woede, afdingen, depressie en acceptatie. De eerste vier hiervan zijn momenteel zeer sterk vertegenwoordigd binnen de wiskundige gemeenschap, wat wellicht gewicht geeft aan de bewering dat veel wiskundigen momenteel rouwen om wat zij ervaren als het verlies van iets dat hen zeer dierbaar is. Er zullen echter ook wiskundigen zijn wiens standpunten in de volgende categorieën vallen en die waarschijnlijk krachtig zullen aanvoeren dat wat zij voelen helemaal geen rouw is. We rouwen niet allemaal, maar velen van ons bevinden zich in een van de fasen van rouw.
Ontkenning
De Association for Human Mathematics stelt prominent dat haar doel is om wiskunde als menselijke inspanning te beschermen tegen wat zij de "dreiging van kunstmatige intelligentie" noemen. Leden verbinden zich eraan om geen door AI gegenereerde output te publiceren, en er is een "AI-vrije" optie om het gebruik van AI in een onderzoekscapaciteit volledig af te zweren en zich te verbinden aan het vinden van bewijzen en het verkennen van voorbeelden zonder deze tools te gebruiken. Uit gesprekken met leden begrijp ik dat er meerdere motivaties zijn om lid te worden van deze vereniging, variërend van ernstige zorgen over wat AI met de wiskunde doet, tot ernstige zorgen over wat AI met de planeet doet of wat het met de mensheid zou kunnen doen. Een prominent lid van de vereniging is Fieldsmedaillewinnaar Peter Scholze, die tijdens een recent panel van het Heidelberg Laureate Forum over AI en wiskunde zei dat hij geen AI zal gebruiken en bovendien dat hij "op die heuvel zal sterven, en een publiek figuur zal zijn dat op die heuvel sterft".
Woede
De website proofs and prompts bevat berichten die een grote variëteit aan meningen vertegenwoordigen, en het is niet moeilijk om berichten te vinden van mensen die boos zijn. Een prominent voorbeeld is het bericht van Vlad Lazic. Lazic heeft zijn visie verder uitgewerkt op zijn eigen site, die diverse links bevat naar stukken geschreven door andere wiskundigen met soortgelijke gevoelens.
Afdingen
De Advisory Group on Mathematics and Artificial Intelligence is een onafhankelijke commissie van senior wiskundigen (waaronder drie Fieldsmedaillewinnaars) die onlangs aanbevelingen publiceerde naar aanleiding van het nieuws dat OpenAI beschikt over "een groot aantal significante resultaten in de wiskunde die, volgens hun rapportage, zijn geproduceerd door hun interne model". Een citaat uit de eerste paragraaf van de aanbeveling is dat de groep "deze praktijk niet steunt, en we vragen [de frontier AI-labs] om te stoppen met het testen van geavanceerde wiskundige problemen op propriëtaire modellen." Ze vragen de labs vervolgens om resultaten "verantwoord" vrij te geven en suggereren verschillende acties die de labs in de toekomst kunnen overwegen, zoals "het bieden van ondersteuning, inclusief financiering, voor de ontwikkeling van het menselijk begrip van de door hen vrijgegeven AI-wiskundige output."
Depressie
Als je wiskundige bent, ken je bijna zeker wel iemand die zich zo voelt. Een faculteitslid dat ik ken en dat in vloeistofdynamica werkt, vertelde me dat het nieuws over Navier-Stokes "extreem deprimerend" was. Een post-doc vertelde me dat hij overwoog om te stoppen met wiskundig onderzoek vanwege wat het op het punt stond te worden. Een PhD-student vertelde me dat hij vastliep op een lemma in zijn onderzoek en dat ChatGPT het in één keer oploste, waardoor hij zich afvroeg wat het nut van alles nog was.
Tussenschot: waarom mensen wiskunde bedrijven
Ik wil eerst duidelijk maken dat de bovenstaande lijst zeker niet bedoeld is als kritiek op deze standpunten; ik hoop dat ik elk standpunt eerlijk heb behandeld. Verschillende mensen wiens mening ik zeer waardeer, zijn in de bovenstaande lijst vertegenwoordigd, en onlangs heb ik geprobeerd goed te luisteren naar de zorgen van mijn mogelijk rouwende vrienden en collega's. Toch is het zo dat ik elke ochtend wakker word en me enthousiast voel over de toekomst van mijn vakgebied. Voordat ik uitleg waarom, wil ik de controversiële vraag bespreken waarom we wiskunde bedrijven.
Thurstons visie op wiskunde
Het feit dat AI nu moeilijke stellingen kan bewijzen, heeft ertoe geleid dat mensen in discussie zijn gegaan over waarom mensen überhaupt wiskunde bedrijven. Ik vermoed dat veel wiskundigen een paar jaar geleden gelukkig zouden zijn ingestemd met de stelling dat de wiskundige gemeenschap haar grootste prijzen en onderscheidingen toekent aan de mensen die de moeilijkste stellingen bewijzen. Nu AI echter moeilijke stellingen bewijst, lijken we veel tijd te besteden aan het uitleggen dat we deze prijzen en onderscheidingen in feite geven aan de mensen wiens ideeën ons het diepste begrip van ons vakgebied geven.
Het is ook vermeldenswaardig dat de diepste door AI gegenereerde wiskundige bewijzen op dit moment doorgaans vergezeld gingen van een slecht geschreven pdf of helemaal geen pdf, en misschien een end-to-end formalisering in Lean. Dit geeft een supermenselijk vertrouwen in de correctheid van het bewijs, maar geeft weinig aanwijzingen over waar de ideeën vandaan kwamen, of zelfs waar de nieuwe ideeën zitten. Hier verwijs ik opnieuw naar Scholze, die erop wijst dat de Elkies–Klagsbrun constructie van een elliptische kromme van rang 29 over de rationals gepaard ging met een geometrische uitleg, maar dat de nieuwe elliptische krommen van rang 30 en 31 enkel vergezeld gingen van vergelijkingen en niets anders. "We hebben eigenlijk niets geleerd."
De vaak geciteerde rechtvaardiging van het kader "het gaat niet om het aantal stellingen, maar om het menselijk begrip" is Thurstons essay uit 1994, "On proof and progress in mathematics". Deze framing van het "doel" van wiskunde is op sociale media met enige scepsis ontvangen, waarbij zelfs wordt beweerd dat wiskundigen de doelpalen verplaatsen in een wanhopige poging om te overleven. Dit cynisme is echter niet gerechtvaardigd; experts in het veld weten al decennia dat prijsioinnende resultaten ons niet alleen een nieuwe stelling opleveren, maar ook een grote hoeveelheid nieuw begrip. Om een voorbeeld uit mijn eigen vakgebied te nemen: het Wiles–Taylor–Wiles bewijs van de Laatste Stelling van Fermat loste gelijktijdig een onbenullige 350 jaar oude puzzel over positieve gehele getallen zonder toepassingen op, en gaf ons tegelijkertijd werkelijk diepgaande nieuwe inzichten in het Langlands-programma, waarvan de gevolgen 30 jaar later nog steeds voelbaar zijn.
Andere visies op wiskunde
Maar Thurstons visie is niet de enige. Ik heb deze week Hardy's "A mathematician’s apology" herlezen. Toen ik dit als student probeerde te lezen, kwam het me extreem pompeus en seksistisch voor; ik maakte het boek niet eens af. Dit keer ben ik wel tot het einde gekomen, en mijn begrip van Hardys standpunt is dat dit volledig verschilt van dat van Thurston. Hardy bedrijft wiskunde omdat hij het ziet als kunst (dus zou hij waarschijnlijk om dezelfde redenen boos zijn dat AI wiskunde bedrijft als veel kunstenaars boos zijn dat AI kunst maakt). Hij is vernietigend over hen die "uitleggen" en eerlijk wanneer hij ons vertelt dat een van zijn belangrijkste motivaties om stellingen te bewijzen is, zodat hij na zijn dood herinnerd wordt. Dit is een visie die zeer verschilt van die van Thurston, maar ook zeer verschilt van die van mijzelf.
Laat me vervolgens bespreken waarom het promoten van Thurstons visie op wiskunde (wat velen van ons nu doen) uiteindelijk tegen onze gemeenschap kan werken. AI heeft een Millenniumprobleem opgelost en dit heeft ons laten zien waar AI staat in de wiskunde. Maar ik geloof dat veel mensen in onze gemeenschap nog steeds zwaar onderschatten hoe snel AI beweegt. Als we "begrip" gebruiken als rechtvaardiging voor het voortbestaan van wiskunde als een studieobject, waar trekken we ons dan precies naartoe als AI over een jaar niet alleen stellingen bewijst, maar deze ook perfect aan mensen kan uitleggen?
Ik herinner me dat Thurstons essay me tegenstribbelde vanwege wat mij persoonlijk motiveert om wiskunde te bedrijven. Ik ben onlangs gediagnosticeerd met autisme en ik vraag me af of dit een van de redenen is waarom ik mijn positie inneem. Thurstons essay was een reactie op een eerder paper van Jaffe en Quinn, die beargumenteren dat een wiskundig idee pas echt geldig of nuttig wordt zodra het wordt verankerd door een rigoureus bewijs. Mijn eigen vakgebied (de Langlands-filosofie) zit vol argumenten die "bekend zijn bij de experts" zonder dat er een publiek toegankelijk verslag van is. Deze situatie zorgde ervoor dat ik gedesillusioneerd raakte door het veld en uiteindelijk volledig stopte met nieuwsgierigheidsgedreven onderzoek om over te stappen op wiskundige formalisering. Je kunt Lean niet misleiden; Lean accepteert geen bewijs door autoriteit of bewijs door intimidatie. Ik voel me veilig bij Lean.
Wiskunde "begrijpen"
Als PhD-student van Richard Taylor in het begin van de jaren 90 begreep ik snel dat de stelling die ik in mijn proefschrift probeerde te bewijzen, steunde op een constructie van Deligne. Ik stelde Taylor voor om eerst Deligne's bewijs te lezen, maar hij wees dit idee direct af; mijn financiering was slechts voor drie jaar en ik had simpelweg niet genoeg tijd om in deze fase van mijn carrière al de relevante literatuur volledig te doorgronden. Ik heb nooit de tijd gevonden om Deligne's constructie te lezen, of het bewijs van de Langlands–Tunnell stelling, of veel andere zaken die ik nodig had in mijn thesis. Dus "begrijp" ik mijn eigen werk wel? Wat bedoelen we eigenlijk met "menselijk begrip van wiskunde"?
Ik denk dat hoewel wiskundigen er nu in beginnen te stemmen dat wiskunde volledig draait om menselijk begrip, ze het niet eens zullen worden over wat het betekent om wiskunde op hoog niveau te begrijpen. Natuurlijk weten we wat het betekent om resultaten op bachelorniveau te begrijpen. Maar "begrijp" ik het bewijs van de Laatste Stelling van Fermat, gegeven dat ik eerder dit jaar 22 uur aan colleges over dit onderwerp heb gegeven? Ik weet dat Langlands–Tunnell cruciaal is voor Wiles, maar ik weet zeer weinig over de details. Wat als er een fout was ontdekt in het proces van formalisering? Kan men wiskunde "begrijpen" die onjuist is? Of wiskunde die onvolledig is? Ik persoonlijk kan dat niet, en ik ben tevreden om sommige dingen niet te begrijpen. Ik doe het voor de "theorem tally" (het aantal bewezen stellingen). In schril contrast met Thurston geloof ik dat "begrip" een enigszins vaag concept is, terwijl het totaal aantal correct bewezen stellingen iets is dat we kunnen meten. Ik ben me ervan bewust dat ik hierin een minderheid vorm.
Ik roep OpenAI daarom op om simpelweg hun collectie stellingen aan de wereld te presenteren, zodat we precies kunnen zien wat ze beweren gedaan te hebben. Het opruimen kan later gebeuren. In elk geval, behalve bij Navier-Stokes, hebben we gezien dat mensen AI-gegenereerde wiskunde via reverse-engineering kunnen begrijpen. Als mensen willen begrijpen, dan zullen we begrijpen. Op dit moment besteden mensen mogelijk hun tijd aan het bewijzen van stellingen die al zijn bewezen door een techbedrijf. Waar is de logica daarvan? Deze mensen hebben het recht om te weten wat er bekend is.
Een AI-optimist
Laat me nu uitleggen waarom ik een optimist ben.
In een stuk uit 2020 in de Notices of the AMS stelde ik de volgende vraag: "Als één mens gelijktijdig een begrip zou hebben van alle moderne zuivere wiskunde, hoeveel verder zouden zij dan onmiddellijk kunnen zien?" Zes jaar later beginnen we het antwoord op deze vraag te begrijpen. Machines hebben de wiskunde op het internet geabsorbeerd en zijn in staat deze data op een coherente manier te manipuleren. De weerlegging van de Erdős unit distance kwam tot stand omdat een machine toevallig expert was in zowel discrete meetkunde als klassenveldtheorie; men vindt zelden mensen die gelijktijdig expert zijn in beide. Machines beantwoorden nu vragen die men gemakkelijk zou kunnen geloven dat mensen, indien zij een paar jaar langer in de juiste groepen zouden werken, ook hadden kunnen beantwoorden. Het gaat alleen veel sneller.
Mijn persoonlijke antwoord op de vraag waar wiskunde over gaat, is dat het gaat over het bewijzen van stellingen (probleemoplossing), het ontwikkelen van instrumenten (theoriebouw) en het zien waar men heen moet (het formuleren van conjuncturen). Op dit moment hebben we veel bewijs gezien dat computers goed zijn in probleemoplossing, maar veel minder bewijs van hun vermogens op het gebied van theoriebouw of het formuleren van conjuncturen. Dit legt een harde beperking op aan hoe ver de huidige machines zullen gaan.
Voor hen die de observatie dat machines X vandaag niet kunnen doen, wegwuiven met de opmerking dat "mensen gewoon niet begrijpen hoe exponentiële groei werkt", nodig ik hen uit om de volgende feiten te overwegen. De huidige vooruitgang is inderdaad exponentieel, maar we kunnen niet verwachten dat exponentiële groei oneindig voortduurt. Bovendien is wiskunde oneindig, en dat wint het glansrijk van exponentiële groei.
Ik geloof daarom dat we in de toekomst een nieuwe "natuurlijke grens" in de wiskunde zullen bereiken, voorbij waar we nu zijn, maar waar machines vast zullen lopen en waar het niet langer levensvatbaar is om meer middelen in te zetten voor de volgende grote sprong. Ik ben een optimist, dus ik verwacht dat toekomstige machines geweldig zullen zijn; maar ik kan simpelweg niet zien hoe ze met finite middelen tot oneindigheid kunnen komen, dus ze moeten ergens stoppen. Ik geloof dat het optimale is om de machines hun gang te laten gaan, te zien wat er gebeurt, en vervolgens de reis te beginnen naar de plek waar ze zijn gestopt. Als we nu instappen, zullen ze ons naar buitengewone nieuwe plaatsen brengen. En nadat we zijn gearriveerd, begint het nieuwe avontuur.
Dit is waarom ik ook de brief heb ondertekend. Ik weet dat sommige lezers de ideeën daarin afschuwelijk zullen vinden. Maar ik kan niet anders dan enthousiast zijn over de krachtige nieuwe instrumenten die we hebben. Wir müssen wissen — wir werden wissen!
Groetjes,