Hoe voorkomen we dat de wiskunde terugvalt in het tijdperk van geheimhouding uit de middeleeuwen?

De historische context van geheimhouding in de wiskunde

De reputatie van een wiskundige hing af van het kennen van technieken die anderen niet kenden. Wiskundigen daagden elkaar regelmatig uit voor semi-publieke wiskundige wedstrijden: twee personen gaven elkaar een reeks problemen. Wie de problemen het snelst oploste, of de meeste problemen in een bepaalde tijd oploste, won de wedstrijd en kon zo financiering en sociale status veiligstellen, terwijl de onsuccesvolle deelnemer publieke vernedering riskeerde.

Dit creëerde een sterke stimulans om ontdekkingen geheim te houden. Een voorbeeld is Scipione del Ferro, die nu bekend staat om het ontdekken van een methode voor het oplossen van gedegradeerde derdegraadsvergelijkingen rond 1510. Hij hield deze methode echter 20 jaar lang verborgen omdat deze kennis hem professionele zekerheid bood; hij onthulde de methode aan zijn student pas op zijn sterfbed.

Het kennen van een specifieke formule, algoritme of techniek kon een individu aanzienlijke maatschappelijke macht en connecties geven, iets wat vandaag de dag simpelweg niet meer mogelijk is. Deze houding hield aan tot ver in de late middeleeuwen en daarna. Leibniz klaagde bij de Royal Society over beschuldigingen dat hij het raamwerk van Newton had overgenomen en simpelweg de notatie had veranderd. De Royal Society stelde een commissie in om dit te onderzoeken (terwijl Newton op dat moment president was van de Royal Society), die concludeerde dat Newton de enige auteur van de calculus was. Veel van het geschil kwam voort uit de beslissing van Newton om publicatie uit te stellen en zijn raamwerk geheim te houden.

De huidige situatie en de dreiging van AI

Tegenwoordig worden resultaten aangemoedigd om gepubliceerd te worden in plaats van uitgesteld of geheim gehouden (hoewel er grote problemen zijn met de werking van tijdschriften en betaalmuren). De stimulansen zijn verschoven naar het schrijven van papers en de financieringsproblematiek is grotendeels overgegaan in een systeem van subsidieaanvragen.

Dit sociale contract lijkt echter te veranderen door de komst van grote AI-bedrijven die beroemde problemen aanpakken voor PR-doeleinden. Stellingen zijn "goedkoop" geworden. Veel meer mensen met voldoende technische vaardigheden kunnen grotendeels correcte bewijzen genereren voor veel problemen, vooral voor bachelor- en masterstudies, maar ook voor voorheen onopgeloste problemen. De bewijzen die LLM's (Large Language Models) produceren, kunnen zelfs worden aangestuurd om een volledige Lean-formalisering van de bewijzen te geven. Sommigen noemen de huidige situatie dan ook "de val van de bewijseconomie".

Er is een apart probleem wat betreft de "AI-slop" (waardeloze output) van Lean-formaliseringen die geen mens kan begrijpen. Maar zelfs als we de twijfel over de correctheid van Lean negeren, lijkt het erop dat iedereen met genoeg geld voor rekenkracht (compute) een zwerm "typemachines-apen" kan loslaten zodra er geruchten ontstaan dat een bekend probleem dicht bij een oplossing is.

Voor een recent geclaimd tegenvoorbeeld van Navier-Stokes schatten verschillende partijen de kosten voor rekenkracht als volgt:

• Capital&Compute: ongeveer $6,5 miljoen.
• TensorFeed: $10 tot $15 miljoen (inclusief overige kosten).
• Business Insider: een totale kostprijs van $10 tot $40 miljoen.

Ongeacht de werkelijke kosten lijkt het erop dat professionele wiskundigen nu voorzichtig moeten zijn met wat ze in een LLM invoeren en goed moeten nadenken over hoe ze een resultaat onthullen en publiceren. Het vermogen om miljoenen dollars aan rekenkracht uit te geven om een volledige formele bewijsvoering te bemachtigen voordat iemand anders kan reageren, is iets wat alleen bedrijven met grote hoeveelheden kapitaal kunnen doen. Bovendien wordt de technologie afgeschermd; vanwege de enorme kosten voor de infrastructuur is het voor een individu niet haalbaar.

Terence Tao heeft dit probleem op Mastodon als volgt geformuleerd:

"Het is nu de identificatie van een veelbelovend probleem dat de schaarse en kostbare hulpbron is. We hebben gezien dat zelfs het gerucht dat iemand aan een probleem werkt, een enorme hoeveelheid AI-gestuurde inspanning kan triggeren om het probleem 'plat te walsen' voordat het oorspronkelijke onderzoeksproject de kans krijgt zijn volledige potentieel te bereiken. De prikkels wijzen nu mogelijk in de richting van het niet langer delen van veelbelovende onderzoeksrichtingen met de bredere gemeenschap, wat eeuwenoude tradities van open wetenschap zou omkeren en ernstige langetermijnschade zou toebrengen aan de toekomst van het vakgebied."

Kortom, het onbezonnen gebruik van krachtige instrumenten voor het extraheren van oplossingen kan het onmiddellijke doel van het oplossen van problemen bereiken, maar ten koste van het ecosysteem voor de volgende golf van vooruitgang.

Voorstellen voor mitigatie

Hoewel het technisch onmogelijk kan zijn om het gebruik van geautomatiseerde tools volledig te verbieden, kunnen we bepaalde klassen van problemen aanwijzen die een zorgvuldige analyse vereisen. Een oplossing die alleen het resultaat geeft, zonder inzicht in het proces of het landschap van nabijgelegen problemen, heeft in dat geval een verwaarloosbare of zelfs negatieve waarde.

Twee potentiële oplossingen:

1. Menselijke toeschrijving: Vereis dat alleen een mens, of een groep mensen, redelijkerwijs kan worden genoemd of gecrediteerd voor een resultaat (vooral bij een prijsvraag/bounty). Als er geen mens achter het resultaat zit, moet dit als zodanig worden erkend. Dit is vergelijkbaar met de Amerikaanse auteurswet, die stelt dat alleen werken gemaakt door mensen kunnen worden geregistreerd (bijv. foto's gemaakt door dieren kunnen niet worden auteursrechtelijk beschermd en vallen in het publieke domein).
2. Publicatie van methodologie: Vereis dat de volledige methodologie voor het vinden van de resultaten wordt gepubliceerd. Voor een mens houdt dit in: het lezen van boeken, papers en het gebruik van het eigen brein. Voor een AI-zwerm zou dit betekenen dat de volledige systeem-prompts en de opzet van het agent-systeem openbaar moeten worden gemaakt. Omdat deze opzet meestal als bedrijfsgeheim wordt behandeld, zou dit grote AI-corporaties ontmoedigen om resultaten "op te scoepen" op basis van een gerucht.

---

Reacties en alternatieve perspectieven uit de gemeenschap

Verschuiving van stimulansen

Een voorgestelde langetermijnoplossing is om het stimulansysteem te veranderen. In plaats van het grootste deel van de eer te geven aan de laatste persoon die een expliciet geformuleerde conjectuur oplost, zouden we mensen moeten belonen die:

• Erkennen dat bepaalde conjecturen in de eerste plaats gemaakt moeten worden.
• Bijdragen aan het menselijk wiskundig begrip, ongeacht of zij de "eerste" waren die een idee benaderden of de oplossing boden.

De disconnectie met de maatschappij

Er wordt betoogd dat wiskunde is afgedreven naar een vorm van "intellectuele puurheid" die losstaat van andere vakgebieden en de algemene bevolking. In het verleden was wiskunde nauw verbonden met het verklaren van natuurverschijnselen (zoals de wetten van Kepler en de latere ontwikkeling van calculus door Newton).

Als de publieke opinie wordt dat LLM's autonoom langlopende open problemen kunnen oplossen en dat wiskundigen daardoor overbodig zijn, reflecteert dat een falen in het toegankelijk maken van de waarde van wiskundig onderzoek voor de samenleving.

De "show-off" economie

Sommigen stellen dat het investeren van miljoenen in het oplossen van pure wiskundige problemen puur gaat over prestige en het "de eerste zijn". Voor wiskundigen aan minder rijke universiteiten heeft het weinig zin om dezelfde resultaten met pen en papier na te jagen. De enige zinvolle strategie is om onderzoek te doen dat "orthogonaal" is aan waar AI goed in is.

Prioriteit van communicatie boven prioriteit van tijd

Er is een pleidooi om de waarde van een wiskundige bijdrage niet langer te baseren op wie het eerste was, maar op heldere communicatie, expositie en het opbouwen van het algemene corpus van kennis. Het doel van een wiskundige zou niet simpelweg het als eerste beklimmen van een berg moeten zijn, maar het cultiveren van de collectieve kennis van een gemeenschap.

---

Analyse en strategieën voor wetenschappelijke openheid

Factoren die geheimhouding in de hand werken

Naast AI zijn er andere factoren die de openheid van wiskunde kunnen belemmeren:

• Politieke en religieuze factoren: Historisch gezien werd kennis soms gebruikt als machtsmiddel of beperkt door religieuze instituten.
• Veiligheid en "Dual-Use": In velden zoals cryptografie kunnen resultaten worden geclassificeerd als staatsgeheim om misbruik te voorkomen.
• Commerciële belangen: Bedrijven kunnen algoritmen geheimhouden via patenten of NDA's voor concurrentievoordeel.
• Academische cultuur: Een focus op publicaties in prestigieuze tijdschriften in plaats van het open delen van data en codes.

Risico's van een gebrek aan openheid

• Onherhaalbaarheid: Kennis kan verloren gaan door oorlogen, rampen of digitale data-corruptie.
• Kennisgap: Beperkte toegang vergroot de kloof tussen ontwikkelde landen en ontwikkelingslanden.
• Innovatiestop: Zonder openheid wordt samenwerking geblokkeerd en vertraagt de verificatie van nieuwe resultaten.

Strategieën voor het behoud van openheid

1. Beleid en Infrastructuur

• Implementatie van Open Access-beleid op nationaal en institutioneel niveau.
• Investeren in digitale repositories die voldoen aan de FAIR-principes (Findable, Accessible, Interoperable, Reusable).
• Gebruik van collaboratieve tools zoals Git, Jupyter Notebooks en LaTeX voor transparante documentatie.

2. Onderwijs en Cultuur

• Integratie van 21e-eeuwse vaardigheden (communicatie, kritisch denken) in het wiskundeonderwijs.
• Stimuleren van "outreach"-programma's om de relevantie van wiskunde aan het grote publiek te tonen.
• Aanpassen van academische evaluaties zodat het open delen van bronnen wordt gewaardeerd in plaats van alleen de uiteindelijke publicatie.

3. Ethische kaders en Juridische balans

• Ontwikkelen van ethische codes voor het verantwoord delen van data.
• Zoeken naar een balans in intellectueel eigendomsrecht die innovatie beschermt zonder de verspreiding van essentiële kennis te blokkeren.
• Transparante mechanismen voor onderzoek met "dual-use" risico's, waarbij de wetenschappelijke gemeenschap betrokken is bij de afweging tussen veiligheid en openheid.

4. Archivering en Behoud

• Inrichten van veilige digitale archieven voor de lange termijn om te voorkomen dat bewijzen en codes verloren gaan door verouderde formaten of hardwarefalen.