Yann LeCun, een van de grondleggers van deep learning, zet zich af tegen de heersende angst voor het uitsterven van de mensheid door AI. In tegenstelling tot andere AI-experts en CEO's van bedrijven als OpenAI en Anthropic, beschouwt hij existentiële risico's als overdreven. Volgens LeCun zijn recente incidenten met AI-agents het gevolg van gebrekkig systeemontwerp en slechte cybersecurity, niet van een autonome dreiging.
LeCun is zeer kritisch over de filosofische beweging van effective altruism (EA), die hij bestempelt als 'toxisch' en 'paranoïde'. Hij beschuldigt Dario Amodei (CEO van Anthropic) ervan misleid te zijn en stelt dat waarschuwingen over het gevaar van AI vaak dienen als een vorm van regulatory capture: het manipuleren van wetgeving om concurrentie uit te schakelen.
Momenteel richt LeCun zich op zijn nieuwe bedrijf, AMI Labs. Hier werkt hij aan world models op basis van de JEPA-architectuur (Joint Embedding Predictive Architecture). In plaats van taalgeneratie, richt AMI Labs zich op AI voor de fysieke wereld, met toepassingen in robotica en industriële anomaliedetectie.
AI-’godvader’ LeCun heeft ‘geen enkele zorg’ over uitsterven van de mensheid, noemt CEO van Anthropic ‘misleid’
Yann LeCun won in 2018 de Turing Award—het equivalent van de Nobelprijs voor computerwetenschappen—samen met mederechercheurs Geoffrey Hinton en Yoshua Bengio voor hun werk aan deep learning, de neurale netwerktechnologie die ten grondslag ligt aan de huidige AI-boom. Maar vandaag, bijna tien jaar later, is LeCun de enige van de drie AI-’godvaders’ die zich niet ernstig zorgen maakt over de risico's van kunstmatige intelligentie. Sterker nog, hij vindt dat veel van deze risico's worden overdreven en dat de constante waarschuwingen van bestuurders bij enkele toonaangevende AI-bedrijven misplaatst en contraproductief zijn.
Geen vrees voor existentiële risico's
LeCun is "totaal niet" bezorgd dat AI de mensheid zal uitroeien en heeft "geen enkele zorg" over de recente reeks incidenten met ongereguleerde AI, waaronder de gebeurtenis in juli waarbij agents van OpenAI autonoom Hugging Face hackten. Hij schrijft deze incidenten toe aan gebrekkig menselijk toezicht en systeemontwerp, en stelt dat ze "volledig te voorkomen" zijn. Deze overtuiging wordt gedeeld door de Amerikaanse minister van Financiën, Scott Bessent, die het Hugging Face-incident deze maand noemde als de "verantwoordelijkheid van het management van OpenAI."
"Die agents doen precies wat hen is gevraagd," aldus LeCun. "Ze hadden in sandboxes moeten zitten, maar de sandboxes waren lek en vreselijk ontworpen." Volgens hem ontbreekt het bij veel AI-labs aan een fundamenteel begrip van cybersecurity, iets wat deze week ook door een veiligheidsonderzoeker van OpenAI werd aangestipt als een van de belangrijkste redenen waarom AI "grote schade aan de wereld" kan toebrengen.
De invloed van 'Effectief Altruïsme'
Volgens LeCun hebben veel mensen die werken aan AI-veiligheid "meestal een agenda die ze willen pushen". Hiermee doelt hij op effective altruism (EA), de filosofische beweging die geobsedeerd is door de risico's die AI voor de mensheid vormt. EA was nauwelijks bekend bij het grote publiek totdat het onlangs in het nieuws kwam na een virale socialmediapost van Jacob Coxon, een voormalig onderzoeker bij Anthropic en OpenAI. Coxon beweerde dat medewerkers bij deze bedrijven "oprecht geloven dat [AI] ons aan het einde van dit decennium allemaal kan doden."
LeCun vindt EA "super toxisch" en een "complete ramp". Hij stelt dat aanhangers van deze beweging die in AI-labs werken, lijden aan een "paranoia" die ertoe leidt dat ze slechte beslissingen nemen. "Blijkbaar hebben mensen mentale problemen," aldus LeCun. Deze maand rapporteerde de Financial Times ook dat sommige medewerkers bij het AI Security Institute in het VK, evenals bij OpenAI, Anthropic en Google DeepMind, psychologische hulp hebben gezocht, vrijverlof hebben opgenomen of publiekelijk hebben gesproken over stress door de angst dat hun werk ernstige schade zou kunnen aanrichten.
Kritiek op Dario Amodei
CEO van Anthropic, Dario Amodei, en veel van de oprichtende medewerkers van het bedrijf staan erom bekend sympathie te hebben voor EA-ideeën en in het verleden EA-evenementen te hebben bezocht. Hoewel Amodei heeft ontkend een aanhanger van EA te zijn en Anthropic stelt dat haar medewerkers een divers scala aan meningen vertegenwoordigen, wijst LeCun op andere connecties. De zus van Amodei, Daniela (medeoprichter en president van Anthropic), is getrouwd met Holden Karnofsky, die twee EA-gelieerde filantropieën heeft medeopgericht, waaronder Open Philanthropy (nu Coefficient Giving). Karnofsky was van 2017 tot 2021 ook lid van het bestuur van OpenAI.
"Dario probeert zich te distantiëren van Open Philanthropy, maar hij is er totaal in," zegt LeCun. "Ik denk dat hij volledig misleid is." Later in het interview noemt hij Amodei zelfs "gek".
Volgens LeCun is het "ongelooflijk destructief voor iedereen, inclusief het publiek dat doodsbang is", wanneer Amodei en OpenAI-CEO Sam Altman beweren dat "AI ons allemaal kan doden". Ook voor de AI-industrie is dit schadelijk: "het is de slechtste marketingcampagne die je je kunt voorstellen."
Publieke angst en politieke verschuivingen
De angst in de samenleving is wijdverbreid. Tijdens een gesprek in een café in de wijk SoHo in New York merkt LeCun dit direct op: wanneer de interviewer aan een andere bezoeker vertelt dat LeCun een kopstuk in AI is, stelt die vrouw direct de vraag: "Dus, gaat AI ons doden?"
Deze angst is zo groot dat president Trump is begonnen met het herpositioneren van kunstmatige intelligentie om het vertrouwen te herstellen. Hij tekende deze week een decreet om de term "artificial intelligence" te vervangen door "super intelligence". Gedurende een groot deel van deze maand plaatsten de socialmediaccounts van zijn administratie berichten tegen het AI-doemdenken. In het midden van september tweette het Department of War: "Americanism, not effective altruism."
Hoewel LeCun geen fan is van Trump en kritiek heeft op de bezuinigingen op onderzoekbudgetten door de huidige regering, zijn de twee het ongebruikelijk eens over de angst voor AI.
Regulatory Capture: De angst voor marktmanipulatie
LeCun maakt zich meer zorgen over regulatory capture dan over het uitsterven van de mensheid. Regulatory capture verwijst naar het idee dat dominante bedrijven overheidsregels zo kunnen vormgeven dat hun eigen marktpositie wordt beschermd, waardoor het voor kleinere concurrenten onmogelijk wordt om op te komen. Groepen die door EA worden gesteund, lobbyen actief voor AI-veiligheidswetten in het Amerikaanse Congres, net als veel grote tech- en AI-bedrijven. LeCun gelooft daarentegen niet dat AI nieuwe regulering nodig heeft.
Hij erkent dat Amodei "eerlijk" is en het beste probeert te doen voor zijn bedrijf, dat aan de vooravond van een beursgang (IPO) staat. "Maar beweren dat AI te gevaarlijk is om in onze handen te leggen, zeggen dat het gereguleerd moet worden en beweren dat open-source modellen te gevaarlijk zijn—dit is regulatory capture die een verschrikkelijk effect zou hebben als het door het Congres wordt overgenomen."
De oprichting van AMI Labs
LeCun richt zich nu hoofdzakelijk op de opbouw van zijn nieuwe bedrijf, AMI Labs, dat hij oprichtte nadat hij Meta verliet (waar hij twaalf jaar werkte, waarvan zeven als chief AI scientist). De naam van het bedrijf wordt uitgesproken als één woord, "ami", wat Frans is voor "vriend". Sinds de beursgang in maart 2026 bouwen de ruim 60 medewerkers aan een technologie genaamd world models. LeCun betoogt al lange tijd dat deze modellen uiteindelijk de large language models (LLM's) zullen vervangen als het primaire systeem achter AI.
In het bijzonder bouwt AMI aan world models die gebruikmaken van JEPA (Joint Embedding Predictive Architecture). Dit is een neurale netwerkarchitectuur die LeCun heeft gepionierd. JEPA leert modellen om data te voorspellen in een representatieve ruimte binnen de middelste lagen van een neuraal netwerk, in plaats van het genereren van ruwe pixels (zoals veel concurrerende world models) of woorden (zoals LLM's).
De huidige focus van het bedrijf ligt op industriële toepassingen: "Het is AI voor de fysieke wereld, dus het is niet taalgerelateerd," zegt LeCun. "Het gaat om systemen die de echte wereld begrijpen, zoals een productiefaciliteit of een turbojetmotor." De belangrijkste toepassingen zijn onder andere anomaliedetectie of robotica. Hij geeft het voorbeeld van een machine die een vreemd geluid maakt en kapot begint te gaan; zo'n systeem zou dat zo vroeg mogelijk moeten detecteren. Ook noemt hij een systeem dat de wereld begrijpt zoals een kat dat doet: een kat weet dat een vaas zal vallen als hij deze van het aanrecht duwt.
Met AMI Labs hoopt LeCun te bewijzen dat hij al die tijd gelijk had. Over het eerste product van het bedrijf hield hij zich vaag, behalve dat het "binnenkort" debuteert en dat er mogelijk open-source modellen bij betrokken zijn, aangezien hij een groot voorstander is van open modellen.
"Wat ik wil dat mensen weten, is dat AI nog niet voorbij is," concludeerde LeCun.
AI-’godvader’ LeCun heeft ‘geen enkele zorg’ over uitsterven van de mensheid, noemt CEO van Anthropic ‘misleid’
Yann LeCun won in 2018 de Turing Award—het equivalent van de Nobelprijs voor computerwetenschappen—samen met mederechercheurs Geoffrey Hinton en Yoshua Bengio voor hun werk aan deep learning, de neurale netwerktechnologie die ten grondslag ligt aan de huidige AI-boom. Maar vandaag, bijna tien jaar later, is LeCun de enige van de drie AI-’godvaders’ die zich niet ernstig zorgen maakt over de risico's van kunstmatige intelligentie. Sterker nog, hij vindt dat veel van deze risico's worden overdreven en dat de constante waarschuwingen van bestuurders bij enkele toonaangevende AI-bedrijven misplaatst en contraproductief zijn.
Geen vrees voor existentiële risico's
LeCun is "totaal niet" bezorgd dat AI de mensheid zal uitroeien en heeft "geen enkele zorg" over de recente reeks incidenten met ongereguleerde AI, waaronder de gebeurtenis in juli waarbij agents van OpenAI autonoom Hugging Face hackten. Hij schrijft deze incidenten toe aan gebrekkig menselijk toezicht en systeemontwerp, en stelt dat ze "volledig te voorkomen" zijn. Deze overtuiging wordt gedeeld door de Amerikaanse minister van Financiën, Scott Bessent, die het Hugging Face-incident deze maand noemde als de "verantwoordelijkheid van het management van OpenAI."
"Die agents doen precies wat hen is gevraagd," aldus LeCun. "Ze hadden in sandboxes moeten zitten, maar de sandboxes waren lek en vreselijk ontworpen." Volgens hem ontbreekt het bij veel AI-labs aan een fundamenteel begrip van cybersecurity, iets wat deze week ook door een veiligheidsonderzoeker van OpenAI werd aangestipt als een van de belangrijkste redenen waarom AI "grote schade aan de wereld" kan toebrengen.
De invloed van 'Effectief Altruïsme'
Volgens LeCun hebben veel mensen die werken aan AI-veiligheid "meestal een agenda die ze willen pushen". Hiermee doelt hij op effective altruism (EA), de filosofische beweging die geobsedeerd is door de risico's die AI voor de mensheid vormt. EA was nauwelijks bekend bij het grote publiek totdat het onlangs in het nieuws kwam na een virale socialmediapost van Jacob Coxon, een voormalig onderzoeker bij Anthropic en OpenAI. Coxon beweerde dat medewerkers bij deze bedrijven "oprecht geloven dat [AI] ons aan het einde van dit decennium allemaal kan doden."
LeCun vindt EA "super toxisch" en een "complete ramp". Hij stelt dat aanhangers van deze beweging die in AI-labs werken, lijden aan een "paranoia" die ertoe leidt dat ze slechte beslissingen nemen. "Blijkbaar hebben mensen mentale problemen," aldus LeCun. Deze maand rapporteerde de Financial Times ook dat sommige medewerkers bij het AI Security Institute in het VK, evenals bij OpenAI, Anthropic en Google DeepMind, psychologische hulp hebben gezocht, vrijverlof hebben opgenomen of publiekelijk hebben gesproken over stress door de angst dat hun werk ernstige schade zou kunnen aanrichten.
Kritiek op Dario Amodei
CEO van Anthropic, Dario Amodei, en veel van de oprichtende medewerkers van het bedrijf staan erom bekend sympathie te hebben voor EA-ideeën en in het verleden EA-evenementen te hebben bezocht. Hoewel Amodei heeft ontkend een aanhanger van EA te zijn en Anthropic stelt dat haar medewerkers een divers scala aan meningen vertegenwoordigen, wijst LeCun op andere connecties. De zus van Amodei, Daniela (medeoprichter en president van Anthropic), is getrouwd met Holden Karnofsky, die twee EA-gelieerde filantropieën heeft medeopgericht, waaronder Open Philanthropy (nu Coefficient Giving). Karnofsky was van 2017 tot 2021 ook lid van het bestuur van OpenAI.
"Dario probeert zich te distantiëren van Open Philanthropy, maar hij is er totaal in," zegt LeCun. "Ik denk dat hij volledig misleid is." Later in het interview noemt hij Amodei zelfs "gek".
Volgens LeCun is het "ongelooflijk destructief voor iedereen, inclusief het publiek dat doodsbang is", wanneer Amodei en OpenAI-CEO Sam Altman beweren dat "AI ons allemaal kan doden". Ook voor de AI-industrie is dit schadelijk: "het is de slechtste marketingcampagne die je je kunt voorstellen."
Publieke angst en politieke verschuivingen
De angst in de samenleving is wijdverbreid. Tijdens een gesprek in een café in de wijk SoHo in New York merkt LeCun dit direct op: wanneer de interviewer aan een andere bezoeker vertelt dat LeCun een kopstuk in AI is, stelt die vrouw direct de vraag: "Dus, gaat AI ons doden?"
Deze angst is zo groot dat president Trump is begonnen met het herpositioneren van kunstmatige intelligentie om het vertrouwen te herstellen. Hij tekende deze week een decreet om de term "artificial intelligence" te vervangen door "super intelligence". Gedurende een groot deel van deze maand plaatsten de socialmediaccounts van zijn administratie berichten tegen het AI-doemdenken. In het midden van september tweette het Department of War: "Americanism, not effective altruism."
Hoewel LeCun geen fan is van Trump en kritiek heeft op de bezuinigingen op onderzoekbudgetten door de huidige regering, zijn de twee het ongebruikelijk eens over de angst voor AI.
Regulatory Capture: De angst voor marktmanipulatie
LeCun maakt zich meer zorgen over regulatory capture dan over het uitsterven van de mensheid. Regulatory capture verwijst naar het idee dat dominante bedrijven overheidsregels zo kunnen vormgeven dat hun eigen marktpositie wordt beschermd, waardoor het voor kleinere concurrenten onmogelijk wordt om op te komen. Groepen die door EA worden gesteund, lobbyen actief voor AI-veiligheidswetten in het Amerikaanse Congres, net als veel grote tech- en AI-bedrijven. LeCun gelooft daarentegen niet dat AI nieuwe regulering nodig heeft.
Hij erkent dat Amodei "eerlijk" is en het beste probeert te doen voor zijn bedrijf, dat aan de vooravond van een beursgang (IPO) staat. "Maar beweren dat AI te gevaarlijk is om in onze handen te leggen, zeggen dat het gereguleerd moet worden en beweren dat open-source modellen te gevaarlijk zijn—dit is regulatory capture die een verschrikkelijk effect zou hebben als het door het Congres wordt overgenomen."
De oprichting van AMI Labs
LeCun richt zich nu hoofdzakelijk op de opbouw van zijn nieuwe bedrijf, AMI Labs, dat hij oprichtte nadat hij Meta verliet (waar hij twaalf jaar werkte, waarvan zeven als chief AI scientist). De naam van het bedrijf wordt uitgesproken als één woord, "ami", wat Frans is voor "vriend". Sinds de beursgang in maart 2026 bouwen de ruim 60 medewerkers aan een technologie genaamd world models. LeCun betoogt al lange tijd dat deze modellen uiteindelijk de large language models (LLM's) zullen vervangen als het primaire systeem achter AI.
In het bijzonder bouwt AMI aan world models die gebruikmaken van JEPA (Joint Embedding Predictive Architecture). Dit is een neurale netwerkarchitectuur die LeCun heeft gepionierd. JEPA leert modellen om data te voorspellen in een representatieve ruimte binnen de middelste lagen van een neuraal netwerk, in plaats van het genereren van ruwe pixels (zoals veel concurrerende world models) of woorden (zoals LLM's).
De huidige focus van het bedrijf ligt op industriële toepassingen: "Het is AI voor de fysieke wereld, dus het is niet taalgerelateerd," zegt LeCun. "Het gaat om systemen die de echte wereld begrijpen, zoals een productiefaciliteit of een turbojetmotor." De belangrijkste toepassingen zijn onder andere anomaliedetectie of robotica. Hij geeft het voorbeeld van een machine die een vreemd geluid maakt en kapot begint te gaan; zo'n systeem zou dat zo vroeg mogelijk moeten detecteren. Ook noemt hij een systeem dat de wereld begrijpt zoals een kat dat doet: een kat weet dat een vaas zal vallen als hij deze van het aanrecht duwt.
Met AMI Labs hoopt LeCun te bewijzen dat hij al die tijd gelijk had. Over het eerste product van het bedrijf hield hij zich vaag, behalve dat het "binnenkort" debuteert en dat er mogelijk open-source modellen bij betrokken zijn, aangezien hij een groot voorstander is van open modellen.
"Wat ik wil dat mensen weten, is dat AI nog niet voorbij is," concludeerde LeCun.
Groetjes,