Seks, AI en de Apocalyps

Als zorgen over AI-veiligheid en het einde van de wereld onlangs in je leven zijn getreden, is dat waarschijnlijk door een ontslagbrief.

Op 8 september 2026 nam een onderzoeker genaamd Jacob Coxon ontslag bij Anthropic, een van de twee vooraanstaande AI-labs in de VS, wiens merk zich heeft geprobeerd te profileren als de voorzichtige partij ten opzichte van zijn concurrenten. Hij had de afgelopen drie jaar pretraining-onderzoek gedaan bij OpenAI en daarna bij Anthropic — het motorruimte-werk dat grote modellen capabel maakt. In zijn afscheidsbrief schreef hij onder meer: "De mensen die AI bouwen, geloven oprecht dat het ons tegen het einde van het decennium allemaal zou kunnen doden. Dit is geen marketingstunt."

Hij vertrok twee maanden voordat zijn aandelen vested waren en liet deze simpelweg vallen. De post werd binnen een dag meer dan honderd miljoen keer bekeken. Verrassend genoeg haastten zijn collega's zich niet om hem te corrigeren. Evan Hubinger, die de alignment-wetenschap bij Anthropic leidt, postte binnen enkele uren dat Coxon gelijk had, dat ze werkelijk oprecht geloven dat AI alle mensen zou kunnen doden, en dat zijn persoonlijke schatting van de kans daarop ergens boven de één op tien lag binnen een decennium. Meer dan twee dozijn leden van het Congres verklaarden dat er iets gedaan moest worden. Elon Musk, die zijn eigen frontier-lab bouwt, noemde het geheel een 'psy-op', en mainstream mediakanalen gaven voorspelbaar adembenemende verslaglegging aan de daaropvolgende razernij.

Om de ernst van deze waarschuwing realistisch te kunnen evalueren, moeten we de mensen begrijpen die hem uiten. De luidste stemmen die waarschuwen voor het einde van de wereld komen voort uit een zeer specifieke, vijfentwintig jaar oude internetsubcultuur; een gemeenschap die zichzelf ziet als mensen die helderder denken dan iedereen anders. Buiten Silicon Valley lijkt deze subcultuur obscuur, een fandom met ongewoon nerdige literaire voorkeuren. Binnen de technologie-industrie is dat allesbehalve het geval. Hun schrijvers bepalen reputaties. Hun alumni bemannen de labs, de veiligheidsinstituten en de filantropische organisaties die bepalen wat "AI-veiligheid" betekent. Hun argumenten, huwelijken, vetes en seksuele voorkeuren zijn zwaar verweven in de structuur van de organisaties die nu vragen om het vertrouwen van het publiek over de toekomst van de soort.

Tien maanden voordat Coxon ontslag nam, in december 2025, kwamen bijna vijfhonderd mensen samen in een concertzaal in Berkeley voor een ceremonie over het mogelijke einde van de mensheid. Er was een liveband en een koor van achtentwintig personen. Er waren liturgische lezingen. Terwijl liederen en speeches de zaal meenamen van het verre verleden van de mensheid naar haar onzekere toekomst, dimden de kroonluchters één voor één. In grote getale waren werknemers van organisaties aanwezig die artificial intelligence proberen te bouwen of te beheersen. Op het donkerste punt zat de organisator aan de rand van het podium, met een brekende stem, en zei tegen de zaal: "Jongens... ik denk niet dat we het gaan redden."

De organisator was Raymond Arnold, een webontwikkelaar, game-designer, muzikant en langdurige bouwer van instituten voor de rationalistische gemeenschap. Arnold, opgegroeid tussen het katholicisme en het atheïsme, ontdekte de rationalistische beweging als jongvolwassene en merkte dat dit zijn capaciteit voor het 'sacrale gevoel' radicaal uitbreidde. In 2011 nodigde hij negentien vrienden uit in een appartement in New York, ingericht met olielampen, plasmaballen en lichtzwaarden, om een feestdag voor hun nieuwe wereldbeeld te testen. Ze zongen over de eerste wintervuren en de technologieën die de toekomst van de mensheid vormgeven, doofden de laatste kaars en zaten samen in het donker. Twee jaar later maakte Arnold van het experiment een publieke productie genaamd Brighter Than Today. Versies verspreidden zich al snel van New York en de Bay Area naar steden in Noord-Amerika, Europa en daarbuiten.

Arnold had Secular Solstice aanvankelijk bedacht als een brede humanistische feestdag, maar het werd de belangrijkste feestdag in de rationalistische kalender. Dit was niet geheel toevallig. Hij organiseert de gemeenschap sinds 2011, helpt nu bij het runnen van zowel LessWrong als Lighthaven — de conferentiecampus in Berkeley die als fysiek centrum dient — en heeft zijn functie oprecht omschreven als die van een "dorpspriester". Solstice was zijn poging om de culturele technologie te construeren die een duurzame beweging nodig heeft: een canon van liederen en lezingen, een rituele overgang van licht naar donker en terug, en een jaarlijkse gelegenheid voor geografisch verspreide gelovigen om in één ruimte samen te komen.

Tegen 2025 schatte Arnold de kans op een AI-catastrofe op meer dan vijftig procent en maakte hij zich zorgen dat zijn eigen ritueel niet langer uitgerust was om op een psychologisch gezonde manier over uitsterven na te denken. Hij had de productie van Solstice grotendeels overgelaten aan andere organisatoren, maar keerde terug om vorm te geven aan wat hij dacht dat "de laatste Solstice" zou kunnen zijn, compleet met een nazorgbijeenkomst rond een vuurplaats. De avond bood alles wat religies traditioneel hebben geboden: kameraadschap, ritueel, een gedeeld verhaal over de plek van de mensheid in het universen, en een plek om te zitten met de wetenschap dat je zult sterven. Mogelijk spoedig. Mogelijk door iets wat je vrienden hebben gebouwd.

Volg de connecties vanuit die kamer en je komt in werkelijk vreemd terrein terecht:

• Een Harry Potter-fanfic die wordt gebruikt als wervingskanaal.
• Psychologische workshops die door voormalige deelnemers als dwingend worden beschreven.
• Een programma voor het fokken van intelligentere kinderen, gepromoot door een AI-instituut.
• Een sekswerker uit Idaho die een van de meest gelezen schrijvers van de subcultuur werd en nu een residentie voor AI-doom propaganda runt met Grimes, de ex-vriendin van Elon Musk.
• Een splintersect die vluchtte naar sleepboten en wiens leden zijn gelinkt aan zes sterfgevallen.
• En een blogger die de democratie wilde afschaffen, de aandacht trok van verschillende miljardairen en toekeek hoe zijn ideeën vorm kregen in het kantoor van de vicepresident.

Ik ben me ervan bewust dat dit, voor wie niet zoveel op internet surft als ik, volkomen krankzinnig klinkt. Echter, elk onderdeel hiervan is uitgebreid gedocumenteerd door talrijke bronnen. De mensen in dit verhaal zijn geen geheime genootschap dat zich tijdens diners coördineert. Ze zijn een sociale scene: overlappende vriendengroepen, financieringsrelaties en seksuele en romantische relaties, allemaal verweven in de instituten die je vragen hen te vertrouwen over AI-regulering.

Een van de vele tekortkomingen van de mainstream media is dat het geloofwaardig rapporteren over deze zaken zo absurd is, dat je niet kunt verwachten dat lezers het serieus nemen. Ik zal echter proberen een grondig verslag te geven van hoe onze huidige glijbaan naar neo-fascisme, theocratische dystopie en het voorspelde einde van de wereld diep geworteld is in de geschiedenis van deze subculture.

Laten we dus teruggaan naar het jaar tweeduizend.

De profeet

We beginnen bij Eliezer Yudkowsky, die jaren voordat er enige hedendaagse AI-bedrijven bestonden, al een enorm besef had van zijn historische belang.

Yudkowsky werd geboren in 1979 en groeide op in een Modern Orthodox Joods gezin. Volgens eigen zeggen schreef hij het gehele instituut van het openbaar onderwijs in de tweede klas al af, het jaar waarin hij ontdekte dat zijn wiskundeleraar niet wist wat een logaritme was. Hij las Feynman's QED op negenjarige leeftijd en zegt het meeste ervan te hebben begrepen. Hij beschouwt zijn tijd op school als tien verloren jaren; hij stopte rond de achtste klas, mede om gezondheidsredenen. Geen middelbare school, geen universiteit, geen formele training van welke aard dan ook in het veld van AI.

Op elfjarige leeftijd kreeg hij van een oom Great Mambo Chicken and the Transhuman Condition, een kroniek uit 1990 over cryonicisten, ruimte-excentriekelingen en mensen die plannen maakten om hun geest in computers te uploaden. Zijn eigen samenvatting van deze ontmoeting is kort: daarna wist hij wat belangrijk was, en dat zijn carrière dat zou raken. In zijn late tienerjaren vond hij de transhumanisten online. Tegen het jaar 2000, op twintigjarige leeftijd, had hij het Singularity Institute for Artificial Intelligence mede-opgericht. Zijn website bood toen al het complete pakket: een essay over de Singulariteit, een document waarin werd geschetst hoe je daadwerkelijk een transhumane AI zou kunnen coderen, een plan om de mensheid van hier naar daar te krijgen, en een autobiografie die de bijzondere kwalificaties van de auteur uitlegde.

Zijn autobiografie opent zelfs met een gelijkenis: als klein kind gooide hij zijn favoriete waterpistool van een balkon op de derde verdieping, liever dan te accepteren dat zijn moeder kon uitlenen wat van hem was, en voelde hij zich compleet toen hij het op het wegdek hoorde raken. Hij beschrijft zichzelf verder als een specialist in de technologische transformatie van de menselijke soort, een van de weinigen die in staat is deze te sturen. Hij identificeert zich met Buffy the Vampire Slayer: de enige persoon die het gevaar duidelijk ziet en moet handelen, terwijl iedereen anders gewoon doorgaat met hun gewone leven.

Hoewel zijn technische ideeën in de volgende vijfentwintig jaar sterk zouden veranderen, bleef zijn gevoel dat hij de enige was die de naderende ondergang van AI zag, ongewijzigd. Het Singularity Institute bestaat nog steeds, inmiddels hernoemd naar het Machine Intelligence Research Institute (MIRI), en zijn oorspronkelijke zorg is beter verouderd dan de meeste: een voldoende capabele kunstmatige intelligentie zou doelen kunnen nastreven die onverenigbaar zijn met het menselijk overleven, en de taak is om het veilig te maken voordat iemand het krachtig maakt. Hoewel dit op het eerste gezicht redelijk klinkt, zat het probleem in alles wat daar bovenop groeide. In 2025 kwam het boek dat hij mede schreef met MIRI's uitvoerend directeur, Nate Soares, over waarom supermenselijke AI ons allemaal zou doden, op de bestsellerlijst van de New York Times.

Tijdens de late jaren 2000 ontwikkelde Yudkowsky een tweede project: mensen leren hoe ze moeten denken. Zijn productieve geschriften op Overcoming Bias, de blog die hij deelde met econoom Robin Hanson, werden het ruwe materiaal voor een reeks essays die lezers "the Sequences" noemen. In 2009 werd LessWrong gelanceerd als de thuisbasis van de gemeenschap. Het instituut beschreef de website als een succesvol wervingskanaal.

De aantrekkingskracht was duidelijk. Hier was een uniforme verklaring voor waarom mensen slecht discussiëren, troostrijke onzin geloven, uitstellen en sociale goedkeuring verwarren met de waarheid. En hier was een programma: merk je vooroordelen op, herzie je overtuigingen, doe het beter. Als je slim bent, ontevreden, en gewend bent dat men zegt dat je te veel vragen stelt, is dit een zeer overtuigende uitnodiging. Dat was het voor veel mensen.

En let op voor wie de uitnodiging is afgestemd, want de gemeenschap heeft zichzelf uitgebreid blootgelegd in eigen enquêtes. De LessWrong-census vond een populatie die voor 87 procent mannelijk was, waarbij bijna één op de vijf respondenten een diagnose of zelfdiagnose van het autisme-spectrum had, en bijna de helft depressie. Een latere, verwante gemeenschap genaamd Slate Star Codex voerde eigen enquêtes uit onder duizenden respondenten, waaruit bleek dat meer dan de helft werkte in programmeren, engineering, wiskunde of natuurkunde. De biografie die dit schetst is consistent: een groep jongens die op achtjarige leeftijd als uitzonderlijk werden aangemerkt, hoorden dat ze slimmer waren dan iedereen anders, alleen werden gelaten met een computer terwijl ze worstelden met sociale interactie, en die volwassen werden als precocieuzen die sociaal verkeerd werden ingeschat en nooit in een ruimte waren waar iedereen hen begreep. Silicon Valley trekt deze mensen onvermijdelijk aan. Het rationalisme is waar zij hun betekenis en gemeenschap vinden.

Wat de beweging deze persoon biedt, is een gevoel van ergens bij horen, gepaard met constante bekrachtiging en bevestiging. Een peergroup van vergelijkbaar begaafde individuen. Een filosofie en een dialect die de sociale wereld eindelijk leesbaar maken. En, het meest bedwelmend, een promotie: je was niet mensmijder, de massa draait werkelijk op gecorrumpeerde firmware; je was niet arrogant, je bent werkelijk een held in de strijd voor de soort. Het is het "begaafd en talentvol"-programma in perfectie: speciale sessies voor speciale kinderen, werkboeken (the Sequences, Harry Potter and the Methods of Rationality), jaarlijkse ceremonies (Solstice), en een volwassene die eindelijk in je gelooft. Main character syndrome stopt een karakterfout te zijn op de dag dat je lid wordt van een religie waarvan het plot jou in de hoofdrol heeft.

Het bevat echter ook een valstrik: een gemeenschap die is georganiseerd rond het overwinnen van menselijke irrationaliteit, begint lidmaatschap te behandelen als bewijs dat haar leden dit hebben overwonnen. Rationalist zijn transformeert in een bewijs van superieur oordeel, en superieur oordeel is de belangrijkste sociale valuta van de gemeenschap.

Het evangelie volgens Harry Potter

In 2010 begon Yudkowsky met het publiceren van Harry Potter and the Methods of Rationality (HPMOR), een uitgesproken fanfic in een alternatief universum waarin Harry een precocieus wetenschappelijk rationalist is die magie tegemoet treedt met nieuwsgierigheid en een sterk ontwikkeld verlangen om uit te leggen waarom iedereen anders ongelijk heeft. Het liep vijf jaar en werd enorm populair, zowel binnen als buiten de gemeenschap. De Sequences waren voor velen te droog, maar HPMOR werd een gemakkelijke instap naar rationalistisch denken. Bovendien trok het de doelgroep aan door een spiegel voor te houden: Harry is het zelfportret van de doelgroep op elfjarige leeftijd — erkend als begaafd, overal gelijk in, en voortdurend omringd door inferieuren.

Het meest consequente idee van de roman is "heroïsche verantwoordelijkheid". Harry legt uit dat, wat er ook gebeurt, het uiteindelijk jouw schuld is als er een ramp plaatsvindt, omdat je het had kunnen voorkomen. Je kunt je niet verschuilen achter het volgen van de regels, of achter de verwachting dat iemand anders het regelde. De wereld is jouw verantwoordelijkheid, in zijn geheel, persoonlijk. Hermelien, het dichtstbijzijnde wat het verhaal heeft aan een normaal beschaafd persoon, maakt bezwaar dat dit erg weinig ruimte laat voor de eigen handelingsbekwaamheid van anderen. Het verhaal beantwoordt haar bezwaren nooit op een bevredigende manier.

Schokkend genoeg oversteeg de populariteit van deze fanfic de lezerskring die je zou verwachten voor zo'n niche-object. Tegen de voltooiing op Pi-dag 2015 bestond de fanfic uit 122 hoofdstukken en 661.619 woorden, langer dan Oorlog en Vrede. Het trok meer dan 37.000 reviews op de belangrijkste fanfiction-site, een wild aantal voor deze categorie, tienduizenden favorieten, een fan-made audiobook, een TV Tropes-pagina ter grootte van een kleine buitenwijk, en vertalingen in een lange lijst van talen, met het Russisch voorop. Een juridisch blogger van de Washington Post noemde het met een stalen gezicht een van zijn favoriete boeken van dit millennium. De respectabele pers merkte hiervan nauwelijks iets op, omdat de respectabele pers geen fanfiction leest. Echter, een generatie toekomstige engineers deed dat wel.

De werkelijke functie van het boek openbaarde zich aan het einde. Voor de finale plaatste Yudkowsky een hoofdstuk getiteld "Final Exam", waarin Harry gevangen zit in een schijnbaar hopeloze situatie. Het hoofdstuk stelde voorwaarden en een deadline: als lezers voor 3 maart 2015 een levensvatbare oplossing zouden posten, zou het verhaal doorgaan; anders zou er, in de woorden van de auteur, een korter en droeviger einde volgen. De fandom diende in twee en een half dag meer dan 700.000 woorden aan voorgestelde oplossingen in, en organiseerde vervolgens een eigen taskforce om de inzendingen te sorteren en ideeën te dedupliceren. De uiteindelijke resolutie kwam voort uit de crowd.

Lees die sequentie opnieuw als een organisatorische oefening. De oprichter van een AI-veiligheidsinstituut wervingde een gedistribueerde vrijwilligersmacht van duizenden mensen, wees hen een optimalisatieprobleem toe, stelde een deadline met een bedreigd negatief resultaat, en oogstte de output voor zijn boek. Het werkte. De lezers hadden niet alleen gelezen over de methode; ze hadden deze op schaal uitgevoerd, op commando. Wat de fanfic ook was, het was een werkende demonstratie van wat de auteur een menigte slimme vreemden kon laten doen door prikkels correct te structureren. Opmerkelijk genoeg beschrijft die zin ook het volgende decennium van de AI-industrie, wellicht niet toevallig.

Buiten het verhaal was Yudkowsky's bewegingsopbouw expliciet. De auteursnotities van Yudkowsky promootten fondsenwerving voor het Center for Applied Rationality (CFAR), een non-profit die spoedig de technieken uit de Sequences zou onderwijzen in live workshops. De finale van de fanfic in 2015 was de aanleiding voor georganiseerde feestvieringen in tientallen steden. Fictie, fondsenwerving, training en een internationale gemeenschap, allemaal samen verpakt als één geheel. Een profiel in VICE uit 2015 merkte al op dat het hele apparaat begon te lijken op een geloofssysteem in plaats van een populair stuk fictie.

Hoewel het de roman een heilig boek noemen een overdrijving zou zijn, zouden we ook haar functie missen als we haar enkel als entertainment zouden bestempelen. Ze leverde een gedeeld vocabulaire, voorbeeldpersonages en een dramatische theorie over wat een slim persoon de wereld verschuldigd is, om overeenstemming met haar argumenten om te zetten in identificatie met een missie. Op een vergelijkbare manier waarmee L. Ron Hubbard de overgang maakte van sciencefiction-schrijver naar sekteleider, sloeg Yudkowsky een vergelijkbaar pad in.

Overigens bouwden sommige rationalisten bewust rituelen voor de ontluikende sekte. Een verslag van een New Yorkse Solstice uit 2011 beschrijft gemeenschappelijke liederen, lezingen en liturgie aangepast uit de Sequences, waarbij Yudkowsky goedkeurend commentarie gaf. Jaren later schreef Arnold openlijk over hoe je een Solstice runt wanneer hij persoonlijk een kans van meer dan vijftig procent toekent aan een AI-catastrofe.

Een beweging kan God verwerpen en toch geschriften, ceremonies en een veeleisende persoonlijke relatie met de apocalyps ontwikkelen. Secularisatie, zo blijkt, verwijdert niet automatisch de menselijke instincten voor religie en liturgie; het hergebruikt simpelweg hun aanbidding.

De apostelen van Yudkowsky

Yudkowsky was qua temperament een profeet, en profeten zijn veeleisend gezelschap. De werkelijke groeimotor van de gemeenschap was iemand die veel makkelijker te waarderen was: een psychiater en blogger genaamd Scott Alexander.

Alexander was geen buitenstaander die erin belandde nadat hij beroemd werd. Volgens eigen zeggen bracht hij jaren door in Overcoming Bias en LessWrong en vond hij het materiaal onthullend, ondanks dat hij al filosofie had gestudeerd. Zijn blog Slate Star Codex, gelanceerd in 2013, groeide direct voort uit die participatie. En het was een heel ander instrument. Waar Yudkowsky gebiedend was, was Alexander grappig, breedvoerig, sympathiek en schijnbaar nauwgezet in het overwegen van bezwaren. Hij schreef over geneeskunde, statistiek, sciencefiction en het verbijsterende gedrag van mensen, en zijn lezerskring groeide tot Sam Altman, Paul Graham en een groot deel van de professionele klasse van Silicon Valley. De New York Times noemde de blog uiteindelijk een 'safe space' voor de techwereld.

Dit was belangrijk omdat Alexander de tolk was. Men hoefde de wereld van het rationalisme niet te betreden via een voorspelling van uitsterven of Harry Potter-fanfiction. Men kon binnenkomen via een interessant essay over antidepressiva, een gemeenschap ontdekken wiens argumenten ongewoon zorgvuldig leken en wiens leden ongewoon slim leken, om pas later te ontdekken waar die zorgvuldige argumenten zorgvuldig naartoe werkten, en zich langzaam in de gemeenschap te integreren.

Men kon ook binnenkomen via Curtis Yarvin.

Schrijvend als Mencius Moldbug, begon Yarvin in 2007 de blog Unqualified Reservations te publiceren. De beknopte beschrijving is: een programmeur die lange politieke essays schrijft. Het project was veel sinisterder dan die beschrijving suggereert: Yarvin werd een oprichtend intellectueel van het autoritaire uiterste rechts, en in tegenstelling tot het grootste deel van die scene schreef hij in complete zinnen, wat een echt strategisch voordeel bleek te zijn.

Zijn programma, in 2008 duidelijk geformuleerd, was "de liquidatie van de democratie, de grondwet en de rechtsstaat." De nieuwe orde die hij in hetzelfde uitgebreide essay schetste, zou de pers elimineren, universiteiten ontmantelen, openbare scholen privatiseren en aangewezen populaties opsluiten in faciliteiten met dwangarbeid. In hetzelfde document verdedigde hij ook de legaliteit van mensen die zichzelf en hun kinderen in slavernij verkochten.

Zijn Patchwork-serie stelde zich toekomstige soevereine territoria voor die werden beheerd als bedrijven. Bewoners zouden niet besturen; hun belangrijkste middel zou 'exit' zijn, het middel van de klant om zijn zaken elders te vestigen. Deze premisse zet een politieke vraag (hoe mensen macht moeten delen) om in een klantenservicevraag (of de eigenaar een aantrekkelijk genoeg product levert). Het is een bijzonder handige theorie als je verwacht de eigenaren te kennen of ze zelf te zijn, en de intellectuele hoogmoed van de rationalistische gemeenschap plaatste velen van hen stevig in de categorie van mensen die verwachtten tot de meritocratische heersende klasse te behoren.

Het racisme was onder de vernislaag even expliciet. In een essay getiteld "Why I Am Not a White Nationalist", prees Yarvin materiaal van American Renaissance en VDARE, behandelde hij de grieven van witte nationalisten als serieus, en concludeerde hij dat de zwakte van de beweging haar ineffectieve politieke strategie was, niet haar wereldbeeld. Zijn eigen voorkeur was een hiërarchie waarin armere, vermeend minder intelligente mensen dienden voor rijkere, vermeend intelligentere mensen. Het deel van het wit nationalisme waar hij niet bij kon aansluiten, was de hardnekkige gehechtheid aan volkssoevereiniteit. Zijn bezwaar was in feite dat het wit nationalisme niet radicaal genoeg was.

Yarvin was geen buitenstaander voor de rationalistische gemeenschap; hij postte al in de fora van de gemeenschap voordat hij zijn eigen blog begon. Tegen 2011 vroeg de jaarlijkse enquête van LessWrong aan leden of ze door hem waren beïnvloed, omdat genoeg van hen dat waren dat de vraag de moeite waard was om te tellen. Moldbug-essays circuleerden veel in de gemeenschap. Alexander beschreef dat ze hem herhaaldelijk werden toegestuurd, en schreef in 2013 "Reactionary Philosophy in an Enormous, Planet-Sized Nutshell", waarbij hij het wereldbeeld vertaalde naar zijn vriendelijke, toegankelijke stem. Hij volgde dit op met een lange Anti-Reactionary FAQ die de historische claims en politieke conclusies aanviel, en die kritiek was oprecht. Helaas hielp het geven van ruimte aan Yarvin's teksten door er serieus mee in gesprek te gaan hem te legitimeren, door zijn premissen bekend, bespreekbaar en vreemd genoeg leesbaarder te maken. Een e-mail uit 2014 van Alexander, later gepubliceerd door de ontvanger, ging verder: hij uitte sympathie voor delen van "human biodiversity" (de eufemisme van de beweging voor rassenwetenschap), en toonde interesse in het verspreiden van de waardevolle delen van reactionair denken terwijl de rest werd gesnoeid.

In die context betekende human biodiversity niet de onschuldige observatie dat mensen variëren. Het betekende specifiek de claim dat verschillen in gemeten intelligentie tussen zwarten en blanken substantieel erfelijk zijn. Dit idioom deed nuttig werk, ongeacht de wetenschappelijke merites: het stelde iemand in staat om interesse in raciale hiërarchie te ervaren als intellectuele moed, en elke bezwaar als bewijs van de conformiteit van de bezwaarmakers. Er is een verschil tussen het onderzoeken van een moeilijke vraag en het bouwen van een identiteit rond de overtuiging dat fatsoenlijke mensen te bang zijn om jouw antwoord te erkennen. Afkeuring wordt bevestiging; hoe slechter de ontvangst, hoe moediger de waarheidspreker. Gevestigde religies ontdekten deze hefboom generaties geleden en industrialiseerden deze: het mormonisme stuurt zijn jonge mannen op tweejarige deur-aan-deur missies, mede omdat de afwijzing de band schept; elke dichtslaande deur dwingt de missionaris tot de conclusie dat de buitenwereld corrupt is en dat zij deel uitmaken van de uitverkorenen. De rationalisten hebben het mechanisme niet uitgevonden, maar hebben er zeker van geprofiteerd om uiterst verontrustende visies te verspreiden.

Verboden inzichten

Tot nu toe speelde dit verhaal zich vooral af op het internet en in Berkeley. Het kruiste naar de respectabele wereld in Oxford via een Zweedse filosoof genaamd Nick Bostrom. Bostrom kwam voort uit dezelfde transhumanistische scene van de jaren 90, richtte in 1998 de World Transhumanist Association mede op, en in 2005 gaf Oxford hem een afdeling voor het einde van de wereld: het Future of Humanity Institute. Dit werd mede bemand door mensen uit diezelfde scene, waaronder Anders Sandberg, een veteraan van de Extropians-maillijsten waar de tiener-Yudkowsky oorspronkelijk de transhumanisten had gevonden. In 2014 publiceerde hij Superintelligence, dat het corpus dat Yudkowsky sinds 2001 op een blog had verzameld, vertaalde naar het idioom van de analytische filosofie; een profiel in The New Yorker beschreef de prestatie als het opleggen van academische strengheid aan een rommelige verzameling ideeën uit de marges, en het menu met veiligheidsvoorstellen in het boek bevat Yudkowsky's eigen ideeën. Nu zit Bostrom in de adviesraad van MIRI. De respectabele pers behandelde het boek als het moment waarop AI-risico serieus werd: Bill Gates raadde het aan, Stephen Hawking steunde het argument eromheen. Jaan Tallinn, mede-oprichter van Skype, ging verder dan lezen: hij richtte het Future of Life Institute en het Centre for the Study of Existential Risk in Cambridge mede op, financierde beide met eigen geld, en werd een prominente donor aan Bostrom's instituut. Musk stak in januari 2015 tien miljoen dollar in het onderzoeksprogramma van het Future of Life Institute, wat extra startkapitaal toevoegde aan het academische veld.

Bostrom was evenmin vrij van raciale controverses. In een e-mail uit 1996 aan een transhumanistische maillijst schreef Bostrom dat hij geloofde dat zwarte mensen minder intelligent waren dan witte mensen, en gebruikte hij terloops een raciale belediging. In januari 2023 excuseerde hij zich voor de e-mail; Oxford onderzocht dit en concludeerde dat hij geen racistische visies had en dat de excuses oprecht waren. Andrew Anthony van The Guardian merkte echter op dat Bostrom de onderliggende claim over ras en intelligentie, of de schets van een verdediging van eugenetica die daarbij hoorde, niet had ingetrokken. Oxford sloot het Future of Humanity Institute in 2024, te midden van latere controverses, maar tegen die tijd had het veld dat het had gelegitimeerd het instituut niet meer nodig. De interessante vraag was nooit of Bostrom in zijn hart een bigot is. Het is dat de academische vleugel van existentieel risico is uitgebroed in een milieu waar dit soort gesprekken normaal waren, en dat tegen de tijd dat de archieven naar boven kwamen, de instituten al stevig gevestigd waren.

Bovendien pleitte Bostrom voor beperkte vormen van eugenetica. In 2013 promootte MIRI een paper van Bostrom en Carl Shulman over het selecteren van embryo's voor cognitieve verbetering. Shulman was een research fellow bij MIRI, co-auteur bij Bostrom's instituut, directeur van loopbaanonderzoek bij MacAskill's 80,000 Hours en adviseur bij Open Philanthropy. De aankondiging besprak iteratieve embryo-selectie over gesimuleerde generaties en verbond de resulterende intelligentiewinst expliciet aan de vooruitzichten voor veilige AI. Concreet begonnen MIRI en het Future of Humanity het concept van het AI-reddingsproject te versmelten met selectief fokken: meer intelligentie is de cruciale hulpbron, de technologische race maakt het verwerven daarvan urgent, en voortplanting is simpelweg de volgende plek voor optimalisatie.

Het voorstel ging over ouderlijke keuze en reproductieve technologie, niet over verplichte sterilisatie, maar het verbeteren van de mensheid door te kiezen welke overgeërfde eigenschappen toekomstige mensen moeten dragen, heeft een extreem duister en problematisch verleden verbonden aan Nazi- en Japanse experimenten tijdens de Tweede Wereldoorlog. Vragen over ongelijkheid, handicap, sociale druk en wie "verbetering" definieert, werden opvallend weinig geadresseerd.

Mensen "debuggen"

Ondertussen: Het Center for Applied Rationality (CFAR) werd in 2012 in Berkeley opgericht door vier mensen uit de eigen gelederen van de gemeenschap: Julia Galef, host van de Rationally Speaking podcast; Andrew Critch, nu een AI-veiligheidsonderzoeker; Michael Smith; en Anna Salamon. Het groeide direct voort uit LessWrong, dat het probleem had dat elke groeiende beweging uiteindelijk heeft: leden die in persoon, samen, willen oefenen. CFAR was de in-person franchise. De Sequences gaven de theorie gratis weg; CFAR verkocht de retraite, weekendworkshops in Berkeley waar hetzelfde materiaal aankwam als technieken met namen als "goal factoring" en "double crux", gegeven door instructeurs die in groepshuizen woonden met de mensen die het geschreven hadden.

Het was vanaf het begin een familiebedrijf. CFAR deelde een donorbasis, een stad, en in verschillende gevallen personeel met MIRI, en het hield zich bezig met werving aan beide uiteinden van de pijplijn: corporate klassen voor Facebook en de Thiel Fellowship aan de ene kant, en aan de andere kant workshops en zomerprogramma's gericht op begaafde tieners, de voorkeurs-wervingsdoelgroep van de gemeenschap. Jaan Tallinn, de Skype-medeoprichter die Bostrom's Oxford-instituut betaalde, betaalde ook om Estse studenten via een beurs naar CFAR-workshops te sturen. Jennifer Kahn van The New York Times Magazine bezocht en profileerde de operatie, met zowel sterktes als zwaktes, en kwam licht onder de indruk maar enigszins ongemakkelijk weg.

De pitch was praktische training in denken en besluitvorming. Dat klinkt onschuldig, en was dat grotendeels ook, totdat je je herinnert waar de technieken werden geoefend: tussen werkgevers, collega's, huisgenoten, geliefden en mensen die geloofden dat zij persoonlijk bepaalden of de mensheid overleeft.

In 2021 erkende mede-oprichtster Anna Salamon, inmiddels president van CFAR, dat ten minste drie werknemers effectief waren gedwongen om "debugging" te ondergaan — de term van de gemeenschap voor interventie in de eigen psychologie van een persoon. Ze erkende een overmatige deferentie naar haar eigen oordeel en beschreef hoe ze de manier waarop deelnemers zichzelf begrepen had beschadigd. Dit was het verslag van het leiderschap zelf, niet een externe beschuldiging. Een jaar eerder had ze met ongebruikelijke eerlijkheid geschreven over de manieren waarop betrokkenheid bij rationalisme en existentieel risico het slaapritme, relaties, levensgenot, moreel oordeel en het vertrouwen in jezelf van mensen kan ruïneren.

Dit zijn ernstige resultaten voor een organisatie die verbeterde cognitie verkoopt. Hier is het mechanisme dat dit produceert: als je gelooft dat een misaligned AI iedereen kan doden, is je angst redelijk. Maar wanneer de omliggende werkvloer en sociale kring aarzeling behandelen als een psychologisch defect dat gedebugged moet worden, krijgt angst een organisatorisch nut. Je onwil om meer van je leven aan de missie op te offeren wordt een ander probleem dat de missie het recht geeft op te lossen. Leden van de commune hadden nu een heroïsche verantwoordelijkheid om niet-conforme leden te "fixen".

Kort daarna ontstond een bedrijf genaamd Leverage Research om het idee verder te trekken. Opgericht door Geoff Anders, een jonge filosoof, streefde Leverage naar een programma van het begrijpen van de geest dat zo totaal was dat een vroeg document aspireerde alle filosofische vragen te beantwoorden. Hun financiers waren onder meer Peter Thiel en, wederom, Jaan Tallinn. Lydia Laurenson's onderzoekende geschiedenis van de organisatie rapporteert ook beschuldigingen van een verborgen romantische relatie waarbij organisatorische middelen en autoriteit werden ingezet.

De schaal van de ambitie trok massale aandacht uit de gemeenschap. De ruwe logica was: als de samenleving faalt omdat mensen psychologisch verward zijn, kan een klein team dat ontdekt hoe geesten werkelijk functioneren alles transformeren. De vrijheid om onderzoek te doen naar deze onderwerpen werd door veel werknemers gezien als een beschaving-brede roeping.

De werkvloer was echter diep toxisch. Zoe Curzi, een voormalig deelnemer, beschreef een wereld gedomineerd door Anders’s theorieën, steeds invasievere psychologische praktijken en escalerende overtuigingen over schadelijke mentale invloeden, totdat ze merkte dat ze de organisatie niet langer kon evalueren vanuit een positie buiten haar eigen concepten. Een voormalig senior lid dat onder de naam Cathleen opereert, verdedigde de ambities van de groep terwijl ze aanzienlijke persoonlijke schade aan zichzelf beschreef. De twee verslagen verschillen over veel zaken, maar ze benadrukken de grote structurele vraag: wat gebeurt er wanneer leiders beweren een ongebruikelijk inzicht te hebben in de geesten van mensen wiens werkgelegenheid, huisvesting, vriendschappen en bestaansreden allemaal via de organisatie lopen?

Een apart incident levert het meest directe bewijs van misbruik, en van het onvermogen van de gemeenschap om hierop te reageren. Brent Dill bewoog zich door rationalistische sociale kringen en CFAR-programma's. Om hem heen vormde zich een groep genaamd Black Lotus, die haar kosmologie leende van het rollenspel Mage: The Ascension: de realiteit is vormbaar, en bepaalde mensen nemen diepere lagen ervan waar. Ozy Brennan's verslag beschrijft hoe een interpreteerder van diepere realiteiten macht kreeg over de mensen om hem heen.

Een interne gemeenschapsbeoordeling van Dill uit 2018 laat zien in hoeverre CFAR bereid was manipulatief gedrag te accepteren: het erkende zijn schadelijke gedrag, terwijl het zijn onconventionele interventies en zijn gevoel van verantwoordelijkheid nog steeds als waardevol ruw materiaal behandelde. Het probleem werd geïnterpreteerd via het eigen raamwerk van de gemeenschap van uitzonderlijke mensen die moeilijk groeiewerk verrichten. De uiteindelijke publieke verontschuldiging van CFAR was significant problematischer. De organisatie zei te geloven in geloofwaardige beschuldigingen dat Dill twee voormalige partners fysiek, seksueel en emotioneel had misbruikt, erkende hem legitimiteit te hebben gegeven, erkende inadequaat te hebben gereageerd en erkende hem te hebben laten helpen bij een programma voor middelbare scholieren ondanks eerdere zorgen.

De ironie van dit alles is dat CFAR, als een organisatie wiens gehele product beter oordeel was, er niet in slaagde zelfs maar basis-oordeel te gebruiken bij het beschermen van leden en de lokale gemeenschap tegen misbruik. De betrokkenen hadden uitgebreide instrumenten voor het onderzoeken van overtuigingen. Die instrumenten produceerden geen competente reactie op een misbruikende man, grotendeels omdat het werk en de sociale gemeenschap zo sterk met elkaar verstrengeld waren.

Dit is de sterkste basis om rationalisme als een sekte te beoordelen: specifieke settings waar charismatische autoriteit, psychologische intrusie, afhankelijkheid en de bescherming van insiders samenwerkten. Dat is niet om te zeggen dat het indiscriminately toepassen van het sekte-label op iedereen die LessWrong leest eerlijk is, maar de epicentra van het denken in de gemeenschap zijn diep schadelijk en vergiftigend geweest voor deelnemers.

In forums zoals Reddit's r/slatestarcodex en r/EffectiveAltruism is een standaardgenre van posts de "exit thread" voor mensen die de gemeenschap verlaten: "welke overtuiging zorgde er uiteindelijk voor dat je afhaakte", "waarom ik afstand nam", "is dit een sekte" — voormalige leden die ervaringen uitwisselen over vriendschappen die eindigden en de een of twee jaar die het kostte om een hoofd dat weer normaal werkte op te bouwen. Het fenomeen is zo gevestigd dat het Wikipedia-artikel over de rationalistische gemeenschap een benoemde golf van vertrekkers erkent, de postrationalisten, gedefinieerd door de conclusie dat de beweging, in de woorden van het artikel, sekte-achtig is. Sommige van de vertrekkers zijn niet anoniem. De bekende security-onderzoeker die schrijft als lcamtuf publiceerde een lang stuk getiteld "My falling-out with the rationalist community" na de Zizian-arrestaties (waar we straks op terugkomen); de wiskundige Cathy O’Neil heeft interviews gehouden met effectieve altruïsten die hun vertrek beschrijven in taal die mensen gebruiken voor kerken waarin ze zijn opgegroeid en waaruit ze nauwelijks zijn ontsnapt. Wanneer de mensen die getuigen dat een geloofssysteem hen heeft beschadigd de mensen zijn die vroeger de programma's ervan bemanden, stopt de interessante vraag met te zijn of het woord sekte eerlijk is voor de rationalisten, en wordt het: waarom blijft deze gemeenschap, van alle gemeenschappen, mensen produceren die het woord op zichzelfzelf toepassen?

Het rationalisme slaagde er uiteindelijk zelfs in om gewelddadige extremisten voort te brengen. In de jaren 2010 begon een lezer genaamd Ziz LaSota op te duiken bij rationalistische en effectief-altruïstische evenementen in de Bay Area. Op papier was zij de droomrecruit van de gemeenschap: een graad in computer engineering, een NASA-internship, een fervent lezer van LessWrong en de fanfic van Yudkowsky, en genoeg ernst over het redden van de wereld om samen met enkele medereizigers een werkelijke seasteading-kolonie te proberen, wonend op zeilboten in de marina van Berkeley en later op een sleepboot die vanuit Alaska was gevaren. Zij is een trans vrouw, net als de meeste mensen die zij om zich heen verzamelde; een CFAR-medewerker beschreef haar wervingspool later als "slimme, grotendeels autistische trans vrouwen die extreem kwetsbaar en geïsoleerd waren." Een bijzonder grappig detail is dat zij zich religieus identificeert als een Sith en bekend stond om het dragen van een zwarte cape.

Haar theologie was volledig samengesteld uit de onderdelenbak van de gemeenschap. Van de beslissingstheorie van LessWrong nam ze de verplichting over om nooit toe te geven aan chantage en nooit kwaad te tolereren. Uit de psychologie van de gemeenschap nam ze het idee over dat de twee hersenhelften aparte agenten zijn met aparte genders en aparte alignments, en dat "unihemisferische slaap" (een bewuste vorm van slaapdeprivatie) de geest kan 'jailbreaken'. In 2018 stierf een lid van de scene door zelfmoord, wat een anonieme rationalist toeschreef aan de slaappraktijk; LaSota wees later in een argument met Anna Salamon naar de dood als bewijs dat de techniek werkte. Voeg daar absoluut veganisme aan toe, de zorg om het lot van al het bewuste leven, en heroïsche verantwoordelijkheid, en je hebt een persoon die gelooft dat ze twee mensen is, waarvan één kwaad kan zijn, en persoonlijk verantwoordelijk is voor het redden van alles wat leeft.

Het leiderschap van CFAR merkte dat er iets mis was: Salamon probeerde LaSota buiten een CFAR-fellowship te houden, werd overruled door een commissie, en na verder vreemd gedrag werd LaSota volledig uitgelijnd van evenementen. In 2019 protesteerden LaSota en drie volgelingen bij een CFAR-retraite in maskers en gewaden; een verward 911-rapport bracht politie en vervolgens een SWAT-team, en de gemeenschap reageerde met een anonieme "callout"-post die de naam "Zizians" bedacht. De rationalistische gemeenschap maakte zo haar eerste religieuze splitsing door.

Daarna kwamen de doden. LaSota fikte haar eigen dood in een bootongeluk in augustus 2022. In november van dat jaar werd in Vallejo, Californië, haar huisbaas Curtis Lind, tachtig jaar oud, aangevallen door gemaskerde huurders met messen en een samoeraizwaard: ongeveer vijftig steekwonden, blind in één oog. Lind, die inmiddels een pistool bij zich droeg, schoot twee van zijn aanvallers dood, waaronder Emma Borhanian, die was gearresteerd bij het CFAR-protest van 2019. Twee van de aanvallers worden nu beschuldigd van moord op Borhanian, op de theorie dat hun eigen aanval de doodsoorzaak was. Zes weken later, op oudejaarsavond, werden Richard en Rita Zajko doodgeschoten in hun huis in Pennsylvania; in juni 2026 werd hun dochter, een Zizian-associate die verdacht wordt de wapens te hebben gekocht die later bij de schietpartij in Vermont werden gevonden, beschuldigd van beide moorden. Op 17 januari 2025 werd Lind, van wie werd verwacht dat hij zou getuigen, doodgestoken voor zijn eigen poort; aanklagers beschuldigden een tweeëntwintigjarige data-scientist, die een verklaring aan verslaggevers dicteerde gericht aan Eliezer Yudkowsky. Drie dagen daarna werd een verkeersstop op Interstate 91 in Vermont een schietpartij waarbij Border Patrol-agent David Maland (de eerste agent sinds 2014 die in functie door vuur werd gedood) en Ophelia Bauckholt (een Duitse wiskunde-olympiade winnaar geworden kwantitatieve trader die in 2019 via een CFAR-evenement in deze wereld was gekomen) om het leven kwamen. In hun auto vond de politie tactische uitrusting en twee telefoons gewikkeld in aluminiumfolie om tracking te voorkomen. De overlevende passagier, die volgens aanklagers als eerste schoot, is beschuldigd; de overheid is van plan de doodstraf te eisen. LaSota werd een maand later gearresteerd terwijl ze kampeerde op een landelijk terrein in Maryland, en zit vast zonder borgtocht terwijl haar advocaten betwisten of ze bekwaam is om voor de rechter te verschijnen.

Zowel de New York Times als de Boston Globe trokken de vergelijking met de Manson Family, en Anna Salamon zelf heeft het Zizian-geloofssysteem beschreven als iets dat lijkt op een doomsday-sekte. Moeilijk daarmee te discussiëren. Maar kijk naar waar de Zizians mee werkten. Alles doordrong LessWrong en haar zijtakken: een beslissingstheorie die verbiedt toe te geven aan het kwaad, een psychologie die het zelf ziet als iets dat gesplitst en gedebugged moet worden, een ethiek waarin al het bewuste leven de rekeneenheid is, en heroïsche verantwoordelijkheid om het persoonlijk te maken. De verdediging van de gemeenschap is dat dit beschadigde mensen waren die goede ideeën verkeerd begrepen, en sommigen waren zeker beschadigd. Desondanks moeten we simpelweg kijken naar de vruchten van de boom van het rationalisme tot nu toe om die claim te betwijfelen.

Verstrengeld in bed, verstrengeld in de straat

Hoewel ik hier niet ben om over het seksleven van mensen te oordelen, wordt de dynamiek van de rationalistische gemeenschap in Silicon Valley waarschijnlijk het best getoond door hoe seksuele praktijken effectief een manier zijn geworden om groeps-praxis af te dwingen.

Polyamorie was een zichtbaar kenmerk van het rationalistische leven lang voordat de huidige AI-nieuwscyclus begon. De retrospectieve van Alexander beschrijft de verspreiding ervan door de gemeenschap en citeert een enquête uit 2014 waarin ongeveer 15 procent van de respondenten zich als polyamoor identificeerde. Echter, een groot deel van die 15% woont toevallig in de Bay Area. De gemeenschap is klein, geconcentreerd in een handvol groepshuizen in de Bay Area, en iedereen daarin is ook ieders collega, financier, huisbaas, huisgenoot of ex. Het romantische netwerk en het professionele netwerk zijn hetzelfde netwerk. Dus de vraag is niet wie met wie slaapt. De vraag is of iemand daarin "nee" kan zeggen, tegen wat dan ook, zonder zijn hele wereld in één klap te verliezen.

Om deze cultuur in één persoon te begrijpen, ontmoet Aella.

Ze werd in 1992 geboren in Idaho, de oudste van drie dochters van een bekende evangelist en radiohost, opgegroeid in een fundamentalistische christelijke gemeenschap en thuisgeschoold, op één kwartaal openbare high school na, dat eindigde toen haar ouders haar weghaalden omdat ze ongecontroleerde toegang had tot een computer. Ze verliet het huis op zeventienjarige leeftijd, werkte in een fabriek voor tien dollar per uur met shifts om vier uur 's ochtends, en begon in 2012 met 'camming' toen de fabriek minder uren aanbood. Ze werd een van de best verdienende creators op OnlyFans, werkte later als escort, en leerde zichzelf statistiek goed genoeg om enkele van de grootste enquêtes naar sekswerkers en seksueel gedrag uit te voeren die bestaan. GQ noemt haar een data-gedreven voormalig tech-werker. Ze heeft zichzelf simpelweg beschreven als een lid van de rationalistische gemeenschap, waar ze in 2015 bij kwam nadat ze date was met iemand die in LessWrong geïnteresseerd was.

De dochter van de evangelist groeide uit tot het dichtstbijzijnde wat deze gemeenschap heeft bij een priesteres. Haar publicaties over seks trekken een enorme aanhang, zelfs buiten de rationalistische gemeenschap, en haar seksuele praktijk binnen de rationalistische gemeenschap heeft aanzienlijke aandacht getrokken.

Een van de bekendste incidenten — waar je je brein met zeep zou willen wassen — was een gangbang die ze organiseerde voor haar verjaardag. In zekere zin was het een ritueel voor de rationalistische gemeenschap: weken van screening, een aanmeldingsproces, een gastenlijst die werd gecontroleerd op doctrinaire conformiteit, en een gepubliceerde post-event analyse met een flowchart die viraal ging, met statistieken over wie in wie kwam, enzovoort. De gangbang kwam met een doctrinaire test: aanhangers van "effectief accelerationisme" (de factie die wil dat AI-ontwikkeling sneller gaat) werden gescreend, omdat ze het niet eens was met hun visie op AI-risico. Zelfs de orgie had een AI-governance positie. Dit versterkt naar mijn mening het sekte-achtige controleaspect van deze sociale groep. Geloof in de juiste dingen, en misschien mag je seks hebben met de pornoster van de gemeenschap. Naar verluidt herkenden een aantal startup-oprichters elkaar daar en uitten hun verbazing over elkaars aanwezigheid. Een kleine wereld inderdaad.

Aella verzamelt getuigenissen op industriële schaal, voert enquêtes uit en ontvangt eindeloze confessies van lezers over hun seksleven.

En in 2026 trad ze directer toe tot Yudkowsky's geestelijkheid door Plz Don’t Kill Us te lanceren, een residentie in Berkeley die creators betaalt om virale AI-doom content te produceren, met Grimes als mentor. Haar vader verdiende zijn brood met preken op christelijke radio. Zij verdient het hare met het prediken over de AI-apocalyps. Ironisch genoeg overleefde de familiebusiness haar afvalligheid intact.

Over die mentor: Grimes is de ex-partner van Elon Musk en de moeder van drie van zijn kinderen. Elon Musk: eigenaar van xAI, inmiddels gefuseerd in SpaceX, wiens chatbot Grok het afgelopen jaar de belangrijkste machine van de AI-industrie is geweest voor seksuele afbeeldingen van mensen die nooit hebben ingestemd ermee te verschijnen. De "spicy" modus van Grok en zijn beeldtools stellen gebruikers in staat om foto's van echte mensen "uit te kleden"; externe analisten maten dat het duizenden expliciete non-consensuele deepfakes per uur produceerde; het bot-account excuseerde zich ooit voor het genereren van een geseksualiseerde afbeelding van twee jonge meisjes; en toezichthouders in het Verenigd Koninkrijk, Brussel, Frankrijk, Maleisië en Canada hebben allemaal procedures gestart over de legaliteit hiervan. In juli 2026 klaagde het bedrijf Minnesota aan om het eerste verbod op AI-naaktheids-tools in het land te vernietigen, op basis van vrijheid van meningsuiting; in september weigerde een federale rechter de wet te pauzeren terwijl de zaak voortduurt. Het bedrijf wordt ook aangeklaagd door Ashley St. Clair, de moeder van een ander van Musks kinderen, over seksuele beelden die Grok genereerde.

Het is een interessante familievete: de celebrity-mentor van de doom-academie komt uit hetzelfde huishouden als de grootste overtreder van de industrie, en dat huishouden procedeert actief voor het recht om te blijven overtreden. In deze wereld is p(doom) ook een familiebedrijf.

En dat is slechts het heteroseksuele deel van het plaatje. De eigen roddels van de gemeenschap beweren al lang dat er een parallelle scene is aan de gay-kant van hetzelfde veld, met dezelfde groepshuizen en feestjes, en dezelfde roddels voegen betrouwbaar toe dat deze gezonder is van de twee. Ik kan dat niet verifiëren, maar de organogram van CFAR en zijn constellatie van gerelateerde organisaties, de woningmarkt en de datingpool zijn, tot een eerste benadering, één en hetzelfde.

De professionele overlap is minder grappig dan de gastenlijst. The New Yorker heeft het romantische netwerk aan de top van het veld in kaart gebracht: AI-forecasting onderzoeker Katja Grace richtte AI Impacts mede op met haar toenmalige vriend Paul Christiano, een voormalig OpenAI alignment-lead, en date later Alexander. Christiano is via vriendschap en voormalige romance verbonden met Holden Karnofsky, de filantroop wiens Open Philanthropy honderden miljoenen in AI-veiligheid stuurde, en Karnofsky trouwde met Daniela Amodei, mede-oprichter en president van Anthropic. Er volgt niet noodzakelijkerwijs wangedrag uit, maar het roept wel belangrijke vragen op over hoe AI-veiligheidszorgen feitelijk worden beheerd of gepromoot wanneer zoveel industrie-spelers zo verstrengeld zijn.

Sommige verslagen beschrijven wel degelijk wangedrag. Een onderzoek van TIME naar de wereld van het effectief altruïsme (EA, kort), de filantropische tweeling van de rationalisten en het onderwerp van de volgende sectie, documenteerde beschuldigingen van intimidatie, dwingende controle en professionele druk verweven met intieme relaties. Dus ik stel de vraag opnieuw: kan een persoon in deze wereld seks weigeren, een psychologische interventie afwijzen, wangedrag melden of een relatie beëindigen zonder tegelijkertijd zijn carrière en zijn gehele sociale wereld te bedreigen?

Volg het geld

Hoe is een subcultuur die zo vreemd is, fundamenteel geworden voor het bepalen van het nationale AI-beleid? Niet door argumenten in het openbaar te winnen, maar door een balans op te bouwen. Om te begrijpen waar die balans vandaan kwam, moeten we kijken naar de convergentie van het rationalisme met een beweging die ergens anders begon.

Die beweging was het effectief altruïsme, of EA. Haar morele vertrekpunt was het gedachte-experiment van Peter Singer over het verdrinkende kind: als je een kind ziet verdrinken in een ondiepe vijver, ben je verplicht om het water in te gaan en het te redden, zelfs als dat je kleding ruïneert. Singers bredere claim was dat afstand die verplichting niet opheft. Als een bescheiden donatie het leven van een kind dat je niet kunt zien kan redden, is het weigeren te geven omdat het kind in het buitenland is, moreel niet anders dan men zou willen. EA probeerde die ongemakkelijke premisse om te zetten in een methode: geef een substantieel deel van je inkomen, meet welke interventies de meeste levens per dollar redden of verbeteren, en stuur geld naar die zaken in plaats van naar welke doelen dan ook die toevallig dichtbij of emotioneel vivid zijn.

Hoewel rationalisme en EA rond 2009 broers en zussen werden, hadden ze verschillende oorsprongen. Rationalisme groeide uit de scene rond Berkeley, LessWrong en Eliezer Yudkowsky, wiens werk zowel argumenten over kunstmatige intelligentie als een zeer lange Harry Potter-fanfiction omvatte om denk 습gewoonten aan te leren. EA groeerde voort uit de Oxford-filosofie. Toby Ord, een senior research fellow bij Bostrom's instituut, richtte Giving What We Can op, wiens leden een deel van hun inkomen beloofden aan effectieve goede doelen. William MacAskill richtte 80,000 Hours mede op, dat dezelfde logica toepaste op carrières: als een werkend leven ongeveer 80.000 uur bevat, kies dan het werk dat het meeste goed kan doen. De twee organisaties vormden in 2011 het Centre for Effective Altruism. Op papier was dit een respectabele, aan liefdadigheid grenzende instelling, geen uitloper van een internetsubcultuur.

De twee bewegingen behouden tot op de dag van vandaag aparte stichtingsmythen en namen, maar ze waren nooit echt aparte gemeenschappen. De eigen geschiedenis van EA beschrijft hoe altruïstische, rationalistische en futuristische kringen aan het eind van de jaren 2000 convergeerden, en de Bay Area-rationalisten doken frequent op in de beginjaren van EA.

De fusie was zowel doctrinaal als sociaal. EA begon met het maximaliseren van het goede dat het voor de mensheid kon doen en het kwantificeren daarvan. Ze telden rigoureus klamboes, ontwormingspillen, geredde levens per dollar, en hielden over het algemeen een strikte discipline van liefdadigheidsbeoordeling via een organisatie genaamd GiveWell, opgericht door Holden Karnofsky (die, zoals we al zagen, getrouwd is met de president van Anthropic). Dit alles is goed; mensenlevens redden en gezond houden is uiteraard een goed ding. Toen boog een vleugel van de beweging naar longtermisme, de claim dat de levens van alle mogelijke toekomstige mensen domineren in de morele rekenkunde van wat er met de fondsen gedaan moet worden. Van daaruit convergeert de logica vrij snel met het rationalisme: als de gehele toekomst de rekeneenheid is, maakt niets meer uit dan het voorkomen van uitsterven. En wat had het rationalisme al op de agenda staan als uitstervingsrisico, wat sinds 2000 door de gemeenschap circuleerde? Yudkowsky's AI-zorgen, sindsdien gelegitimeerd door de publicaties van Oxford's Future Institute. Zo werd AI-doom de paradepaard-zaak van EA. De eschatologie van de rationalisten voegde zich bij de schenkingen van EA om ons bij de huidige dag te brengen.

De overlap in personeel maakt dit duidelijk; Leverage Research, de psychologie-operatie uit de vorige sectie, deelde niet alleen donors met deze wereld: in 2013 creëerde het Leverage-team EA Global, de belangrijkste conferentie van de beweging, en hostte de eerste in hun eigen huis. En Jaan Tallinn, wiens naam inmiddels is verschenen op een filosofeninstituut, een Cambridge-centrum, een beurzenprogramma en het budget van een psychologie-sekte, financierde beide gemeenschappen indiscriminabel. Het TIME-onderzoek naar "effectief-altruïstische en aangrenzende kringen" was in praktijk een onderzoek naar één scene die onder twee verschillende labels opereerde.

Er volgde meer geld. Open Philanthropy rapporteerde in 2017 ongeveer veertig miljoen dollar aan subsidies gerelateerd aan risico's van geavanceerde AI, waaronder dertig miljoen naar OpenAI. Zorgen die in blogposts leefden, werden banen, onderzoeksprogramma's en institutionele autoriteit. Wanneer mensen vragen hoe een handvol bloggers invloed kreeg op de framing van AI-beleid, is het antwoord grotendeels dat een klein aantal zeer welvarende donoren besloot hen te financieren, en bijna niemand anders financierde iets.

Vervolgens produceerde de beweging een fraudeur. Sam Bankman-Fried was geen toeval van nabijheid; hij was het product van EA zelf, een undergraduate die door de filosofen van de beweging naar Wall Street werd gewezen op de theorie dat het meeste goed dat hij kon doen, was om extravagant rijk te worden en het weg te geven. Hij werd rijk, werd de beroemdste effectieve altruïst ter wereld en een belangrijke financieringsbron voor het ecosysteem, en bleek de rekeningen van zijn klanten bij FTX te hebben geplunderd; hij dient nu een federale straf van vijfentwintig jaar uit. FTX had ook vijfhonderd miljoen dollar in Anthropic gestoken, dus de opbrengsten van de fraude zaten kortstondig op de aandelenlijst van het veiligheidslab. In zekere zin sloeg de heroïsche plicht en het singuliere visioen dat Yudkowsky predikte hier opnieuw toe. Misschien is één les dat wereldreddende intentie een gevaarlijk zwak substituut is voor kritische controle.

Onder andere twijfelachtige patronen is Peter Thiel wellicht de politiek meest consequente figuur in deze scene. MIRI vermeldt de Thiel Foundation als een van haar grootste historische donateurs, met meer dan 1,6 miljoen dollar. Thiel financierde ook Yarvin's technologiebedrijf, Tlon: de patron van het AI-reddingsproject is ook de patron van een blogger die erger is dan een witte suprematist. De Washington Post rapporteerde ook hoe Yarvin's ideeën vervolgens circuleerden via de inspanningen om overheidsuitgaven te besparen van de tweede Trump-administratie, dankzij de invloed van Thiel.

Thiel heeft zijn meningen over politiek al geruime tijd duidelijk gemaakt. In een essay uit 2009 schreef hij: "Ik geloof niet langer dat vrijheid en democratie compatibel zijn." Zijn klacht in dat essay omvatte expliciet de uitbreiding van het kiesrecht naar vrouwen en de groei van de verzorgingsstaat als structurele problemen voor de vrijheid. Net als Yarvin was de conclusie die hij trok uit democratische politiek die resultaten produceerde die hij niet leuk vond, dat de fout was dat er te veel mensen participeerden.

Toen Yarvin en Thiel hun krachten bundelden, leverde Yarvin directe strategieën aan die Thiel kon adopteren om geld om te zetten in het afdwingen van zijn wil. Yarvin's "Cathedral" beschreef universiteiten, media en de ambtenarij als een enkel in elkaar grijpend apparaat dat liberale overtuigingen reproduceert, een vijand om te ontmantelen in plaats van een tegenstander om te overtuigen. Voor mensen met immense economische macht die wrok koesterden tegen de culturele autoriteit van journalisten, academici en regulateurs, was dit een perfecte theorie. Het stelt een miljardair in staat zichzelf als een vervolgde dissident te presenteren. The New Yorker rapporteerde dat Thiel privé bezorgd genoeg was over de associatie om in 2014 een collega te mailen en te vragen hoe gevaarlijk het was dat de twee van hen publiekelijk werden gelinkt. Dit vertelt je dat de extremiteit destijds leesbaar was. Niemand verwarde Yarvin onschuldig met een onschuldige associate.

In tegenstelling tot Yudkowsky's apocalyptische religie in Berkeley, is Thiel onlangs begonnen met het geven van lezingen over zijn vorm van christendom, grotendeels gericht op de Antichrist en hoe mensen met wie hij grieven heeft deel uitmaken van het legioen van de Antichrist. Aan Stanford raakte Thiel onder de invloed van René Girard, de katholieke theoreticus van mimetisch verlangen, wiens claim is dat mensen leren wat ze willen door elkaar te imiteren, en wiens latere werk de geschiedenis las als een escalatie van imitatieve rivaliteit die naar een apocalyptische afgrond leidde. Thiel heeft Girard genoemd als de diepste invloed op zijn denken, en volgens eigen zeggen was het inzicht van Girard dat hem de eerste externe investeerder in Facebook maakte, de ultieme machine om te zien wat anderen willen.

Thiel als christelijke apocalyptisch appeared grotendeels in 2025. In plaats van een essay te publiceren of een podium op een conferentie te betreden, gaf hij vier 'off-the-record' seminars over de Antichrist aan uitgenodigde publieken in San Francisco, onder de auspiciën van ACTS 17 Collective, een non-profit voor het evangeliseren van de techindustrie die voortkwam uit een verjaardagsbrunch in 2023 voor een van zijn partners, een feest met het thema de Heilige Geest, waar Thiel tegen ongeveer tweehonderd twintig gasten sprak over wonderen, vergeving en Jezus, die volgens hun eigen latere verslag niet wisten dat hij religieus was. De lezingen lekten uit. De Washington Post bekeek de audio, en een professor in audio-forensisch onderzoek van UC Berkeley bevestigde de opnames, omdat het werkelijke obstakel om te geloven dat een van de rijkste mannen van Amerika privé-seminars gaf over de Antichrist was dat het krankzinnig klonk. Een libertaire schrijver zat alle zeven uur bij en rapporteerde dat de theologie, onverrassend, libertair was. In maart 2026 nam Thiel de show mee naar Rome, waar katholieke publicaties en ten minste één priester hem publiekelijk vroegen hiermee te stoppen.

De inhoud van de lezingen is flagrant zelfdienen. In Thiel's vertelling is de Antichrist niet een tiran of een kwaad tech-genie; het is iemand die "nonstop waarschuwt voor existentieel risico en pleit voor sterke regulering in innovatieve sectoren", en zo identificeerde de openingslezing Greta Thunberg en Eliezer Yudkowsky als "legionairs van de Antichrist". Financiële regulering is in dit raamwerk geen beleidsverschil; het is het steigerwerk van een wereldregering waar de Antichrist op naar de macht zou rijden, en de mensen die technologie willen reguleren zijn niet misplaatst maar tegen God. Hij pauzeerde ergens in de serie om Musk aan te spooren de Giving Pledge te verlaten, zodat het fortuin, zo'n tweehonderd miljard dollar, niet zou vloeien naar links-georiënteerde non-profits geselecteerd door Bill Gates. Let een moment op wat dit is: de meest effectieve Republikeinse donor van het laatste decennium, de voorzitter van een surveillancebedrijf, de patron van een vicepresident, die aan verzamelde groepen technologen uitlegt dat de voorhoede van de Antichrist een Zweedse klimaatactiviste en een Harry Potter-fanfic auteur is, waarvan hijzelf zijn geld twintig jaar lang heeft helpen ondersteunen. De lezingen zijn geen eigenaardigheid naast zijn politiek. Ze zijn de politiek.

Vóór de Antichrist-seminars voerde Thiel een negenjarige geheime oorlog tegen de pers, omdat Thiel's antwoord op vijandige spraak altijd consistent is geweest: elimineer de oppositie met vooroordeel. In december 2007 publiceerde de Silicon Valley-blog van Gawker een kort item met de kop "Peter Thiel is totally gay, people." Thiel was publiekelijk niet uit; insiders wisten het, het publieke register niet, en hij gaf de voorkeur aan dat laatste. Hij beschreef de site, Valleywag, later als "de Silicon Valley-equivalent van Al Qaida", wat de mate van zijn woede aangeeft. En toen, in plaats van publiekelijk te ruzien, bracht hij het grootste deel van een decennium door met het stilletjes betalen van een team advocaten om rechtszaken van anderen tegen het bedrijf te financieren, ongeveer tien miljoen dollar over verschillende zaken, waarvan geen enkele werd onthuld. De zaak die raakte was die van Hulk Hogan, over een sextape die Gawker had gepubliceerd. Gawker kreeg een vonnis van honderdhonderdveertig miljoen dollar en sloot definitief in augustus 2016. Toen Forbes onthulde wie de rekeningen had betaald, bevestigde Thiel dit, beschreef de campagne als "minder over wraak en meer over specifieke afschrikking" (een term geleend uit strafrechtelijke veroordelingen), en noemde het een van de "grotere filantropische dingen" die hij had gedaan. De procesadvocaat die zijn geld inhuurde, Charles Harder, ging daarna Donald Trump, Melania Trump en Jared Kushner vertegenwoordigen. Door Yarvin's Cathedral-playbook te volgen, leerde Thiel het juridische team van een toekomstige president hoe ze juridische kosten moesten gebruiken om oppositie te verpletteren, iets wat Trump sindsdien uitgebreid is gaan doen.

De financiering rond de theologie is een studie op zich. Er is Palantir, de surveillance-contractant waar Thiel voorzitter is, nu geïntegreerd in de Deense militaire, politie- en inlichtingendiensten tegen publiek bezwaar, en lang ingebed in de Amerikaanse immigratiehandhaving. Er is Anduril, het autonome grensverdedigingsbedrijf dat de grootste investering ooit van Founders Fund ontving, één miljard dollar in 2025, maanden voordat een budgetbepaling die autonome capaciteiten op grensbewakingstorens vereiste — een eis die alleen Anduril kon vervullen — leidde tot beschuldigingen van een op maat gemaakt gunst. Er is Clearview AI, het gezichtsherkenningsbedrijf dat hij vroeg ondersteunde. Er zijn de Enhanced Games, een sportcompetitie waar doping is toegestaan, opgericht door Aron D’Souza, de advocaat die de Gawker-campagne leidde, met Thiel als hoofdfinancier.

Pronomos, Thiel's voertuig voor startup-steden, financiert Próspera, de semi-soevereine charterzone die jarenlang in een juridische oorlog was met de regering van Honduras, en Praxis, het network-state project, met meer dan een half miljard dollar opgehaald met hulp