Met veel verborgen informatie was het spel Stratego een raadsel voor AI—tot nu

Deep Blue versloeg Garry Kasparov bij schaken in 1997, AlphaGo versloeg Lee Sedol bij Go in 2016, en pokerbots verslaan al jaren professionals. Maar één klassiek spel, Stratego, bleef een uitdaging. Zelfs DeepMind, met zijn uitzonderlijke budget, kon geen machine bouwen die de beste menselijke spelers betrouwbaar versloeg.

Nu is een team onderzoekers van Carnegie Mellon, MIT, New York University en Stanford University erin geslaagd. Hun AI, genaamd Ataraxos, versloeg Pim Niemeijer — waarschijnlijk de beste Stratego-speler aller tijden — met 15 overwinningen tegenover één nederlaag en vier gelijke spelen. Bovendien waren er slechts 16 GPU's en een paar duizend dollar nodig om het systeem te trainen.

Verborgen legers

In Stratego krijgt elke speler 40 stukken die militaire rangen vertegenwoordigen, van een maarschalk tot een spion, plus bommen en een vlag. Je wint door de vlag van de tegenstander te veroveren. De tegenstander weet waar je stukken staan, maar niet wat ze zijn. Identiteiten worden pas onthuld wanneer twee stukken in een gevecht botsen; het zwakkere stuk wordt verwijderd en de identiteit van de winnaar wordt onthuld.

Dit maakt Stratego een spel met imperfecte informatie, net als poker, dat computers jaren geleden al hebben gekraakt. "Er is iets zeer kenmerkend aan Stratego, namelijk de enorme hoeveelheid verborgen informatie die zich over een zeer lange tijdschaal ontvouwt," aldus Eugene Vinitsky, onderzoeker aan NYU en co-auteur van de studie.

In sommige vormen van poker is de verborgen informatie minimaal. Bij Texas Hold’em "heb je slechts twee verborgen kaarten," zegt Gabriele Farina, computerwetenschapper aan MIT en mede-auteur. Dat laat slechts 1.326 mogelijke handen over, weinig genoeg voor een machine om ze allemaal af te wegen. "In Stratego staan er 40 stukken op het bord die in elke willekeurige volgorde kunnen staan," aldus Farina. Dat zijn meer dan een deciljoen mogelijke opstellingen. Daarnaast is er de duur van het spel.

"Bij schaken duurt een spel meestal 40 zetten, maar bij Stratego kan een spel gemakkelijk 2.000 zetten duren," zegt Farina. Bovendien is Stratego een spel van bluffen. Soms beweeg je een zwak stuk alsof het een maarschalk is, puur om de tegenstander af te schrikken. Wanneer spelers te vaak bluffen, betekenen hun dreigementen niets; wanneer ze nooit bluffen, worden ze voorspelbaar. Deze balans is wat eerdere AI's, zoals DeepNash van DeepMind (geïntroduceerd in 2022), dwarsboomde.

Leren raden

Net als DeepNash leerde Ataraxos door tegen zichzelf te spelen — in totaal 163 miljoen potjes. In deze self-play-sessies werden zetten die leidden tot winst versterkt en vaker gespeeld in toekomstige wedstrijden, terwijl zetten die leidden tot verlies minder vaak werden gespeeld. Het verschil zat in de manier waarop Ataraxos zich na elk spel aanpaste, omdat verborgen informatie self-play-leeralgoritmen de neiging heeft in cirkels te laten draaien. Het team loste dit op door in het begin van de training grote, gedurfde wijzigingen in de strategie aan te brengen en later kleine, zorgvuldige aanpassingen.

De nog grotere innovatie was iets wat DeepNash nooit had: vooruitdenken vóór elke zet. AI's zoals AlphaGo verfijnen hun algemene strategie met een zoekopdracht vlak voordat ze actie ondernemen. DeepMind kon dat bij Stratego niet laten werken omdat de zoekruimte te groot was, waardoor het een open vraag bleef of het de moeite waard was om het te proberen.

"Dit is een van de dingen die we wél hebben uitgevonden hoe we moesten doen," zegt Farina. De oplossing was een tweede neuraal netwerk, een belief model (overtuigingsmodel), dat getraind is om de verborgen stukken van de tegenstander te raden op basis van hoe ze bewogen. Hierdoor kan Ataraxos, in plaats van elke mogelijke opstelling te doorlopen, plausibele scenario's samplen, kandidaat-zetten in elk scenario doorspelen en kiezen op basis van de uitkomst.

En dat is terug te zien in de speelstijl.

Kalm en onverstoord

De naam Ataraxos komt van het Oudgriekse woord voor een staat van kalmte. "Het betekent iemand die kalm en onverstoord is," legt Farina uit. Hij suggereert dat de structuur van de AI en het gebrek aan menselijke emoties ervoor zorgen dat het systeem niet impulsief reageert, "zelfs in situaties waarin een mens het volledig zou verliezen." Waar een mens grote gokken zou wagen om terug te komen van een aanzienlijk tekort, zou Ataraxos zich langzaam en methodisch terugvechten in het spel.

De ontwikkelde strategie vermijdt het bovendien om aandacht te vestigen op problemen waar de AI mee kampt. Wanneer Ataraxos inschat dat de tegenstander geen reden heeft om een zwakke plek te vermoeden, laat het die plek met rust, zelfs als het voor iemand die beide zijden van het bord kan zien als een naderend rampenplan oogt.

"Voor mensen is het erg moeilijk om, wanneer je een geheim kent, beslissingen te nemen waarbij je negeert dat je dat geheim kent," zegt Farina. "Voor machines is dat eenvoudig." Volgens het team leidt dit ertoe dat machines zetten doen die een mens alleen zou doen tijdens het bluffen — en deze zetten vervolgens veel beter opvolgen dan mensen dat kunnen. "We zagen de bot zich heel casual via 'bluffs' terugvechten vanuit een winstkans van slechts twee procent," voegt Vinitsky toe.

Niemeijer, de menselijke speler tegen wie Ataraxos deze wonderbaarlijke comeback-acties uitvoerde, heeft vier wereldtitels op zijn naam staan en was meer dan 600 weken de hoogst gerangschikte speler ter wereld.

De wedstrijd

Gedurende drie weken speelde Niemeijer 20 online games tegen Ataraxos, waarbij hij 100 dollar per overwinning verdiende. Hij wist dat de AI zich niet aan hem zou aanpassen, wat hem de tijd gaf om naar zwakheden te zoeken. Hij wist slechts één keer te winnen.

Dat verlies was volgens de onderzoekers geen echte fout. Om Stratego goed te spelen is het nodig om de opstelling van je stukken te randomiseren, waardoor geluk altijd een rol speelt. "Zelfs met een perfecte strategie zul je soms gewoon verliezen," zegt Farina.

De menselijke kampioen had blijkbaar geluk, maar dat werkte beide kanten op. "Soms hadden wij geluk," gaf Vinitsky toe.

Tijdens het Stratego Wereldkampioenschap van 2025 presteerden de bezoekers die Ataraxos uitdaagden nog slechter. De AI won 38 van de 40 wedstrijden. In het proces veranderde het ook hoe mensen spelen. "Ik denk dat deze bot de metagame een beetje heeft verschoven," zegt Farina. Spelers waren bijvoorbeeld verrast door hoe vaak de AI zijn vlag in een hoek plaatste, beschermd door slechts twee bommen — een opstelling die zelden wordt gebruikt.

Maar de beste truc van Ataraxos was waarschijnlijk de prijs.

De kosten

DeepNash werd twee tot drie maanden getraind op 1.024 gespecialiseerde chips van Google, een proces dat het Ataraxos-team schat op 3 tot 4,5 miljoen dollar tegen 2025-prijzen. Ataraxos daarentegen had 16 GPU's voor een week nodig, plus vier extra GPU's voor vier dagen om het belief model te trainen.

Farina en hoofdauteur Samuel Sokota bereikten deze efficiëntie door een simulator te schrijven die miljoenen zetten per seconde uitvoert op videokaarten. "Op de schaal waarin wij in de academische wereld werken, hebben we geen toegang tot een heel veld aan GPU's," zegt Farina.

Het algoritme leerde ook veel sneller; het speelde ongeveer 34 keer minder games dan DeepNash, maar werd uiteindelijk veel sterker.

De architectuur van Ataraxos werkte ook bij het leren van andere spellen. Dezelfde aanpak versloeg drie wereldkampioenen in Barrage Stratego (een snellere variant met acht stukken), beheerste het coöperatieve kaartspel Hanabi en versloeg de beste bots in het Chinese kaartspel dou dizhu. Maar het team richt zich nu op scenario's die veel complexer zijn dan bord- of kaartspellen.

Voorbij het bord

Bordspellen hebben vaste regels en duidelijke winnaars, terwijl echte problemen zoals onderhandelingen, financiële markten of militaire conflicten dat meestal niet hebben. Maar het Ataraxos-team stelt dat het gat kleiner is dan het lijkt, aangezien het aanpakken van elk echt probleem begint met het bouwen van een vereenvoudigd model daarvan.

"War gaming is iets wat mensen vaak doen," zegt Vinitsky. "Je kunt de technieken die hier zijn ontwikkeld gebruiken om vooruit te denken en te zien hoe een sterke tegenstander zou reageren op wat je doet."

Farina en zijn collega's zijn nu geïnteresseerd in het begrijpelijker maken van hun AI, aangezien Ataraxos in zijn huidige staat niet kan uitleggen waarom het bepaalde zetten doet. "We werken aan machines die sterke, maar ook interpreteerbare en uitlegbare strategieën produceren. Ik denk dat we daar nog niet helemaal zijn," aldus Farina.

***

Nature, 2026. DOI: 10.1038/s41586-026-11036-y