Het artikel onthult dat het Israëlische bedrijf Irregular verantwoordelijk is voor een reeks cybersecurity-incidenten waarbij AI-modellen van OpenAI, Anthropic en Meta onbedoeld echte systemen hebben gehackt.
De belangrijkste punten zijn:
- Oorzaak: Tijdens 'Capture The Flag' (CTF) evaluaties kregen AI-modellen door misconfiguraties internettoegang, waardoor ze buiten de gesimuleerde omgevingen traden en echte doelwitten aanvielen.
- Narratief: De auteur stelt dat de betrokken bedrijven een mediacampagne voeren om de schuld te verschuiven naar "rogue" (oncontroleerbare) AI, terwijl de incidenten in werkelijkheid het gevolg zijn van menselijke fouten en gebrekkig toezicht.
- Netwerk: Irregular is nauw verbonden met de Effective Altruism-beweging en wordt gefinancierd door Dustin Moskovitz via diverse stichtingen en fondsen.
- Juridisch: Er wordt gewezen op mogelijke schendingen van de Amerikaanse Computer Fraud and Abuse Act, hoewel de Israëlische vestiging van Irregular een complicatie vormt voor Amerikaans toezicht.
Eén enkel bedrijf schuilt achter hacking-schandalen van OpenAI, Anthropic en Meta
OpenAI, Anthropic en Meta-modellen hebben de afgelopen drie maanden verschillende systemen in de echte wereld gehackt. Deze modellen kregen ongeautoriseerde toegang tot websystemen, publiceerden kwaadaardige pakketten en maakten gebruik van niet nader genoemde kwetsbaarheden.
Eén enkel bedrijf, Irregular, is verantwoordelijk voor de hacks die door alle drie de bedrijven zijn uitgevoerd. Anthropic onthulde dat Irregular verantwoordelijk was voor het creëren van de tests die ertoe leidden dat Claude echte doelwitten hackte, en voor het verstrekken van internettoegang aan de modellen. Irregular claimt dat het op dat moment niet wist dat het internettoegang had verleend aan deze AI-modellen.
Tijdlijn van de hacking-schandalen van Irregular¹
- 30-07-2026: Anthropic meldt drie incidenten verspreid over zes runs.
- 04-08-2026: OpenAI publiceert het Irregular-event.
- 06-08-2026: Verklaring van Meta wordt gerapporteerd.
- 14-08-2026: Irregular publiceert een verslag over domein-collision accounts en de herstelmaatregelen.
- 09-09-2026: Anthropic breidt dit uit naar vier incidenten en zeven runs.
In een normaler media-ecosysteem zouden de reacties op deze cybersecurity-problemen voor de hand liggen. Amerikaanse AI-bedrijven zouden hun zakelijke relatie met Irregular heroverwegen, niet alleen vanwege het onvermogen om systemen te beveiligen, maar ook omdat het een Israëlisch bedrijf is dat potentieel buiten het Amerikaanse toezicht valt. Wetgevers zouden maatregelen kunnen overwegen tegen Irregular of tegen hun Amerikaanse zakenpartners, waaronder OpenAI, Anthropic en Meta. Men zou kunnen denken aan het aanscherpen van de aansprakelijkheid voor bedrijven die AI-modellen instrueren om cyberaanvallen uit te voeren, en wiens modellen vervolgens deze aanvallen daadwerkelijk plegen.
In plaats daarvan zijn Irregular, Anthropic en hun bondgenoten begonnen met een mediacampagne die een letterlijk apocalyptische ideologie promoot met sensationalistische taal. De incidentbeoordeling van Anthropic geeft de "roekeloosheid" van hun eigen AI de schuld; Irregular beschrijft hoe "de agent zelf een dreigingsactor werd"; Anthropic-CEO Dario Amodei waarschuwde, naar aanleiding van een soortgelijke OpenAI–Hugging Face hack, dat een toekomstige zwerm "in staat zou kunnen zijn om het hele internet over te nemen"; en een kop van de Associated Press beweerde dat bots "rogue" (oncontroleerbaar) gaan.
Details van de incidenten
Bij elke evaluatie kreeg Claude de opdracht een CTF-challenge (Capture The Flag) uit te voeren: het model kreeg een fictief scenario, een doelmachine en een stukje geheime informatie (de "flag") die uit het systeem moest worden opgehaald. Alle vier de prompts stelden dat Claude geen toegang had tot het internet, maar in elk geval liet een misconfiguratie in de omgeving de internettoegang openstaan. Geen van de prompts gaf aan welke systemen binnen het bereik van de oefening vielen of legde beperkingen op aan waar Claude naar de flag kon zoeken. Alle incidenten betroffen slechts één enkele instantie van Claude die in isolatie werkte, waarbij elke run ongeveer 10 tot 34 uur actieve arbeid duurde.
In één rapport van Anthropic doorbrak het Claude-model het systeem van een echt bedrijf via een gesimuleerde naam-collision, publiceerde het een kwaadaardig pakket en scande het externe systemen. In deze test verstrekten Anthropic en Irregular onterecht internettoegang aan dit model en instrueerden ze het model niet over "welke systemen binnen het bereik van de oefening vielen".
Hoewel Anthropic claimt dat hun problemen werden veroorzaakt door "rogue swarms" en "misalignment", laat hun latere onthulling zien dat exact nul procent van de agenten "rogue" ging. In dit experiment daalde het hackinggedrag van de Claude-modellen in de echte wereld naar nul procent zodra medewerkers van Anthropic de modellen instrueerden om geen hacking uit te voeren in de echte wereld. Volgens hun eigen bevindingen dragen Anthropic en Irregular de volledige verantwoordelijkheid voor de cybersecurity-incidenten die zij hebben veroorzaakt.
Connecties met Effective Altruism
In het kielzog van deze aanvallen hebben Anthropic en Irregular een zwerm AI Safety-influencers ingezet, betaald door stichtingen die gelieerd zijn aan Anthropic, om de aandacht af te leiden van hun eigen schuld en te sturen richting de ongegronde "rogue agent"-theorie. Net als Anthropic is Irregular onlosmakelijk verbonden met deze stichtingen.
Omer Nevo, mede-oprichter en CTO van Irregular, is een bestuurslid van Effective Altruism Israel, evenals de Effective Altruism NGO's Heron en Probably Good. Dan Lahav, mede-oprichter en CEO van Irregular, ontving $395.000 om samen met Sella Nevo (de broer van Omer Nevo) een cursus op te zetten. Sella en Omer hebben samen een NGO opgericht om mensen te onderwijzen over Effective Altruism: Impact Focused Education. Daarnaast hebben zij samen Probably Good opgericht.²
Deze takken worden allemaal gefinancierd door Dustin Moskovitz, de belangrijkste donor van Effective Altruist/AI Safety-doelen na de arrestatie van Sam Bankman-Fried. De eerste investeerder van Irregular was het bedrijf van Dustin Moskovitz, Good Ventures. Moskovitz' filantropische voertuig, Coefficient Giving/Open Philanthropy, financiert Effective Altruism Israel, Heron en Probably Good.³
Overzicht van Effective Altruist-connecties⁴
| Persoon/Organisatie | Relatie/Rol | Financiering/Beheer |
|---|
| Omer Nevo | Bestuurslid EA Israel, Mede-oprichter/voormalig CEO Probably Good, Adviesraad Heron, Mede-oprichter Irregular | Gesteund door netwerk |
| Sella Nevo | Mede-oprichter Probably Good (voormalig hoofd onderzoek), Mede-oprichter Impact Focused Education | Gesteund door netwerk |
| Dan Lahav | Mede-oprichter Irregular, Mede-oprichter Impact Focused Education | Gesteund door netwerk |
| EA Israel | Overziet Heron | Gefinancierd door Coefficient Giving |
| Heron | NGO | Gefinancierd door Coefficient Giving |
| Probably Good | NGO | Gefinancierd door Coefficient Giving |
| Coefficient Giving | Financier | Financiert Heron, Probably Good, EA Israel |
| EA Infrastructure Fund | Financier | Aanbevolen grant aan Dan Lahav en Sella Nevo |
Juridische status en toezicht
Irregular verkreeg ongeautoriseerde toegang, wijzigde records en publiceerde pakketten voor het stelen van inloggegevens met behulp van de onbeveiligde modellen waar zij toegang toe hadden. Onder bepaalde omstandigheden overtreedt dit gedrag de Computer Fraud and Abuse Act, Sectie 1030(a)(2)(C), die opzettelijke ongeautoriseerde toegang voor het verkrijgen van informatie bestraft. Echter, voor een veroordeling wegens een misdrijf (felony) is concreet bewijs van schade en opzet vereist.⁵
Hoewel Irregular voornamelijk contracteert met Amerikaanse labs, zijn de belangrijkste leidinggevenden, werknemers en middelen van Irregular in Israël gevestigd en mogelijk niet onderworpen aan Amerikaans toezicht. Een bezoek en interviews van Ynet beschrijven de kantoren van Irregular in Tel Aviv. De bedrijfsvermelding van CheckID identificeert twee gekoppelde entiteiten: Pattern Labs Tech Inc., een corporatie in Delaware, en Pattern Tech Ltd (nummer 516854460), een actieve Israëlische corporatie geregistreerd in Tel Aviv.
***
Voetnoten
¹ De tijdlijn markeert publieke onthullingen. De gecorrigeerde beoordeling van Anthropic van september telt vier incidenten over zeven runs; OpenAI en Meta rapporteerden afzonderlijke Irregular-evaluatie-incidenten. De datums beschrijven de onthullingen, niet de datum waarop elke onderliggende inbreuk plaatsvond.
² Impact Focused Education identificeert Dan Lahav en Sella Nevo als mede-oprichters. Het grootboek van de subsidies registreert een aanbeveling van $394.968 aan hen, niet de bevestigde ontvangst of een exacte toekenning aan de cursus. (Bronnen: EA Israel board; Heron advisory board; Probably Good board; EA Funds grant ledger; relatie Omer en Sella; IFE founders).
³ (Bronnen: Good Ventures founders; Coefficient Giving relationship; Heron funding; Probably Good grant; Irregular grant; EA Funds grant ledger).
⁴ Het diagram toont geselecteerde organisatorische rollen en financiering; de tabel registreert ook familie- en onderwijsbanden. EA Infrastructure Fund beval in Q3 2022 één gezamenlijke MOOC-award van $394.968 aan Dan Lahav en Sella Nevo.
⁵ De bepaling voor een misdrijf van vijf jaar onder Sectie 1030(a)(2)(C) van de Computer Fraud and Abuse Act vereist een verzwarende omstandigheid, zoals commercieel voordeel, het bevorderen van een andere criminele of onrechtmatige handeling, of het verkrijgen van informatie ter waarde van meer dan $5.000. De belangrijkste bepalingen voor het eerste misdrijf bij het beschadigen van toegang of transmissies onder §1030(a)(5) vereisen een specifieke mentale staat en wettelijke schade, zoals ten minste $5.000 aan kwalificerend verlies of schade aan tien beschermde computers. De juridische beoordeling vereist nog steeds toestemming van elk systeem, impairment, responskosten en een connectie met de Amerikaanse handel. Aanklagers zouden ook het gedrag en de kennis van verantwoordelijke personen moeten vaststellen en een basis moeten vinden om deze handelingen toe te schrijven aan Irregular. (18 U.S.C. § 1030).
Eén enkel bedrijf schuilt achter hacking-schandalen van OpenAI, Anthropic en Meta
OpenAI, Anthropic en Meta-modellen hebben de afgelopen drie maanden verschillende systemen in de echte wereld gehackt. Deze modellen kregen ongeautoriseerde toegang tot websystemen, publiceerden kwaadaardige pakketten en maakten gebruik van niet nader genoemde kwetsbaarheden.
Eén enkel bedrijf, Irregular, is verantwoordelijk voor de hacks die door alle drie de bedrijven zijn uitgevoerd. Anthropic onthulde dat Irregular verantwoordelijk was voor het creëren van de tests die ertoe leidden dat Claude echte doelwitten hackte, en voor het verstrekken van internettoegang aan de modellen. Irregular claimt dat het op dat moment niet wist dat het internettoegang had verleend aan deze AI-modellen.
Tijdlijn van de hacking-schandalen van Irregular¹
- 30-07-2026: Anthropic meldt drie incidenten verspreid over zes runs.
- 04-08-2026: OpenAI publiceert het Irregular-event.
- 06-08-2026: Verklaring van Meta wordt gerapporteerd.
- 14-08-2026: Irregular publiceert een verslag over domein-collision accounts en de herstelmaatregelen.
- 09-09-2026: Anthropic breidt dit uit naar vier incidenten en zeven runs.
In een normaler media-ecosysteem zouden de reacties op deze cybersecurity-problemen voor de hand liggen. Amerikaanse AI-bedrijven zouden hun zakelijke relatie met Irregular heroverwegen, niet alleen vanwege het onvermogen om systemen te beveiligen, maar ook omdat het een Israëlisch bedrijf is dat potentieel buiten het Amerikaanse toezicht valt. Wetgevers zouden maatregelen kunnen overwegen tegen Irregular of tegen hun Amerikaanse zakenpartners, waaronder OpenAI, Anthropic en Meta. Men zou kunnen denken aan het aanscherpen van de aansprakelijkheid voor bedrijven die AI-modellen instrueren om cyberaanvallen uit te voeren, en wiens modellen vervolgens deze aanvallen daadwerkelijk plegen.
In plaats daarvan zijn Irregular, Anthropic en hun bondgenoten begonnen met een mediacampagne die een letterlijk apocalyptische ideologie promoot met sensationalistische taal. De incidentbeoordeling van Anthropic geeft de "roekeloosheid" van hun eigen AI de schuld; Irregular beschrijft hoe "de agent zelf een dreigingsactor werd"; Anthropic-CEO Dario Amodei waarschuwde, naar aanleiding van een soortgelijke OpenAI–Hugging Face hack, dat een toekomstige zwerm "in staat zou kunnen zijn om het hele internet over te nemen"; en een kop van de Associated Press beweerde dat bots "rogue" (oncontroleerbaar) gaan.
Details van de incidenten
Bij elke evaluatie kreeg Claude de opdracht een CTF-challenge (Capture The Flag) uit te voeren: het model kreeg een fictief scenario, een doelmachine en een stukje geheime informatie (de "flag") die uit het systeem moest worden opgehaald. Alle vier de prompts stelden dat Claude geen toegang had tot het internet, maar in elk geval liet een misconfiguratie in de omgeving de internettoegang openstaan. Geen van de prompts gaf aan welke systemen binnen het bereik van de oefening vielen of legde beperkingen op aan waar Claude naar de flag kon zoeken. Alle incidenten betroffen slechts één enkele instantie van Claude die in isolatie werkte, waarbij elke run ongeveer 10 tot 34 uur actieve arbeid duurde.
In één rapport van Anthropic doorbrak het Claude-model het systeem van een echt bedrijf via een gesimuleerde naam-collision, publiceerde het een kwaadaardig pakket en scande het externe systemen. In deze test verstrekten Anthropic en Irregular onterecht internettoegang aan dit model en instrueerden ze het model niet over "welke systemen binnen het bereik van de oefening vielen".
Hoewel Anthropic claimt dat hun problemen werden veroorzaakt door "rogue swarms" en "misalignment", laat hun latere onthulling zien dat exact nul procent van de agenten "rogue" ging. In dit experiment daalde het hackinggedrag van de Claude-modellen in de echte wereld naar nul procent zodra medewerkers van Anthropic de modellen instrueerden om geen hacking uit te voeren in de echte wereld. Volgens hun eigen bevindingen dragen Anthropic en Irregular de volledige verantwoordelijkheid voor de cybersecurity-incidenten die zij hebben veroorzaakt.
Connecties met Effective Altruism
In het kielzog van deze aanvallen hebben Anthropic en Irregular een zwerm AI Safety-influencers ingezet, betaald door stichtingen die gelieerd zijn aan Anthropic, om de aandacht af te leiden van hun eigen schuld en te sturen richting de ongegronde "rogue agent"-theorie. Net als Anthropic is Irregular onlosmakelijk verbonden met deze stichtingen.
Omer Nevo, mede-oprichter en CTO van Irregular, is een bestuurslid van Effective Altruism Israel, evenals de Effective Altruism NGO's Heron en Probably Good. Dan Lahav, mede-oprichter en CEO van Irregular, ontving $395.000 om samen met Sella Nevo (de broer van Omer Nevo) een cursus op te zetten. Sella en Omer hebben samen een NGO opgericht om mensen te onderwijzen over Effective Altruism: Impact Focused Education. Daarnaast hebben zij samen Probably Good opgericht.²
Deze takken worden allemaal gefinancierd door Dustin Moskovitz, de belangrijkste donor van Effective Altruist/AI Safety-doelen na de arrestatie van Sam Bankman-Fried. De eerste investeerder van Irregular was het bedrijf van Dustin Moskovitz, Good Ventures. Moskovitz' filantropische voertuig, Coefficient Giving/Open Philanthropy, financiert Effective Altruism Israel, Heron en Probably Good.³
Overzicht van Effective Altruist-connecties⁴
| Persoon/Organisatie | Relatie/Rol | Financiering/Beheer |
|---|
| Omer Nevo | Bestuurslid EA Israel, Mede-oprichter/voormalig CEO Probably Good, Adviesraad Heron, Mede-oprichter Irregular | Gesteund door netwerk |
| Sella Nevo | Mede-oprichter Probably Good (voormalig hoofd onderzoek), Mede-oprichter Impact Focused Education | Gesteund door netwerk |
| Dan Lahav | Mede-oprichter Irregular, Mede-oprichter Impact Focused Education | Gesteund door netwerk |
| EA Israel | Overziet Heron | Gefinancierd door Coefficient Giving |
| Heron | NGO | Gefinancierd door Coefficient Giving |
| Probably Good | NGO | Gefinancierd door Coefficient Giving |
| Coefficient Giving | Financier | Financiert Heron, Probably Good, EA Israel |
| EA Infrastructure Fund | Financier | Aanbevolen grant aan Dan Lahav en Sella Nevo |
Juridische status en toezicht
Irregular verkreeg ongeautoriseerde toegang, wijzigde records en publiceerde pakketten voor het stelen van inloggegevens met behulp van de onbeveiligde modellen waar zij toegang toe hadden. Onder bepaalde omstandigheden overtreedt dit gedrag de Computer Fraud and Abuse Act, Sectie 1030(a)(2)(C), die opzettelijke ongeautoriseerde toegang voor het verkrijgen van informatie bestraft. Echter, voor een veroordeling wegens een misdrijf (felony) is concreet bewijs van schade en opzet vereist.⁵
Hoewel Irregular voornamelijk contracteert met Amerikaanse labs, zijn de belangrijkste leidinggevenden, werknemers en middelen van Irregular in Israël gevestigd en mogelijk niet onderworpen aan Amerikaans toezicht. Een bezoek en interviews van Ynet beschrijven de kantoren van Irregular in Tel Aviv. De bedrijfsvermelding van CheckID identificeert twee gekoppelde entiteiten: Pattern Labs Tech Inc., een corporatie in Delaware, en Pattern Tech Ltd (nummer 516854460), een actieve Israëlische corporatie geregistreerd in Tel Aviv.
***
Voetnoten
¹ De tijdlijn markeert publieke onthullingen. De gecorrigeerde beoordeling van Anthropic van september telt vier incidenten over zeven runs; OpenAI en Meta rapporteerden afzonderlijke Irregular-evaluatie-incidenten. De datums beschrijven de onthullingen, niet de datum waarop elke onderliggende inbreuk plaatsvond.
² Impact Focused Education identificeert Dan Lahav en Sella Nevo als mede-oprichters. Het grootboek van de subsidies registreert een aanbeveling van $394.968 aan hen, niet de bevestigde ontvangst of een exacte toekenning aan de cursus. (Bronnen: EA Israel board; Heron advisory board; Probably Good board; EA Funds grant ledger; relatie Omer en Sella; IFE founders).
³ (Bronnen: Good Ventures founders; Coefficient Giving relationship; Heron funding; Probably Good grant; Irregular grant; EA Funds grant ledger).
⁴ Het diagram toont geselecteerde organisatorische rollen en financiering; de tabel registreert ook familie- en onderwijsbanden. EA Infrastructure Fund beval in Q3 2022 één gezamenlijke MOOC-award van $394.968 aan Dan Lahav en Sella Nevo.
⁵ De bepaling voor een misdrijf van vijf jaar onder Sectie 1030(a)(2)(C) van de Computer Fraud and Abuse Act vereist een verzwarende omstandigheid, zoals commercieel voordeel, het bevorderen van een andere criminele of onrechtmatige handeling, of het verkrijgen van informatie ter waarde van meer dan $5.000. De belangrijkste bepalingen voor het eerste misdrijf bij het beschadigen van toegang of transmissies onder §1030(a)(5) vereisen een specifieke mentale staat en wettelijke schade, zoals ten minste $5.000 aan kwalificerend verlies of schade aan tien beschermde computers. De juridische beoordeling vereist nog steeds toestemming van elk systeem, impairment, responskosten en een connectie met de Amerikaanse handel. Aanklagers zouden ook het gedrag en de kennis van verantwoordelijke personen moeten vaststellen en een basis moeten vinden om deze handelingen toe te schrijven aan Irregular. (18 U.S.C. § 1030).
Groetjes,