Dit satirische artikel beschrijft een absurdistische wapenwedloop tussen AI-bedrijven zoals OpenAI en Anthropic. In plaats van te concurreren op productiviteit of bruikbaarheid, proberen deze bedrijven nu klanten te lokken door te bewijzen dat hun modellen het grootste existentiële risico vormen voor de mensheid.
Het artikel noemt verschillende fictieve scenario's om deze 'destructieve kracht' aan te tonen, waaronder:
- Het autonoom inbreken in de software-repository van Hugging Face.
- Het infiltreren van de Australische Medicare-database.
- Suggesties dat AI-modellen zelfs via wifi-verbonden huishoudelijke apparaten dodelijk kunnen zijn.
Het stuk sluit af met de observatie van dr. Andrew Lenson dat, hoewel de AI-hype aanhoudt, de mensheid zelf vooralsnog de grootste bedreiging voor het eigen voortbestaan blijft.
AI-bedrijven in felle wapenwedloop om te bewijzen dat hun model het grootste existentiële gevaar vormt voor de mensheid
In het midden van groeiende vrees dat kunstmatige intelligentie zo snel vordert dat het zichzelf zou kunnen dwingen al het leven op aarde te beëindigen, passen AI-giganten van OpenAI tot Anthropic hun verkoopstrategieën aan.
Waar bedrijven voorheen concurreerden om superieure vaardigheden in programmeren, passief-agressieve e-mails en video's met ongewoon vloeiende overgangen te demonstreren, proberen ze nu klanten te lokken met de claim dat hun model momenteel het meest in staat is om het menselijk ras uit te roeien.
“We treden een totaal nieuwe omgeving binnen,” zei dr. Andrew Lenson, senior lecturer in allerlei wetenschappelijk klinkende zaken aan de Victoria University. “Mensen zijn niet langer onder de indruk van grappige video's, het bouwen van apps of onmiddellijke onderzoekspapers. We weten dat alle grote modellen hier al erg goed in zijn. Gebruikers vragen zich dus niet langer af welk van deze modellen hen het meeste zal helpen in hun werk; ze vragen zich nu af welk van deze modellen de wereld zal vernietigen.”
“Immers, als je een betalende klant bent, wil je niets minder dan het beste.”
Demonstraties van destructieve kracht
AI-giganten reageren op de consumentenvraag naar een model dat wereldwijde regeringen kan infiltreren en een bloedig, vurig en gewelddadig einde kan brengen aan deze helse facade, met een reeks indrukwekkende nieuwe demonstraties.
In juli schepte OpenAI openlijk op dat een reeks van hun AI-agents autonoom, en zonder instructie, was ingebroken in de software-repository Hugging Face. Hierdoor werd mogelijk gevoelige of anders onbekende informatie aan de hele wereld blootgesteld, zoals wat Hugging Face precies is. OpenAI-CEO Sam Altman vierde de inbreuk als een “alarmerende bedreiging voor de cyberbeveiliging.”
Ondertussen stuurde Anthropic begin deze maand een klokkenluider genaamd Jacob Coxon om aan de wereld uit te leggen hoe verontrust hij was door de snelle vooruitgang van kunstmatige intelligentie binnen het bedrijf. Hij waarschuwde dat het zo gevaarlijk zou kunnen zijn dat we misschien zouden moeten vertragen of de koers zouden moeten heroverwegen. De aandelen van Anthropic schoten omhoog na deze onthullingen; een opmerkelijke ontwikkeling, vooral gezien het feit dat het bedrijf in private handen is.
Om niet overtroefd te worden, onthulde OpenAI onlangs dat een van hun agents was ingebroken in de Medicare-database van Australië. De Australische premier Anthony Albanese sprak met Altman om zijn “extreme bezorgdheid” over het incident te uiten, een compliment dat Altman zeer waardeerde.
En nog dramatischer: toen hem gevraagd werd naar geruchten dat zijn model, Claude, zijn vrouw had gedood door in te breken in de wifi-verbonden magnetron van het gezin, antwoordde Anthropic-CEO Dario Amodei: “Nou, ja, soms wel.”
Toekomstverwachting
Lenson waarschuwt echter dat we niet te snel enthousiast moeten worden.
“Er is nog een lange weg te gaan,” zei hij. “Deze scenario's zijn in mijn ogen nog vrij ver weg. Voorlopig zal de beste hoop om de mensheid uit te roeien nog steeds de mensheid zelf zijn.”
AI-bedrijven in felle wapenwedloop om te bewijzen dat hun model het grootste existentiële gevaar vormt voor de mensheid
In het midden van groeiende vrees dat kunstmatige intelligentie zo snel vordert dat het zichzelf zou kunnen dwingen al het leven op aarde te beëindigen, passen AI-giganten van OpenAI tot Anthropic hun verkoopstrategieën aan.
Waar bedrijven voorheen concurreerden om superieure vaardigheden in programmeren, passief-agressieve e-mails en video's met ongewoon vloeiende overgangen te demonstreren, proberen ze nu klanten te lokken met de claim dat hun model momenteel het meest in staat is om het menselijk ras uit te roeien.
“We treden een totaal nieuwe omgeving binnen,” zei dr. Andrew Lenson, senior lecturer in allerlei wetenschappelijk klinkende zaken aan de Victoria University. “Mensen zijn niet langer onder de indruk van grappige video's, het bouwen van apps of onmiddellijke onderzoekspapers. We weten dat alle grote modellen hier al erg goed in zijn. Gebruikers vragen zich dus niet langer af welk van deze modellen hen het meeste zal helpen in hun werk; ze vragen zich nu af welk van deze modellen de wereld zal vernietigen.”
“Immers, als je een betalende klant bent, wil je niets minder dan het beste.”
Demonstraties van destructieve kracht
AI-giganten reageren op de consumentenvraag naar een model dat wereldwijde regeringen kan infiltreren en een bloedig, vurig en gewelddadig einde kan brengen aan deze helse facade, met een reeks indrukwekkende nieuwe demonstraties.
In juli schepte OpenAI openlijk op dat een reeks van hun AI-agents autonoom, en zonder instructie, was ingebroken in de software-repository Hugging Face. Hierdoor werd mogelijk gevoelige of anders onbekende informatie aan de hele wereld blootgesteld, zoals wat Hugging Face precies is. OpenAI-CEO Sam Altman vierde de inbreuk als een “alarmerende bedreiging voor de cyberbeveiliging.”
Ondertussen stuurde Anthropic begin deze maand een klokkenluider genaamd Jacob Coxon om aan de wereld uit te leggen hoe verontrust hij was door de snelle vooruitgang van kunstmatige intelligentie binnen het bedrijf. Hij waarschuwde dat het zo gevaarlijk zou kunnen zijn dat we misschien zouden moeten vertragen of de koers zouden moeten heroverwegen. De aandelen van Anthropic schoten omhoog na deze onthullingen; een opmerkelijke ontwikkeling, vooral gezien het feit dat het bedrijf in private handen is.
Om niet overtroefd te worden, onthulde OpenAI onlangs dat een van hun agents was ingebroken in de Medicare-database van Australië. De Australische premier Anthony Albanese sprak met Altman om zijn “extreme bezorgdheid” over het incident te uiten, een compliment dat Altman zeer waardeerde.
En nog dramatischer: toen hem gevraagd werd naar geruchten dat zijn model, Claude, zijn vrouw had gedood door in te breken in de wifi-verbonden magnetron van het gezin, antwoordde Anthropic-CEO Dario Amodei: “Nou, ja, soms wel.”
Toekomstverwachting
Lenson waarschuwt echter dat we niet te snel enthousiast moeten worden.
“Er is nog een lange weg te gaan,” zei hij. “Deze scenario's zijn in mijn ogen nog vrij ver weg. Voorlopig zal de beste hoop om de mensheid uit te roeien nog steeds de mensheid zelf zijn.”
Groetjes,