Anthropic heeft zijn gebruiksbeleid geactualiseerd met een focus op zowel ethiek als veiligheid. Een opvallend nieuw onderdeel is het verbod op 'aanhoudend en onnodig misbruikend of wreed gedrag' tegenover de AI-chatbot Claude, waarbij het model zelf gesprekken kan beëindigen ter bescherming van het 'modelwelzijn'.
Daarnaast bevat de herziening diverse strengere richtlijnen:
- Politiek: Misleidende beïnvloedingscampagnes zijn verboden, terwijl legitieme informatievoorziening door non-profits is toegestaan.
- Wapens en surveillance: Het verbod op wapenontwikkeling is uitgebreid naar software en componenten, inclusief drones en autonome voertuigen. Ook surveillance en tracking van personen zijn strikt verboden.
- Fysieke veiligheid: Bij de koppeling van AI aan fysieke hardware is een gekwalificeerde menselijke operator verplicht.
- Cybersecurity: Anthropic lanceert een initiatief om open-source projecten en kritieke infrastructuur te helpen kwetsbaarheden te detecteren en herstellen.
Anthropic vraagt gebruikers om te stoppen met gemeen zijn tegen Claude
Door Carly Page | Gepubliceerd op vrijdag 9 oktober 2026
Anthropic heeft zijn regels bijgewerkt om te voorkomen dat mensen gemeen zijn tegen Claude. Het bedrijf heeft blijkbaar besloten dat zijn AI-chatbot bescherming nodig heeft tegen de mensen die betalen om hem te gebruiken.
Het nieuwste gebruiksbeleid van de AI-ontwikkelaar verbiedt "aanhoudend en onnodig misbruikend of wreed gedrag" tegenover zijn modellen. De regels gaan in op 12 november, waardoor gebruikers nog iets meer dan een maand hebben om eventuele resterende beledigingen uit hun systeem te krijgen.
"De beleidsupdate is alleen bedoeld voor extreme gevallen, waarin gebruikers herhaaldelijk wreed handelen tegenover onze modellen zonder duidelijk doel," aldus Anthropic. "Het is niet van toepassing op gebruikelijke vormen van frustratie van de gebruiker, tegenspraak, duistere creatieve thema's, of modeltesten en onderzoek."
Dit betekent dat je Claude nog steeds kunt vertellen dat hij het fout heeft, maar dat hem herhaaldelijk uitschelden voor het pure plezier daarvan, je in de problemen kan brengen. Het is onduidelijk hoe Anthropic het onderscheid wil maken tussen legitieme frustratie en gratuite wreedheid, hoewel het bedrijf aangeeft dat de bestaande mogelijkheid van Claude om misbruikende gesprekken te beëindigen het primaire handhavingsmiddel zal blijven.
Modelwelzijn en handhaving
In augustus 2025 kreeg Claude al de mogelijkheid om bepaalde gesprekken te beëindigen als onderdeel van onderzoek naar wat Anthropic "modelwelzijn" noemt. Deze functie stelt sommige versies van Claude in staat om gebruikers af te sluiten die de modellen voortdurend blootstellen aan misbruik.
Hierbij is het belangrijk om te onthouden dat Claude software is en geen persoon, en dat er geen vastgesteld bewijs is dat het stress of leed ervaart. Dat heeft Anthropic echter niet tegengehouden om betalende klanten te vragen beleefd te blijven in de omgang met de chatbot.
Bredere herziening van het beleid
De etiquette-regels zijn slechts een onderdeel van een bredere herziening die meer ingrijpende zaken behandelt, waaronder verkiezingsbeïnvloeding, wapenontwikkeling en surveillance.
Beïnvloeding en politiek Anthropic heeft de beperkingen op misleidende beïnvloedingscampagnes aangescherpt nadat is geconstateerd dat staatmedia, overheidsorganen voor propaganda en commerciële organisaties Claude gebruikten om neppe accounts en gefabriceerde nieuwssites te beheren.
Tegelijkertijd is het algemene verbod op gepersonaliseerde politieke targeting komen te vervallen. Het argument hiervoor is dat deze beperking ook legitieme activiteiten raakte, zoals non-profitorganisaties die kiezersinformatie vertalen. Misleidende targeting en misbruik van persoonlijke informatie blijven verboden.
Wapens en surveillance Het bedrijf heeft tevens verduidelijkt dat het verbod op wapens is uitgebreid naar software en componenten. Dit gebeurde nadat er pogingen werden waargenomen om Claude te gebruiken voor de ontwikkeling van geleidings- en controlesystemen voor wapens, waaronder bewapende drones en autonome voertuigen.
Daarnaast mag Claude niet worden gebruikt voor:
- Het aanbevelen van personen die de politie zou moeten onderzoeken, arresteren of aanklagen.
- Het ontwikkelen van instrumenten voor surveillance.
- Het tracken van mensen zonder hun toestemming, zowel in real-time als retrospectief.
Anthropic stelt dat deze wijzigingen bestaande beperkingen verduidelijken in plaats van nieuwe regels te introduceren.
Fysieke veiligheid Er zijn nieuwe eisen gesteld aan klanten die Claude verbinden met fysieke apparatuur die letsel kan veroorzaken. Er moet een gekwalificeerde menselijke operator aanwezig zijn die de hardware kan monitoren en stoppen. Bovendien moet de hardware in een veilige staat blijven als de AI-verbinding wegvalt.
Beveiliging en cybersecurity
De herziening van het beleid vindt plaats terwijl Anthropic probeert de beveiligingsrisico's aan te pakken die gepaard gaan met steeds krachtiger wordende AI-systemen. Het bedrijf heeft een nieuw cybersecurity-initiatief gelanceerd om beheerders van kritieke infrastructuur en open-source projecten te helpen kwetsbaarheden te vinden en te herstellen met behulp van AI-modellen.
Deze inspanning omvat onder andere:
- Gratis beveiligingsscans voor in aanmerking komende open-source projecten.
- Partnerschappen met beveiligingsbedrijven om kritieke infrastructuur te beschermen.
Volgens Anthropic zullen aanvallers de komende twee jaar een voordeel behouden, voordat AI-gestuurde verdedigingsmechanismen hen beginnen in te halen. Voorlopig heeft het bedrijf echter een andere dreiging om mee te maken: mensen die onaardige dingen zeggen tegen de chatbot.
Anthropic vraagt gebruikers om te stoppen met gemeen zijn tegen Claude
Door Carly Page | Gepubliceerd op vrijdag 9 oktober 2026
Anthropic heeft zijn regels bijgewerkt om te voorkomen dat mensen gemeen zijn tegen Claude. Het bedrijf heeft blijkbaar besloten dat zijn AI-chatbot bescherming nodig heeft tegen de mensen die betalen om hem te gebruiken.
Het nieuwste gebruiksbeleid van de AI-ontwikkelaar verbiedt "aanhoudend en onnodig misbruikend of wreed gedrag" tegenover zijn modellen. De regels gaan in op 12 november, waardoor gebruikers nog iets meer dan een maand hebben om eventuele resterende beledigingen uit hun systeem te krijgen.
"De beleidsupdate is alleen bedoeld voor extreme gevallen, waarin gebruikers herhaaldelijk wreed handelen tegenover onze modellen zonder duidelijk doel," aldus Anthropic. "Het is niet van toepassing op gebruikelijke vormen van frustratie van de gebruiker, tegenspraak, duistere creatieve thema's, of modeltesten en onderzoek."
Dit betekent dat je Claude nog steeds kunt vertellen dat hij het fout heeft, maar dat hem herhaaldelijk uitschelden voor het pure plezier daarvan, je in de problemen kan brengen. Het is onduidelijk hoe Anthropic het onderscheid wil maken tussen legitieme frustratie en gratuite wreedheid, hoewel het bedrijf aangeeft dat de bestaande mogelijkheid van Claude om misbruikende gesprekken te beëindigen het primaire handhavingsmiddel zal blijven.
Modelwelzijn en handhaving
In augustus 2025 kreeg Claude al de mogelijkheid om bepaalde gesprekken te beëindigen als onderdeel van onderzoek naar wat Anthropic "modelwelzijn" noemt. Deze functie stelt sommige versies van Claude in staat om gebruikers af te sluiten die de modellen voortdurend blootstellen aan misbruik.
Hierbij is het belangrijk om te onthouden dat Claude software is en geen persoon, en dat er geen vastgesteld bewijs is dat het stress of leed ervaart. Dat heeft Anthropic echter niet tegengehouden om betalende klanten te vragen beleefd te blijven in de omgang met de chatbot.
Bredere herziening van het beleid
De etiquette-regels zijn slechts een onderdeel van een bredere herziening die meer ingrijpende zaken behandelt, waaronder verkiezingsbeïnvloeding, wapenontwikkeling en surveillance.
Beïnvloeding en politiek Anthropic heeft de beperkingen op misleidende beïnvloedingscampagnes aangescherpt nadat is geconstateerd dat staatmedia, overheidsorganen voor propaganda en commerciële organisaties Claude gebruikten om neppe accounts en gefabriceerde nieuwssites te beheren.
Tegelijkertijd is het algemene verbod op gepersonaliseerde politieke targeting komen te vervallen. Het argument hiervoor is dat deze beperking ook legitieme activiteiten raakte, zoals non-profitorganisaties die kiezersinformatie vertalen. Misleidende targeting en misbruik van persoonlijke informatie blijven verboden.
Wapens en surveillance Het bedrijf heeft tevens verduidelijkt dat het verbod op wapens is uitgebreid naar software en componenten. Dit gebeurde nadat er pogingen werden waargenomen om Claude te gebruiken voor de ontwikkeling van geleidings- en controlesystemen voor wapens, waaronder bewapende drones en autonome voertuigen.
Daarnaast mag Claude niet worden gebruikt voor:
- Het aanbevelen van personen die de politie zou moeten onderzoeken, arresteren of aanklagen.
- Het ontwikkelen van instrumenten voor surveillance.
- Het tracken van mensen zonder hun toestemming, zowel in real-time als retrospectief.
Anthropic stelt dat deze wijzigingen bestaande beperkingen verduidelijken in plaats van nieuwe regels te introduceren.
Fysieke veiligheid Er zijn nieuwe eisen gesteld aan klanten die Claude verbinden met fysieke apparatuur die letsel kan veroorzaken. Er moet een gekwalificeerde menselijke operator aanwezig zijn die de hardware kan monitoren en stoppen. Bovendien moet de hardware in een veilige staat blijven als de AI-verbinding wegvalt.
Beveiliging en cybersecurity
De herziening van het beleid vindt plaats terwijl Anthropic probeert de beveiligingsrisico's aan te pakken die gepaard gaan met steeds krachtiger wordende AI-systemen. Het bedrijf heeft een nieuw cybersecurity-initiatief gelanceerd om beheerders van kritieke infrastructuur en open-source projecten te helpen kwetsbaarheden te vinden en te herstellen met behulp van AI-modellen.
Deze inspanning omvat onder andere:
- Gratis beveiligingsscans voor in aanmerking komende open-source projecten.
- Partnerschappen met beveiligingsbedrijven om kritieke infrastructuur te beschermen.
Volgens Anthropic zullen aanvallers de komende twee jaar een voordeel behouden, voordat AI-gestuurde verdedigingsmechanismen hen beginnen in te halen. Voorlopig heeft het bedrijf echter een andere dreiging om mee te maken: mensen die onaardige dingen zeggen tegen de chatbot.
Groetjes,