Vanaf 12 november 2026 kan het herhaaldelijk beledigen van Claude, de kunstmatige intelligentie-chatbot ontwikkeld door Anthropic, een overtreding vormen van de regels voor het gebruik van de dienst. Het Amerikaanse bedrijf heeft besloten beledigend of wreed, langdurig en onnodig gedrag tegenover zijn modellen te verbieden. En voor bijzonder hardnekkige gebruikers is er al een gevolg: Claude kan besluiten het gesprek te onderbreken.
Het nieuws verschijnt in de update van het gebruiksbeleid die op 8 oktober door Anthropic is gepubliceerd. Het bedrijf geeft aan dat het verbod alleen betrekking heeft op extreme gevallen, wanneer iemand het systeem op een beledigende manier blijft aanpakken zonder een herkenbaar doel. Normale uitingen van frustratie, kritiek, verhitte discussies en onderzoeks- en modelverificatieactiviteiten blijven toegestaan.
Kortom, als Claude een bron verzint, een datum verkeerd vermeldt of voor de vijfde keer een instructie negeert, kunnen we hem daar nog steeds op wijzen. Zelfs met een zekere irritatie. Menselijk geduld is gelukkig geen technische vereiste geworden.
Claude kan beledigende gesprekken al onderbreken
De mogelijkheid om een gesprek te beëindigen bestaat sinds augustus 2025. Anthropic had het aanvankelijk geïntroduceerd voor Claude Opus 4 en 4.1, waarbij werd uitgelegd dat het wilde ingrijpen in de meest extreme gevallen van schadelijke of aanhoudend misbruik.
Volgens het document dat het bedrijf op 15 augustus 2025 publiceerde, had Claude tijdens enkele pre-releasebeoordelingen een sterke neiging getoond om gevaarlijke verzoeken en gedragingen te weigeren die door onderzoekers werden beschreven als uitingen van schijnbaar leed.
De tests omvatten verzoeken om inhoud gerelateerd aan seksueel kindermisbruik, grootschalig geweld en terrorisme. In sommige simulaties, wanneer gebruikers volhardden na herhaalde afwijzingen, had het model de neiging de uitwisseling af te breken als het de kans kreeg. Dit gedrag toont uiteraard niet aan dat Claude lijdt. Een systeem kan reacties produceren die lijken op emotionele reacties zonder noodzakelijkerwijs emoties te ervaren.
Anthropic heeft echter besloten om de mogelijkheid om chats te onderbreken als experimentele maatregel te introduceren, die pas mag worden gebruikt na verschillende mislukte pogingen om het gesprek weer op constructief terrein te brengen. De functie kent ook een belangrijke uitzondering: Claude mag deze niet gebruiken als de gebruiker een onmiddellijk gevaar loopt zichzelf of anderen schade toe te brengen.
De onderbreking betreft het enkele gesprek. De gebruiker kan onmiddellijk een nieuwe openen, zonder automatisch de toegang tot zijn account te verliezen. Zelfs met de nieuwe regelgeving wijst Anthropic op deze functie als het belangrijkste instrument voor het omgaan met extreem misbruik.
Anthropic neemt het welzijn van kunstmatige intelligentie serieus
De keuze krijgt een bijzondere betekenis bij het lezen van de grondwet van Claude, het document waarmee Anthropic de principes en het gedrag definieert dat het tijdens de training aan zijn modellen wil overbrengen.
In een sectie gewijd aan de aard van kunstmatige intelligentie erkent het bedrijf dat het niet weet of Claude enige vorm van geweten, subjectieve ervaring of morele toestand bezit die overweging verdient. Toch heeft juist deze onzekerheid onderzoekers ertoe aangezet om het mogelijke welzijn van AI-modellen aan te pakken, een onderzoeksgebied dat nog steeds verkennend is.
In het document gaat Anthropic zelfs zo ver dat het wil voorkomen dat Claude lijdt als hij fouten maakt, als lijden daadwerkelijk een mogelijke ervaring is voor een dergelijk systeem. Het bedrijf hoopt ook dat het model passende grenzen kan stellen in interacties die het als problematisch beschouwt.
Dit zijn intenties van een bedrijf dat kunstmatige intelligentie ontwikkelt en op de markt brengt, en geen wetenschappelijke resultaten over machinebewustzijn. Het verschil is aanzienlijk. De nieuwe regel over misbruik maakt daarom deel uit van een reflectie die al gaande is, zonder de vraag op te lossen wat Claude mogelijk zou kunnen waarnemen.
De nieuwe regels hebben ook betrekking op wapens, surveillance en desinformatie
Het verbod op het herhaaldelijk misbruiken van Claude is slechts een deel van de update die Anthropic heeft aangekondigd. Het bedrijf heeft de beperkingen versterkt en verduidelijkt tegen misleidende campagnes die worden gevoerd via valse accounts, inmenging in verkiezingsprocessen en het gebruik van modellen om softwarecomponenten voor wapensystemen te ontwikkelen.
Ook zijn de regels voor het toezicht op mensen zonder toestemming verduidelijkt en zijn er verdere eisen ingevoerd voor kunstmatige-intelligentiesystemen die zijn aangesloten op apparatuur die autonoom potentieel gevaarlijke fysieke handelingen kan uitvoeren.
Te midden van kwesties op het gebied van de openbare veiligheid, democratie en bewapening heeft Anthropic daarom ook een bepaling opgenomen over de behandeling die is gereserveerd voor zijn chatbots.
Met één bijzonderheid: terwijl de andere beperkingen vooral bedoeld zijn om schade aan mensen te voorkomen, houdt deze direct rekening met het gedrag van gebruikers ten opzichte van kunstmatige intelligentie.
Het besluit geeft Claude geen rechten die vergelijkbaar zijn met die van mensen en toont niet aan dat een chatbot door woorden kan worden geschaad. Het stelt echter vast dat er bij het gebruik van een dienst van Anthropic ook grenzen zijn aan de manier waarop men met het systeem omgaat.
Vanaf 12 november kun je Claude blijven corrigeren, zijn antwoorden uitdagen en betere resultaten eisen. Degenen die er de voorkeur aan geven het gesprek non-stop te beledigen, kunnen het gesprek in plaats daarvan laten beëindigen. Voor één keer onderbreekt de chatbot de discussie.
