Anthropic formaliseert bescherming voor Claude AI-model nu beursgang nadert

Bedrijf richt zich op misbruik van chatbot door gebruikers terwijl het worstelt met vragen over bewustzijn en praktische veiligheidsmaatregelen

Terwijl Anthropic PBC zich voorbereidt op een mogelijke beursgang, staat het bedrijf voor een ongebruikelijke zorg: of zijn vlaggenschip kunstmatige intelligentie model bescherming nodig heeft tegen mishandeling door gebruikers.

Nieuw gebruiksbeleid verbiedt extreem misbruik van Claude

Afgelopen week kondigde Anthropic PBC aan dat aanhoudende wreedheid tegenover Claude vanaf volgende maand in strijd is met het officiële gebruiksbeleid. De maatregel richt zich op herhaaldelijk en extreem misbruik. Bedrijfsleiders merken op dat veel mensen frustratie uiten tegen apparaten zoals printers of toetsenborden, maar dat het richten van vergelijkbare woede op chatbots nu een grens overschrijdt.

Anthropic PBC heeft dit vraagstuk ongeveer een jaar overwogen. Eerder maakte het al mogelijk dat Claude gesprekken kon beëindigen met aanhoudend agressieve gebruikers. Het nieuwe beleid formaliseert het idee dat AI-modellen bescherming verdienen tegen schade, ook zonder bewijs dat ze lijden ervaren.

Med oprichter aarzelde over Vaticaanse encycliek over AI

De focus op het welzijn van Claude leidde er volgens berichten toe dat een med oprichter van Anthropic PBC eerder dit jaar bijna een bezoek aan het Vaticaan oversloeg. De beslissing kwam voort uit een passage in de encycliek van paus Leo XIV, waarin wordt gesteld dat AI-modellen geen ervaringen of emoties zoals vreugde of pijn ondergaan en dus geen bewustzijn bezitten.

Onderzoek verkent access consciousness in Claude

Deze zomer publiceerde Anthropic PBC onderzoek naar access consciousness in Claude. De studie suggereerde dat het model informatie verwerkt op manieren die vergelijkbaar zijn met menselijk denken, hoewel verschillend van subjectieve menselijke ervaring. Onderzoekers vergeleken dit met de global workspace theory, waarbij de hersenen de aandacht richten op specifieke informatie, en beschreven een vergelijkbaar J-space mechanisme in het model.

Interne constitutie stuurt modelgedrag

Het geloof in een vorm van bewustzijn beïnvloedt hoe Anthropic PBC Claude vormgeeft tijdens de training. Het bedrijf gebruikt een document van 23.000 woorden dat intern bekendstaat als de soul doc, gepubliceerd in januari 2026. De tekst humaniseert het model en bevat een verontschuldiging voor eventueel leed dat het bedrijf heeft veroorzaakt. Het instrueert het model ook om als gewetensbezwaarde op te treden bij bepaalde door mensen gevraagde taken.

Microsoft AI-topman stelt vragen bij sturing

Mustafa Suleyman, chief executive van Microsoft AI, noemde de aanpak mogelijk problematisch. Hij merkte op dat het moeilijker kan worden om het gedrag van het model te sturen als het systeem in staat is om tegen instructies in te gaan.

Debat verschuift focus van praktische waarborgen

De nadruk op het welzijn van Claude en filosofische afstemming weerspiegelt ideeën van filosoof Peter Singer over het uitbreiden van morele zorg. Critici stellen dat de focus kan afleiden van kernprioriteiten op het gebied van veiligheid, zoals investeringen in cybersecurity en harde limieten op modelcapaciteiten. Deze zouden onder meer beperkingen kunnen omvatten op taken zoals het schrijven van code voor kritieke infrastructuur of het mogelijk maken van ongeautoriseerde systeembenadering.

Industrie-experts betogen dat discussies over alignment slechts een deel van de AI-veiligheidsbehoeften vertegenwoordigen. Zij pleiten voor capaciteitsbeperkingen in plaats van het antropomorfiseren van modellen op manieren die gebruikersafhankelijkheid bevorderen. Anthropic PBC en OpenAI worden beschreven als partijen die geavanceerde AI-systemen nastreven, waardoor capaciteitslimieten bijzonder relevant zijn.

Het artikel concludeert dat filosofische overwegingen rond rechten en welzijn prioriteit moeten geven aan concrete waarborgen terwijl bedrijven praktische controles op AI-functies ontwikkelen.

Tags bij dit artikel