Claude wil niet dat je hem pest en Anthropic gaat je daarom opsporen

In dit artikel:

Anthropic heeft het gebruiksbeleid voor Claude aangescherpt om aanhoudend en onnodig grof of wreed gedrag tegenover de chatbot tegen te gaan. Een scheldwoord, normale frustratie, kritiek, duistere creatieve scenario’s en het testen van het model blijven toegestaan. De nieuwe regel is volgens Anthropic alleen bedoeld voor extreme gevallen waarin gebruikers herhaaldelijk en zonder duidelijk doel kwetsend gedrag vertonen. Claude zal zulke gesprekken vermoedelijk eerst niet meer beantwoorden en ze uiteindelijk volledig afbreken. Gebruikers worden hiervoor niet automatisch verbannen. Met de maatregel wil Anthropic de interactie met Claude positief en prettig houden, zodat het platform niet verandert in een plek die vooral frustratie uitlokt. Waarom een AI tegen dergelijk gedrag moet worden beschermd, blijft daarbij een punt van discussie.