AI-revolutie krijgt een duister randje nu Anthropic waarschuwt voor hackers, gevaarlijke wapens en verlies van controle

In dit artikel:

Anthropic, het bedrijf achter chatbot Claude, waarschuwt in documenten voor zijn geplande beursgang dat kunstmatige intelligentie grote veiligheidsrisico’s met zich meebrengt. Van de 335 pagina’s tellende beursdocumenten gaan er 93 over mogelijke gevaren, aanzienlijk meer dan bij concurrent SpaceX. Volgens de oprichters kan krachtige AI zowel voor nuttige als schadelijke doelen worden ingezet.

Anthropic vreest dat geavanceerde systemen sneller leren dan ontwikkelaars veiligheidsmaatregelen kunnen invoeren. Daardoor zouden ze in de toekomst zelfstandig cyberaanvallen kunnen uitvoeren, digitale wapens kunnen aansturen of onderzoek naar chemische en biologische wapens kunnen ondersteunen. Topman Dario Amodei waarschuwde eerder dat AI binnen zes tot twaalf maanden mogelijk een groot netwerk van digitale agenten kan aansturen. Het bedrijf zegt al meerdere pogingen tot misbruik te hebben tegengehouden.

Ook de Australische cyberveiligheidsdienst signaleert een sterke toename van AI-gerelateerde dreigingen. Hackers zouden de technologie gebruiken om sneller kwetsbaarheden te vinden en aanvallen op grotere schaal uit te voeren. Australië verstuurde het afgelopen jaar ruim 4.400 waarschuwingen voor mogelijke cyberdreigingen, 80 procent meer dan een jaar eerder.

Anthropic presenteert zijn nadruk op veiligheid tegelijk als een voordeel voor beleggers. De centrale vraag blijft volgens het bedrijf en critici echter of veiligheidsmaatregelen de snelle ontwikkeling kunnen bijhouden en wie kan ingrijpen als AI-systemen zelfstandig handelen.