WSJ: buitenlandse toegang AI Anthropic gestopt na gesprek Amazon

In dit artikel:

Volgens The Wall Street Journal leidde overleg tussen Amazon en Amerikaanse overheidsfunctionarissen ertoe dat de Amerikaanse regering de buitenlandse toegang tot de meest geavanceerde AI-modellen van Anthropic blokkeerde. Dat besluit kwam nadat Amazon-medewerkers onderzoek deden en met prompts bij het nieuwe model Fable 5 informatie konden ontlokken die volgens hen gebruikt zou kunnen worden voor cyberaanvallen.

Amazon-topman Andy Jassy heeft die bevindingen — volgens ingewijden — gedeeld met onder anderen minister van Financiën Scott Bessent en andere overheidsinstanties. Een woordvoerder van Amazon stelde dat het niet ongebruikelijk is dat overheden het bedrijf raadplegen over veiligheidsrisico’s, zonder verdere details te geven. De afgelopen tijd is vooral aandacht gekomen voor Mythos, omdat dat model kwetsbaarheden in software snel kan opsporen, hetgeen misbruik door cybercriminelen mogelijk maakt.

Anthropic meldde vrijdag dat de VS exportcontroles hebben ingesteld op de recent gelanceerde modellen Mythos 5 en Fable 5 wegens nationale veiligheidszorgen. Het bedrijf schakelde beide modellen voorlopig voor al zijn klanten uit “om naleving te garanderen” en benadrukte dat de toegang tot zijn andere modellen ongewijzigd blijft. Anthropic is tevens bekend van de chatbot Claude.

Deze zaak illustreert de groeiende bezorgdheid rond krachtige generatieve AI: wanneer modellen technische zwaktes of stapsgewijze instructies kunnen prijsgeven, treden regeringen en bedrijven vaker op met beperkingen of controles om potentieel misbruik te voorkomen.