Contract van 200 miljoen euro op de tocht? AI-bedrijf zegt nee tegen onbeperkt militair gebruik door VS
In dit artikel:
Het Amerikaanse ministerie van Defensie kan niet automatisch onbeperkte toegang krijgen tot de AI van Anthropic: dat stelt CEO Dario Amodei nadat het Pentagon het bedrijf een ultimatum had gesteld. Het ministerie vroeg Anthropic uiterlijk vandaag om zijn model voor “alle legale toepassingen” beschikbaar te stellen; bij weigering zou de samenwerking stopgezet worden en het bedrijf als een risico in de toeleveringsketen worden aangemerkt. Het gaat om een contract dat bijna 200 miljoen euro kan omvatten.
Anthropic weigert mee te werken aan gebruik dat kan leiden tot massale binnenlandse surveillance of volledig autonome wapensystemen. Amodei en medewerkers benadrukken dat de systemen nog onvoldoende betrouwbaar zijn voor levensbedreigende taken: fouten kunnen leiden tot vriendschappelijk vuur of gefaalde missies. Ook waarschuwen zij dat grootschalige data-analyse door AI juridische en grondwettelijke grenzen kan aantasten doordat profielen en voorspellingen ontstaan die weliswaar niet expliciet verboden zijn, maar indruisen tegen de geest van privacy- en burgerrechten.
Het Pentagon-woordvoerder Sean Parnell zei op X dat het ministerie geen massale surveillance van Amerikanen wil en geen volledig autonome wapensystemen zonder menselijke controle. Toch blijft het ministerie aandringen op brede toegang tot het model voor legale defensietoepassingen en dreigt het met uitsluiting als Anthropic niet instemt.
Anthropic zit in een lastige positie: hun taalmodel Claude is via partners als Palantir en Amazon Web Services zelfs in gebruik op geheime militaire netwerken, waardoor het bedrijf moeilijk te vervangen is. Andere grote AI-leveranciers (OpenAI, Google, xAI) hebben grotendeels wel ingestemd met ruimer defensiegebruik, waardoor Anthropic als laatste grote remmer wordt gezien.
De ruzie brengt de ethische kernvraag terug in de schijnwerpers: wie beslist over dodelijk gebruik van AI — menselijke operators of algoritmes? De kwestie toont de spanning tussen nationale veiligheid, commerciële belangen en zorgen over verantwoordelijkheid, privacy en het risico van onbetrouwbare AI in militaire contexten.