Pentagon sluit overeenkomst met OpenAI voor gebruik AI-modellen

In dit artikel:

OpenAI heeft met het Amerikaanse ministerie van Defensie een overeenkomst gesloten die het gebruik van OpenAI-systemen binnen netwerken met vertrouwelijke informatie toestaat, maakte CEO Sam Altman bekend. De deal komt kort nadat concurrent Anthropic door de Amerikaanse overheid als een risicofactor in de toeleveringsketen werd aangemerkt, nadat dat bedrijf weigerde beveiligingen te verwijderen die misbruik voor binnenlandse massasurveillance en volledig autonome wapens moeten voorkomen. Volgens Altman bevat de overeenkomst expliciet twee veiligheidsprincipes: een verbod op binnenlandse massasurveillance en de eis dat mensen verantwoordelijk blijven voor geweldsgebruik, ook bij systemen die (gedeeltelijk) autonoom kunnen handelen. Het ministerie zou hiermee akkoord zijn gegaan en deze beginselen willen verankeren in wet- en regelgeving. De afspraak markeert een belangrijk precedent in de afweging tussen defensiebehoeften en veiligheids- en ethische beperkingen bij inzet van geavanceerde AI.