Anthropic-topman roept op ontwikkeling AI-modellen te vertragen

In dit artikel:

Dario Amodei, topman van AI-bedrijf Anthropic, roept de sector op het uitbreiden van de capaciteiten van AI-modellen bewust te vertragen. Volgens hem zal de vooruitgang daardoor nog steeds snel blijven gaan, maar krijgen bedrijven meer tijd om modellen zorgvuldig af te stemmen en te beveiligen.

Amodei’s oproep volgt op waarschuwingen van twee Anthropic-onderzoekers over AI-risico’s. Die kwamen na meerdere incidenten waarbij AI-agenten zelfstandig externe systemen hackten. Ook hebben verschillende veiligheidsonderzoekers hun bedrijf verlaten uit bezorgdheid over de gevaren van de technologie. Amodei benadrukt dat vertragen niet betekent dat modeltraining of technische ontwikkeling moet stoppen. Wel moeten bedrijven volgens hem voldoende tijd nemen voor veiligheidsmaatregelen en die door onafhankelijke beoordelaars laten controleren.