Microsoft stelt gedragscode op om AI onder controle te houden

In dit artikel:

Microsoft heeft maandag nieuwe richtlijnen gepubliceerd voor het ontwerp van zijn toekomstige AI-modellen. De gedragscode moet zorgen over de veiligheid en autonomie van AI wegnemen en geldt volgens Mustafa Suleyman, topman van Microsoft AI, als een soort grondwet voor nieuwe modellen.

De modellen mogen niet zo worden ontwikkeld dat ze menselijke controle ontlopen, gebruikers misleiden of zich verzetten tegen correctie en uitschakeling. De publicatie komt enkele dagen nadat Anthropic-topman Dario Amodei, na meerdere veiligheidsincidenten, opriep de ontwikkeling van AI tijdelijk af te remmen. Andere grote AI-bedrijven steunden die oproep.