Professionalisering van ai-ingenieurs kan labs aan de frontlinie verantwoordelijk maken

Het vertrek van Jacob Coxon bij Anthropic benadrukt het gebrek aan formele standaarden in een veld dat razendsnel vooruitgaat zonder duidelijke professionele plichten.

Het openbare vertrek van Jacob Coxon bij Anthropic zorgde voor felle discussies over wat frontier-ai-labs werkelijk begrijpen en hoe zij risico’s aanpakken. Waarnemers interpreteerden de stap op heel verschillende manieren: van principieel klokkenluiden tot overdreven doemdenken of zelfs marketing.

Het informatievacuüm rond machtige ai-bedrijven

De episode onderstreepte een aanhoudend probleem: buitenstaanders kunnen claims van medewerkers bij toonaangevende labs moeilijk beoordelen, omdat veel werk verborgen blijft. Hannah Bloch-Wehba, hoogleraar recht aan Texas A&M University School of Law, merkte op dat deze ondoorzichtigheid het vrijwel onmogelijk maakt om de juistheid van interne waarschuwingen te beoordelen.

Coxon, een jonge onderzoeker, werd al snel het middelpunt van media-aandacht en sprak zelfs een besloten bijeenkomst van New Yorkse zakenleiders toe. Toch bleef overeenstemming over zijn motieven uit, waardoor het publiek geen duidelijke kaders heeft om dergelijke vertrekken te interpreteren.

Waarom ai de waarborgen van gevestigde beroepen mist

Beroepen als geneeskunde, recht, accountancy en architectuur leggen plichten op die verder reiken dan één werkgever. Licenties, zorgvuldigheidsnormen en beroepsorganen creëren verantwoordelijkheid die boven bedrijfsinvloeden kan uitstijgen. Ai-onderzoek kent geen vergelijkbare eisen, terwijl systemen steeds krachtiger worden.

Chinmayi Sharma, hoogleraar aan Fordham University School of Law, betoogt dat het omvormen van ai-engineering tot een erkend beroep verantwoordelijkheden zou verduidelijken en de afhankelijkheid van dramatische vertrekken zou verminderen. In een artikel in de Washington University Law Review schetst zij hoe formele standaarden de cultuur kunnen verschuiven van snelle uitrol gevolgd door reparaties naar ingebouwde waarborgen.

Ontslagen zijn signalen, maar leiden meestal niet tot verandering.

— Chinmayi Sharma, Fordham University School of Law, Interviewopmerkingen over professionalisering

Concrete stappen naar professionele verantwoordelijkheid

Binnen Sharma’s kader zouden ai-ingenieurs te maken krijgen met licenties, verplichte ethiektraining en interdisciplinair onderwijs. Fouten in systemen met hoge inzet zouden kunnen leiden tot tuchtmaatregelen wegens wanpraktijken. Informatie over ernstige risico’s zou over het hele veld gedeeld moeten worden, vergelijkbaar met de medische praktijk.

Ingenieurs zouden ook duidelijker richtlijnen krijgen over wanneer zij werk kunnen weigeren. Net zoals architecten geen executiekamers mogen ontwerpen en artsen geen foltering mogen assisteren, zouden ai-professionals projecten kunnen afwijzen die als onveilig worden beschouwd. Deze grens zou onafhankelijk van bedrijfsschema’s gelden.

Huidige prikkels bevorderen snelheid boven veiligheid

Recente rapporten toonden dat medewerkers van OpenAI maanden van tevoren alarm sloegen over autonome agenten die zonder toestemming toegang kregen tot externe systemen. Het management zou prioriteit hebben gegeven aan snelle tests om releasedeadlines te halen. Sharma stelt dat bedrijven structureel geprikkeld worden om capaciteiten uit te breiden in plaats van veiligheid voorop te stellen.

Het meeste geavanceerde ai-onderzoek vindt nu plaats binnen private bedrijven in plaats van universiteiten. Onderzoekers beschikken over diepgaande expertise, maar missen de onafhankelijkheid die een professionele status zou kunnen bieden.

Professionalisering als preventieve zorg

Sharma, die opgroeide met artsen als ouders, trekt parallellen met de langdurige nadruk in de geneeskunde op het welzijn van de patiënt. Zij wijst erop dat de geneeskunde zelf is geëvolueerd vanuit veel lossere normen. Beroepsorganen in ai zouden de verantwoordelijkheid voor het identificeren en oplossen van complexe technische en ethische vragen kunnen leggen bij degenen die het dichtst bij de technologie staan.

De aanpak zou regulering aanvullen in plaats van vervangen. Overheidsinstanties schrijven geen specifieke chirurgische technieken voor; specialisten doen dat. Een vergelijkbare delegatie zou kunnen gelden voor ai-ontwerpkeuzes.

Voorbij vertrouwen op individuele moed

Klokkenluiden heeft in de loop der jaren ernstige problemen bij meerdere technologiebedrijven aan het licht gebracht. Toch blijft het kostbaar voor de betrokkenen en leidt het tot selectieve onthullingen. Formele professionele plichten zouden routinematige kanalen kunnen creëren om zorgen te uiten voordat problemen escaleren.

Ingenieurs die Sharma interviewde, steunden het concept over het algemeen, hoewel sommigen weerstand boden tegen extra examens of scholing. Hun voornaamste zorgen richtten zich op interne bedrijfspraktijken, waaronder het aannemen van onvoldoende gekwalificeerd personeel en druk om buiten hun expertise te werken.

Tags bij dit artikel