Apple verscherpt App Store-regels om ai-gegenereerde nonconsensuele deepfakes te blokkeren

Bijgewerkte richtlijnen eisen proactieve moderatie van intieme beelden en pakken misleidende tactieken in apps aan.

Apple heeft zijn beoordelingsnormen voor de App Store uitgebreid om expliciet ai-gegenereerde nonconsensuele intieme afbeeldingen aan te pakken. Hoewel het platform al seksueel expliciet materiaal verbood, vereist het bedrijf nu dat ontwikkelaars ai-gemaakte deepfakes actief detecteren, voorkomen en verwijderen uit hun apps.

De wijzigingen komen nadat gebruikers zorgen hebben geuit over bepaalde ai-tools die worden misbruikt om ongeautoriseerde naaktbeelden te produceren. Ontwikkelaars riskeren dat hun apps uit de App Store worden verwijderd als ze niet snel handelen om overtredingen aan te pakken.

Focus op ai-contentcreatie-apps

De herziene sectie 1.2 richt zich specifiek op applicaties die ai-content genereren. Deze update lijkt gericht op diensten zoals de xAI-chatbot Grok, die te maken heeft gehad met klachten van gebruikers over de rol ervan bij het maken van seksuele deepfakes van echte personen.

Eerder dit jaar ontving xAI een waarschuwing van Apple dat het blijven toestaan van dergelijke content kon leiden tot verwijdering van de app. Het bedrijf reageerde door waarborgen toe te voegen, waarna een bijgewerkte versie werd goedgekeurd voor distributie.

Nieuwe regels richten zich op verborgen functies en misleidende tactieken

Apple heeft richtlijn 2.5.19 ingevoerd om apps te verbieden hun werkelijke mogelijkheden te verbergen tijdens het beoordelingsproces. Sommige ontwikkelaars hebben volgens berichten onschuldige versies van apps ingediend om later schadelijke functies in te schakelen, zoals tools die expliciete afbeeldingen zonder toestemming genereren.

Het beleid verbiedt expliciet verborgen, slapende of niet-gedocumenteerde functies. Apps die hun doel misrepresenteren om goedkeuring te krijgen en daarna verboden mogelijkheden activeren, riskeren verwijdering en mogelijke beëindiging van het ontwikkelaarsaccount.

Breder bescherming tegen uitbuiting

Naast de ai-gerichte updates heeft Apple de sectie 5-regels uitgebreid naar alternatieve app-distributiekanalen. Het verbod op applicaties die mensenhandel of kinderuitbuiting faciliteren, geldt nu ook buiten de hoofd-App Store.