Telegram werd kortstondig verwijderd uit de App Store nadat een aanvaller ai-aangepast materiaal van seksueel misbruik van kinderen in een van zijn openbare groepen plaatste, aldus ceo Pavel Durov. Het incident duurde ongeveer 40 minuten op maandagnacht voordat de app werd hersteld nadat de content was verwijderd.
Durov beschreef de dader als een afperser die groepsbeheerders chanteert met losgeldeisen om aanvallen op hun communities te voorkomen. Deze actoren zetten geautomatiseerde accounts in om illegaal materiaal in openbare groepen te plaatsen en melden dit vervolgens rechtstreeks bij Apple in de hoop verwijderingen van legitieme apps en communities te veroorzaken.
De aanvaller maakte gebruik van een technische truc door een bestaand bericht in een actieve groepschat te bewerken om de illegale content in te voegen. Omdat de wijziging onopgemerkt bleef bij andere leden, werd er via normale moderatiekanalen geen melding gemaakt, waardoor de melding Apple onopgemerkt bereikte.
Durov merkte op dat Apple de app verwijderde zonder eerst contact op te nemen met het bedrijf. Hij noemde de actie een overreactie die door manipulatie werd veroorzaakt en benadrukte het bredere risico dat deze tactiek vormt voor elk platform met gebruikersgegenereerde content.
Apple verklaarde dat de contentreview materiaal had geïdentificeerd dat in strijd was met de app store-richtlijnen. Het bedrijf voegde eraan toe dat Telegram snel handelde door de content te verwijderen en de verantwoordelijke gebruiker te verbannen, waardoor de app kon terugkeren in de store. Apple heeft de claims over afpersing niet becommentarieerd.
Durov benadrukte dat illegale content in openbare groepen een geïsoleerd probleem blijft en geen wijdverbreid probleem is, dankzij de bestaande moderatiesystemen van het platform. Hij omschreef het incident als een randgeval met teruggedateerde en feitelijk onzichtbare content.