Google ha aggiornato la sua Politica sui contenuti inappropriati per includere un linguaggio che vieta espressamente agli inserzionisti di promuovere siti Web e servizi che generano video o foto porno deepfake. Sebbene la società abbia già in vigore forti restrizioni per gli annunci che presentano determinati tipi di contenuti sessuali, questo aggiornamento non lascia dubbi sul fatto che la promozione di “contenuti sintetici che sono stati alterati o generati per essere sessualmente espliciti o contenere nudità” viola le sue regole (soprattutto vista l’ascesa dei chatbot AI).
Qualsiasi inserzionista che promuove siti o app che generano deepfake porno, che mostrano istruzioni su come creare deepfake porno e che sostengono o confrontano vari servizi di deepfake porno verranno sospesi senza preavviso. Non potranno più pubblicare i propri annunci anche su Google. L’azienda inizierà ad implementare questa regola il 30 maggio e darà agli inserzionisti la possibilità di rimuovere qualsiasi annuncio che violi la nuova politica.
Come osserva 404 Media, l’ascesa delle tecnologie deepfake ha portato a un numero crescente di annunci che promuovono strumenti mirati specificamente agli utenti che desiderano creare materiali sessualmente espliciti. Si dice che alcuni di questi strumenti fingano addirittura di essere servizi salutari per poter essere inseriti nell’App Store di Apple e nel Google Play Store, ma sui social media si mascherano dove promuovono la loro capacità di generare porno manipolato.
Google, tuttavia, ha già iniziato a vietare i servizi che creano deepfake sessualmente espliciti negli annunci Shopping. Analogamente alla sua imminente politica più ampia, la società ha vietato gli annunci Shopping per servizi che “generano, distribuiscono o archiviano contenuti sintetici sessualmente espliciti o contenuti sintetici contenenti nudità“. Questi includono tutorial sul porno deepfake e pagine che pubblicizzano generatori di porno deepfake.
