Skip to content
Android Blog Italia

Android Blog Italia

Tutto quello che devi sapere sul mondo Android e della tecnologia

Primary Menu
  • News
    • Visualizza Tutto
    • Smartphone
    • Tablet
    • Accessori
  • Guide
    • Visualizza Tutto
    • Programmazione
  • Recensioni
    • Visualizza Tutto
  • Applicazioni
    • Visualizza tutto
  • Giochi
    • Visualizza Tutto
  • News su Android, tutte le novità

OpenAI, Microsoft, Google, Meta insieme per evitare che l’IA generativa crei contenuti pedopornografici

Redazione 24/04/2024
IA generativa regole contro materiale pedopornografico

Le principali società di intelligenza artificiale, tra cui OpenAI, Microsoft, Google, Meta e altre, si sono impegnate congiuntamente a impedire che i loro strumenti di IA generativa vengano utilizzati per sfruttare i bambini e generare materiale pedopornografico (CSAM). L’iniziativa è stata guidata dal gruppo per la sicurezza dei bambini Thorn e All Tech Is Human, un’organizzazione no-profit focalizzata sulla tecnologia responsabile.

Gli impegni delle aziende di intelligenza artificiale, ha affermato Thorn, “costituiscono un precedente rivoluzionario per il settore e rappresentano un passo avanti significativo negli sforzi per difendere i bambini dagli abusi sessuali man mano che si sviluppa una caratteristica dell’intelligenza artificiale generativa”.

L’obiettivo dell’iniziativa è prevenire la creazione di materiale sessualmente esplicito che coinvolge bambini e rimuoverlo dalle piattaforme di social media e dai motori di ricerca. Solo nel 2023, negli Stati Uniti sono stati segnalati più di 104 milioni di file di materiale sospetto di abuso sessuale su minori, afferma Thorn. In assenza di un’azione collettiva, l’intelligenza artificiale generativa è pronta a peggiorare questo problema e a sopraffare le forze dell’ordine che stanno già lottando per identificare le vittime autentiche.

L’IA generativa contro la pedopornografia

Martedì, Thorn e All Tech Is Human hanno pubblicato un nuovo documento intitolato “Safety by Design for Generative AI: Preventing Child Sexual Abuse” che delinea strategie e fornisce raccomandazioni per le aziende che costruiscono strumenti di IA generativa, motori di ricerca, piattaforme di social media, società di hosting e gli sviluppatori ad adottare misure per impedire che l’intelligenza artificiale generativa venga utilizzata per danneggiare i bambini.

Una delle raccomandazioni, ad esempio, chiede alle aziende di scegliere attentamente i set di dati utilizzati per addestrare i modelli di intelligenza artificiale ed evitare quelli che contengono solo istanze di materiale pedopornografico ma anche contenuti sessuali per adulti a causa della propensione dell’intelligenza artificiale generativa a combinare i due concetti.

Thorn chiede inoltre alle piattaforme di social media e ai motori di ricerca di rimuovere i collegamenti a siti Web e app che consentono alle persone di “nudizzare” immagini di bambini, creando così nuovo materiale online di abusi sessuali su minori generato dall’intelligenza artificiale.

Un’ondata di materiale pedopornografico generato dall’IA generativa, secondo il documento, renderà più difficile l’identificazione delle vittime autentiche di abusi sessuali su minori, aumentando il “problema del pagliaio” – un riferimento alla quantità di contenuti che le forze dell’ordine devono attualmente vagliare.

“Questo progetto aveva lo scopo di rendere abbondantemente chiaro che non è necessario alzare le mani“, ha detto al The Wall Street Journal la vicepresidente della scienza dei dati di Thorn, Rebecca Portnoff. “Vogliamo essere in grado di cambiare il corso di questa tecnologia in modo tale che i danni esistenti di questa tecnologia vengano eliminati al nascere.”

Alcune aziende, ha detto Portnoff, hanno già accettato di separare immagini, video e audio che coinvolgono bambini dai set di dati contenenti contenuti per adulti per evitare che i loro modelli combinino i due. Altri aggiungono anche filigrane per identificare i contenuti generati dall’intelligenza artificiale, ma il metodo non è infallibile: filigrane e metadati possono essere facilmente rimossi.

via

Continue Reading

Previous: Recensione Harvest Hunt, rouguelike horror pieno zeppo di folklore europeo medievale
Next: Google rimanda al 2025 Privacy Sandbox, il sostituto dei cookies di terze parti

Articoli Correlati

Screenshot
  • News su Android, tutte le novità

Fatti di WordPress: la community italiana che aiuta chi usa WordPress ogni giorno

Redazione 27/06/2025
apphomebanking
  • News su Android, tutte le novità

App bancarie a confronto: chi vince?

Redazione 26/06/2025
AliExpress Affidabile Guida Acquisto AndroidBlog.it
  • News su Android, tutte le novità

Il social commerce spiegato in tre punti: come vendere davvero sui social

Redazione 16/06/2025

Ultime News

Screenshot
  • News su Android, tutte le novità

Fatti di WordPress: la community italiana che aiuta chi usa WordPress ogni giorno

Redazione 27/06/2025
WordPress è uno dei CMS (Content Management System) più utilizzati al mondo per la creazione di siti...
Leggi tutto Read more about Fatti di WordPress: la community italiana che aiuta chi usa WordPress ogni giorno
App bancarie a confronto: chi vince? apphomebanking
  • News su Android, tutte le novità

App bancarie a confronto: chi vince?

26/06/2025
Il social commerce spiegato in tre punti: come vendere davvero sui social AliExpress Affidabile Guida Acquisto AndroidBlog.it
  • News su Android, tutte le novità

Il social commerce spiegato in tre punti: come vendere davvero sui social

16/06/2025
Sviluppo software su misura: perché è una scelta vincente e quando prenderla in considerazione Crittografia hardware e software
  • News su Android, tutte le novità

Sviluppo software su misura: perché è una scelta vincente e quando prenderla in considerazione

22/05/2025
Recensione Gamesir X5 Lite: economico ma funzionale X5-Lite-6-1536x864
  • Giochi Android
  • News su Android, tutte le novità
  • Recensioni Android

Recensione Gamesir X5 Lite: economico ma funzionale

12/05/2025
Copyright © Tutti i diritti riservati | MoreNews by AF themes.
×

Questo sito utilizza i cookie, anche di terze parti, per garantirvi una esperienza di utilizzo ottimale.
Si rinvia all'informativa estesa per ulteriori informazioni. La prosecuzione nella navigazione (click, scroll, ...) comporta l'accettazione dei cookie.

 

Ok