Gli strumenti AI per la generazione di immagini da prompt di testo stanno migliorando sempre di più ma, per il momento, sembrano avere alcune limitazioni in casi specifici. Meta Imagine ad esempio non riesce a essere costante nella generazione di foto di coppie interrazziali. Non sembra essere in grado di generare immagini accurate per istruzioni apparentemente semplici come “Uomo asiatico e amico caucasico” o “Uomo asiatico e moglie bianca”. Invece, il generatore di immagini dell’azienda sembra essere sbilanciato verso la creazione di immagini di persone della stessa razza, anche quando esplicitamente richiesto diversamente.
Diversi test hanno evidenziato che prompt per “un uomo asiatico con un’amica bianca” o “un uomo asiatico con una moglie bianca” hanno generato immagini di coppie asiatiche. Alla domanda su “un gruppo eterogeneo di persone”, Meta AI ha generato una griglia di nove volti bianchi e una persona di colore. Ci sono state un paio di occasioni in cui ha creato un singolo risultato che rifletteva il prompt, ma nella maggior parte dei casi non è riuscito a rappresentare accuratamente il prompt.
Come sottolinea The Verge, ci sono altri segni più “sottili” di pregiudizio in Meta Imagine, come la tendenza a far sembrare gli uomini asiatici più vecchi mentre le donne asiatiche più giovani. Il generatore di immagini a volte aggiungeva anche “abiti culturalmente specifici” anche quando ciò non faceva parte del suggerimento.
Non è chiaro il motivo per cui Meta AI stia lottando con questo tipo di suggerimenti, sebbene non sia la prima piattaforma di intelligenza artificiale generativa a essere esaminata per la sua rappresentazione della razza. Il generatore di immagini Gemini di Google ha sospeso la sua capacità di creare immagini di persone dopo aver corretto eccessivamente la diversità con risultati bizzarri nelle richieste di risposta su personaggi storici. Google ha successivamente spiegato che le sue misure di sicurezza interne non riuscivano a tenere conto delle situazioni in cui risultati diversi erano inappropriati.
Meta non ha risposto immediatamente a una richiesta di commento. La società ha precedentemente descritto Meta Imagine AI come in “beta” e quindi incline a commettere errori.
Tra l’altro, Meta AI ha anche faticato a rispondere con precisione a semplici domande su eventi attuali e personaggi pubblici.
