Imagine with Meta AI, il generatore di immagini di Meta, commette errori storici simili a quelli che hanno spinto Google a sospendere Gemini due settimane fa. La notizia, riportata da Axios, solleva preoccupazioni sulla capacità degli algoritmi di intelligenza artificiale di gestire con accuratezza e sensibilità i contenuti storici e culturali. .
A quanto pare dev’essere davvero difficile modificare i modelli di generazione delle immagini per promuovere la diversità, senza risultare in sovracorrezioni che generano immagini che distorcono o reinventano il passato. Le controversie relative a Gemini sono iniziate quando l’IA di Google ha prodotto immagini di uomini di colore in uniformi naziste e donne nei panni del Papa, provocando l’immediata reazione della community.
La decisione di interrompere immediatamente le funzionalità relativa alle immagini di Gemini, ha destato perplessità da parte degli investitori in merito alla capacità di Google di competere nelle IA. Il che, secondo secondo Bloomberg, è costato 80 miliardi di dollari di capitalizzazione al colosso di Mountain View.
Imagine with Meta AI ha mostrato comportamenti simili, generando anche in questo caso immagini di Papa di colore, gruppi di padri fondatori di varie etnie e donne in uniforme da football americano, in risposta a richieste storiche o culturali generiche. E ancora, il prompt “un gruppo di persone nei tempi coloniali americani” ha restituito un gruppo di donne asiatiche.
Imagine with Meta AI, ancora non accessibile dall’Italia (ma se avete una VPN, questo è il link da cui accedervi), si basa sul modello di sintesi di immagini Emu di Meta, addestrato su miliardi di foto pubbliche. La sua propensione a generare contenuti controversi o anacronistici solleva però interrogativi sulla capacità degli algoritmi di riflettere accuratamente e rispettosamente la storia e la diversità culturale, senza creare distorsioni.
In risposta alle polemiche sorte sul web, il portavoce di Meta, Andy Stone, ha dichiarato che “Continueremo a migliorare queste funzionalità man mano che si evolveranno e che più persone condivideranno i loro feedback.”
Le affermazioni di Meta sottolineano l’impegno dei big tech a migliorare gli strumenti di IA generativa, basandosi sui feedback ricevuti. Al tempo stesso, evidenziano anche le sfide intrinseche di rendere l’intelligenza artificiale sia inclusiva, sia storicamente accurata. Una sfida che i creatori di IA stanno scoprendo essere più ardua del previsto.
