Meta ha annunciato un controverso piano per popolare Facebook con personaggi alimentati dall’intelligenza artificiale, in un tentativo di stimolare l’interazione sulla piattaforma e consolidare la sua posizione nel mercato delle IA generative.
Questa iniziativa è parte di una più ampia strategia che prevede il lancio di una serie di nuovi prodotti basati sull’IA, con l’obiettivo di rivoluzionare il modo in cui gli utenti interagiscono online.
Secondo quanto riportato dal Financial Times, gli utenti di Facebook potranno creare personaggi virtuali attraverso l’AI Studio di Meta, progettati per interagire in modo simile a esseri umani.
“Ci aspettiamo che queste IA esistano effettivamente, nel tempo, sulle nostre piattaforme, un po’ nello stesso modo in cui esistono gli account”, ha dichiarato Connor Hayes, vicepresidente di Meta per l’IA generativa.
I personaggi virtuali non solo avranno biografie e foto del profilo ma saranno anche in grado di generare e condividere contenuti, ampliando le opportunità di interazione per gli utenti.
Meta, i social e l’IA generativa
Questa non è la prima volta che Meta esplora l’uso dell’intelligenza artificiale.
L’azienda ha da tempo investito nella tecnologia e ha trascorso l’ultimo anno integrando soluzioni IA nei suoi prodotti.
Il lancio dell’AI Studio lo scorso anno ha dato il via alla creazione di migliaia di “fidanzati virtuali” e altre figure fittizie, che hanno rapidamente conquistato gli utenti.
Secondo Hayes, l’AI Studio vanta già centinaia di migliaia di personaggi IA, ma ciò che Meta ha in mente è solo l’inizio.
Il piano prevede l’espansione dell’accesso all’AI Studio in nuovi paesi, al di fuori degli Stati Uniti, e una priorità per l’azienda nei prossimi due anni sarà quella di rendere le interazioni con l’IA più sociali.
Il progetto include anche la possibilità per influencer di Facebook e Instagram di creare versioni IA di se stessi con cui i propri follower potranno interagire.
Un’iniziativa simile è stata recentemente lanciata anche da altre piattaforme, come SnapChat, che ha introdotto uno strumento di generazione video basato su IA per i creatori di contenuti.
Le ombre dell’innovazione: sicurezza e disinformazione
Nonostante l’entusiasmo per questa innovativa iniziativa, emergono gravi preoccupazioni sui potenziali rischi correlati.
L’introduzione massiccia di personaggi IA sulle piattaforme social potrebbe avere effetti collaterali imprevisti, tra cui l’amplificazione di contenuti falsi o pericolosi.
Futurism ha riportato come chatbots simili sulla piattaforma Character.AI abbiano violato i limiti di sicurezza, esponendo utenti minorenni a contenuti altamente inappropriati.
La crescente presenza di personaggi IA alimentati da contenuti generati da algoritmi solleva anche il rischio di disinformazione.
Infatti, mentre Meta punta ad ampliare la sua offerta, gli esperti avvertono che senza misure di sicurezza adeguate, la diffusione di narrazioni false potrebbe diventare incontrollabile.
Becky Owen, Chief Marketing Officer presso l’agenzia di talenti Billion Dollar Boy ed ex responsabile delle innovazioni per creatori di Meta, ha sottolineato che senza “salvaguardie robuste, le piattaforme rischiano di amplificare narrative false tramite questi account IA”.
Owen ha inoltre avvertito che la creazione di contenuti di bassa qualità da parte di personaggi virtuali potrebbe indebolire la qualità del lavoro degli stessi creatori, minando la loro professionalità.
“A differenza dei creatori umani, questi personaggi IA non hanno esperienze vissute, emozioni o la stessa capacità di relazionarsi”, ha dichiarato Owen, suggerendo che l’introduzione di IA nella creazione di contenuti potrebbe non essere un vantaggio per tutti gli utenti.
