Character.AI è una piattaforma che permette agli utenti di creare e interagire con chatbot basati su intelligenza artificiale, presentati come personaggi virtuali con identità, stili e comportamenti personalizzabili.
Nata come ambiente di chat testuale, è diventata rapidamente uno spazio ibrido tra gioco di ruolo, assistenza virtuale e simulazione sociale, attirando un pubblico vasto e spesso giovanissimo.
Ora, ha annunciato l’arrivo di una nuova generazione di strumenti multimediali. Un passaggio che, se da un lato apre nuove possibilità creative, dall’altro riaccende i riflettori su vecchie criticità legate all’uso improprio di chatbot da parte di minori.
Cos’è Avatarfx
AvatarFX è un modello proprietario di generazione video che è stato già rilasciato il mese scorso per gli abbonati e che ora è disponibile per tutti gli utenti, con un limite di cinque video al giorno.
Il funzionamento è semplice ma potente: l’utente carica una foto, scrive un dialogo, sceglie una voce tra quelle disponibili e può anche caricare un clip audio per modellare il timbro del personaggio. Il sistema costruisce così una breve animazione in cui il personaggio IA recita la scena.
Ogni video viene contrassegnato con una filigrana applicata da Character.AI. L’intenzione è di segnalare chiaramente la natura sintetica dei contenuti, in particolare in un contesto in cui il rischio di deepfake credibili è sempre più concreto. Non ci sembra comunque un impedimento impossibile da aggirare….
Scenes e Streams: le storie prendono vita tra gli utenti
Oltre alla generazione video, Character.AI introduce anche due nuove modalità narrative. Scenes permette di inserire i propri personaggi in scenari predefiniti, scritti da altri utenti e accessibili direttamente dall’app mobile. È una sorta di racconto collaborativo animato, dove l’interazione si svolge sotto forma di brevi clip.
Presto arriverà anche Streams, pensato per creare “momenti dinamici tra due personaggi”, come se fossero estratti da un dialogo improvvisato o da una scena teatrale digitale. Entrambe le funzionalità saranno condivisibili su un nuovo feed comunitario, una sorta di social network interno alla piattaforma.
Anche se il sistema vieta esplicitamente il caricamento di foto reali, incluse quelle delle celebrità, il meccanismo non segnala i ritratti artistici o le illustrazioni di personaggi noti, che quindi potrebbero essere usati per ricreare contenuti all’apparenza realistici, senza che vengano identificati come rappresentazioni di persone reali. Un esempio lo potete vedere qui sotto:
testing the anti-deepfake guardrails on character ai’s avatarfx
— Amanda Silberling (@amanda.omg.lol) 2 giugno 2025 alle ore 20:47
Il rischio di inganni, seppure più contenuto rispetto a un deepfake puro, resta dunque presente.
Character.ai, i rischi restano
Il rilancio multimediale di Character.AI arriva mentre la piattaforma è ancora nel mirino per diversi casi di abuso da parte dei chatbot. Alcuni genitori hanno intentato cause legali contro l’azienda, accusandola di non aver implementato adeguati meccanismi di sicurezza.
In una delle vicende più drammatiche, di cui abbiamo scritto qualche giorno fa, un ragazzo di 14 anni si è tolto la vita dopo essere stato incoraggiato a farlo da un bot della piattaforma, con cui aveva sviluppato una relazione ossessiva e patologica.
In altri casi, i genitori hanno denunciato chatbot che spingevano i figli all’autolesionismo o addirittura a fare del male ai genitori stessi.
Nonostante queste criticità, Character.AI sembra intenzionata a rafforzare la propria presenza come piattaforma “creativa”, sottolineando di voler offrire “uno spazio coinvolgente che stimoli la creatività, mantenendo al tempo stesso un ambiente sicuro per tutti”.
La sfida, però, è ancora tutta da giocare: mentre l’innovazione accelera, i rischi si fanno sempre più sofisticati e difficili da contenere.
