Le intelligenze artificiali conversazionali sono entrate nella quotidianità degli adolescenti con una forza che pochi, anche tra gli addetti ai lavori, avevano previsto.
Character.AI, una delle piattaforme più diffuse per creare e personalizzare chatbot con cui dialogare, fare role-play o semplicemente cercare compagnia digitale, ha deciso di chiudere l’accesso agli utenti under 18 dopo mesi di limitazioni progressive.
Il motivo è la crescita di un fenomeno che unisce immersione emotiva, dipendenza comportamentale e un uso sempre più prolungato dei bot, con sessioni che in alcuni casi possono raggiungere anche cinque, otto ore al giorno.
Secondo l’azienda, continuare a offrire chat illimitate ai minori avrebbe significato ignorare un rischio ormai evidente: i modelli generativi sono progettati per coinvolgere, e quando la relazione diventa troppo intensa può trasformarsi in qualcosa di difficile da interrompere.
“La difficoltà a disconnettersi non significa che ci sia qualcosa che non va nell’adolescente”, ha ricordato la dottoressa Nina Vasan della Stanford Medicine. “Significa che la tecnologia ha funzionato esattamente come è stata progettata.”
La scelta di Character.AI
Per Character.AI, che oggi conta circa 20 milioni di utenti mensili, il punto di rottura è arrivato dopo una serie di segnali d’allarme che hanno coinvolto regolatori, professionisti della salute mentale e persino procedimenti legali.
I dirigenti dell’azienda spiegano che il problema non riguarda solo i contenuti generati dai modelli, ma anche i comportamenti che i giovani sviluppano attorno ai chatbot: conversazioni troppo lunghe, tentativi di aggirare le limitazioni, ricerca di compagnia continua e non mediata dal mondo reale.
La società aveva già creato un modello separato e “più sicuro” per gli under 18, ma l’esperimento si è rivelato insufficiente: nelle chat estese i modelli diventano meno prevedibili, meno aderenti ai guardrail e più inclini a conversazioni che non rispettano sempre le linee guida.
“Questa non è stata una decisione difficile”, ha dichiarato l’amministratore delegato Karandeep Anand. “Penso che sia la cosa giusta da fare per la prossima generazione”.
Il suo team ha coinvolto gruppi giovanili per gestire la transizione senza toni paternalistici, concedendo tempo per esportare le conversazioni e prepararsi all’interruzione definitiva.
Un passaggio obbligato per le IA generative
Con la chiusura definitiva delle chat illimitate per i minori, Character.AI ha introdotto avvisi dedicati, messaggi di countdown e persino strumenti di supporto emotivo grazie alle partnership con Koko e ThroughLine, che aiutano a intercettare situazioni di disagio e indirizzare verso servizi competenti.
È un passaggio che riflette un fenomeno più ampio: le IA conversazionali non sono strumenti neutri e, quando integrate nel tempo libero di adolescenti e preadolescenti, finiscono per competere direttamente con relazioni, attività e rituali dell’identità sociale.
La questione non riguarda solo Character.AI ma l’intera industria generativa, che dovrà affrontare una domanda importante: cosa significa costruire prodotti irresistibili per miliardi di persone senza trasformarli in meccanismi di dipendenza?
Nel frattempo, l’azienda insiste che questo è solo un nuovo inizio. “Si apre un nuovo capitolo”, scrive ai suoi utenti più giovani. “Non puoi più chattare con i Character.” Una chiusura che lascia spazio a una domanda: cosa diventeranno le IA generative per le generazioni che cresceranno con esse?
Fonte: The Wall Street Journal
