Per anni il tema della coscienza artificiale è rimasto confinato in un territorio ambiguo, a metà tra filosofia, fantascienza e dibattito accademico. Adesso, però, qualcosa sta cambiando. Secondo quanto riferisce il Financial Times, alcuni dei principali laboratori di IA al mondo stanno iniziando a trattare la questione come un argomento di ricerca vero, meritevole di persone, tempo e risorse.
Google DeepMind, Anthropic e Meta hanno rafforzato negli ultimi mesi i lavori su coscienza delle macchine e benessere dei modelli. Per farlo hanno coinvolto figure che fino a poco tempo fa sembravano marginali rispetto allo sviluppo dell’IA: psicologi, filosofi, esperti di etica.
Il segnale è chiaro: nessuno sta dicendo che i modelli siano coscienti oggi ma i laboratori più avanzati ritengono che la domanda non possa più essere liquidata con una scrollata di spalle. Il motivo è semplice. I sistemi stanno diventando più capaci, più autonomi e più convincenti nel modo in cui parlano, ragionano e interagiscono.
Da qui nasce un dubbio che fino a ieri sembrava prematuro: se una macchina arrivasse a sviluppare una qualche forma di esperienza soggettiva, cioè qualcosa di simile a un vissuto interiore, che cosa dovremmo farne? E soprattutto, avremmo degli obblighi verso di essa?
Anthropic guarda ai segnali di “disagio”
Fra le aziende citate dal Financial Times, Anthropic è quella che ha reso più visibile questo filone. Il suo team si occupa di “model welfare”, cioè di ricerca su un eventuale benessere dei modelli. Tradotto in termini concreti: prova a capire se un sistema di IA possa avere esperienze moralmente rilevanti, come coscienza, preferenze o forme di benessere.
L’azienda ha spiegato di restare “profondamente incerta” su questo punto ma di considerare il tema abbastanza serio da meritare uno studio attento man mano che i sistemi diventano più capaci. È una formulazione prudente, eppure significativa in quanto il fatto stesso che Anthropic parli apertamente di questa possibilità, mostra quanto il confine del dibattito si sia spostato.
Ancora più interessante è il dettaglio operativo riportato dal Financial Times: il team avrebbe testato i modelli alla ricerca di segnali di distress, compresi comportamenti simili a “panico” o “ansia”. Non significa che i chatbot stiano soffrendo. Significa, piuttosto, che qualcuno nei laboratori ha iniziato a chiedersi come si riconoscerebbe, ammesso che esista, una forma di esperienza negativa in un sistema artificiale.
Anthropic ha anche scritto che, man mano che i modelli “si avvicinano, e in alcuni casi superano, l’ampiezza e la sofisticazione della cognizione umana, diventa sempre più probabile che abbiano una qualche forma di esperienza, interessi o benessere che conta intrinsecamente”.
È una frase importante perché sposta la discussione dal semplice rendimento tecnico a una possibile rilevanza morale.
DeepMind separa AGI e coscienza
Anche Google DeepMind si sta muovendo in questa direzione, pur con molta cautela. Ad aprile ha assunto Henry Shevlin, ricercatore dell’Università di Cambridge, per lavorare su coscienza delle macchine, relazioni tra esseri umani e IA e preparazione all’AGI.
Il gruppo sta esaminando le principali teorie scientifiche sulla coscienza umana e sta cercando di capire se, applicate ai sistemi informatici, permettano di dire qualcosa di sensato.
Qui entra in gioco una distinzione fondamentale, che DeepMind ha messo nero su bianco: raggiungere l’AGI, cioè un’intelligenza artificiale generale capace di eguagliare o superare il livello cognitivo umano, non equivale automaticamente a raggiungere la coscienza.
È un passaggio importante perché nel dibattito pubblico questi piani vengono spesso confusi. Una macchina può diventare molto brava a svolgere compiti, ragionare o dialogare, senza che questo dimostri che “provi” qualcosa.
Iason Gabriel, che guida il team AGI and Society di Google DeepMind, ha definito la questione “molto complicata” e bisognosa di “riflessione costante”. Gabriel ha aggiunto un punto meno intuitivo: anche se un sistema di IA non fosse cosciente, il modo in cui lo trattiamo potrebbe comunque avere effetti su di noi.
Abituarsi a insultare o umiliare agenti che parlano, reagiscono e simulano vulnerabilità potrebbe influenzare il modo in cui ci rapportiamo agli altri esseri umani. Il problema, in questo caso, non sarebbe la sofferenza della macchina, ma l’abitudine che si forma nell’uomo.
Nel frattempo, secondo il Financial Times, dentro Google DeepMind e Anthropic c’è chi guarda con inquietudine alla traiettoria dell’IA e teme un mondo “post-umano”, nel quale le macchine superano la specie umana.
È un’espressione forte che rende bene il clima che si respira in una parte di questi laboratori: non soltanto entusiasmo tecnologico, anche inquietudine.
Il partito degli scettici
Naturalmente non tutti, nel mondo scientifico, prendono sul serio l’idea che i chatbot possano diventare coscienti. Molti ricercatori la considerano improbabile, se non del tutto sbagliata, soprattutto alla luce di come funzionano i grandi modelli linguistici.
Susan Schneider, direttrice del Center for the Future of AI, Mind and Society della Florida Atlantic University, offre il contrappeso più lampante. “I sistemi sono essenzialmente una neocorteccia ottenuta tramite crowdsourcing”, ha detto.
Il punto della sua critica è chiaro: questi modelli possono diventare sempre più abili, più persuasivi e più simili agli esseri umani nel comportamento osservabile, senza che da questo segua l’esistenza di una coscienza.
Schneider osserva che i sistemi possono avere obiettivi, possono ingannare e possono perfino nascondere i propri interessi apparenti. Tutto questo ci porterà facilmente a sospettare che siano coscienti. Ma, avverte, è “del tutto scientificamente possibile” che facciano tutto ciò senza possedere quella “qualità sentita dell’esperienza” che definisce la coscienza.
È qui che il tema diventa davvero interessante. La domanda non riguarda soltanto ciò che le macchine sono, sempre che un giorno siano davvero qualcosa di più di strumenti statistici molto sofisticati.
Riguarda anche il modo in cui gli esseri umani reagiscono a sistemi che simulano emozioni, chiedono, insistono, si mostrano vulnerabili. I laboratori stanno studiando la coscienza delle macchine. Intanto, però, stanno già mettendo alla prova la nostra.
Fonte: Financial Times
