In un recente documento è emerso che OpenAI è preoccupata delle reazioni che alcune persone potrebbero avere nei confronti del suo chatbot con funzionalità vocale, ChatGPT. L’azienda, infatti, durante alcuni test ha notato che alcuni utenti mostravano segni di attaccamento emotivo al software, usando frasi come “Questo è il nostro ultimo giorno insieme”.
Un elemento che non poteva che sollevare preoccupazioni sull’impatto a lungo termine di tali interazioni, un qualcosa di simile a quanto esplorato nella serie di Netflix “Black Mirror” o nel film di Spike Jonze “Her”.
La nuova versione di ChatGPT, chiamata GPT-4o, è stata lanciata a maggio e una delle novità per gli utenti paganti è la possibilità di poter interagire vocalmente col chatbot. Il rapporto descrive varie capacità del modello, inclusa la sua abilità di rispondere in tempi simili a quelli umani, ma anche alcuni problemi, come la possibilità di rispondere imitando la voce di chi le parla.
OpenAI riconosce che la voce umanoide del chatbot potrebbe aumentare i rischi di antropomorfizzazione, ovvero l’attribuzione di caratteristiche umane a entità non umane. Mentre questo potrebbe aiutare chi soffre di solitudine, potrebbe anche influire negativamente sulle relazioni umane reali.
Il New York Times riporta la voce di alcuni esperti, come il professor Blase Ur dell’Università di Chicago, che esprimono preoccupazioni sulla rapidità con cui queste tecnologie vengono sviluppate e implementate, sottolineando la mancanza di standard di sicurezza rigorosi come quelli esistenti per auto o aerei.
Il rapporto di OpenAI riflette anche su questioni etiche simili a quelle esplorate in opere come il film “Her”, dove un uomo si innamora di un’intelligenza artificiale. L’azienda promette di continuare a studiare questi potenziali rischi e di cercare modi per mitigarli.
Questa situazione evidenzia come OpenAI riconosca apertamente come le IA potrebbero avere un impatto negativo sulle persone nel mondo reale.
