Gli errori di AI Overview di Google scatenano il caos (e l’ilarità) online

da | 25 Mag 2024 | IA

Nel tentativo di non farsi cogliere impreparata da Microsoft e OpenAI, la scorsa settimana Google ha introdotto un importante cambiamento nella sua ricerca, AI Overview, portando di fatto l’intelligenza artificiale nelle risposte alle domande degli utenti.

Per quanto sappiamo tutti che i software raramente funzionano come dovrebbero al lancio, questa nuova funzionalità di Google ha generato una serie di errori tra l’imbarazzante e l’ingiustificabile, provocando un putiferio online.

Il termine “ingiustificabile” non lo usiamo a caso. Innanzitutto, perché le risposte errate di AI Overview hanno minano la fiducia in un motore di ricerca a cui oltre due miliardi di persone si affidano per ottenere informazioni autorevoli. E poi perché Google ultimamente sta inanellando figuracce una dietro l’altra.

Quando Google ha annunciato Bard nel febbraio dell’anno scorso, il chatbot pensato per contrastare ChatGPT ha condiviso informazioni errate nientemeno che nella presentazione di lancio, facendo perdere all’azienda 100 miliardi di dollari in valore di mercato.

Questo febbraio, invece, Google ha rilasciato il successore di Bard, Gemini, capace tra le altre cose di generare immagini. In questa occasione gli utenti hanno rapidamente notato che il sistema si rifiutava di generare immagini di persone bianche nella maggior parte dei casi e in nome del “bilanciamento del bias” rappresentava in modo inaccurato figure storiche che non erano certamente né di colore, né orientali, né native americane. Anche in quel caso, scuse, ammende e perdite miliardarie in Borsa.

Sebbene sappiamo tutti che i chatbot gestiti dall’intelligenza artificiale possono fornire informazioni inesatte o comportarsi in modo strano, questa sequela di errori restituisce l’immagine di un’azienda, Google, sotto pressione da parte della concorrenza. E che pur di tenere il passo di OpenAI, pare mettere in circolazione le sue novità quando in realtà avrebbero bisogno di un po’ di rodaggio in più.

Come riporta il New York Times, la portavoce di Google, Lara Levin, ha dichiarato che la stragrande maggioranza delle query di AI Overview ha prodotto “informazioni di alta qualità, con link per approfondire sul web”. Salvo poi aggiungere: “Molti degli esempi che abbiamo visto sono stati query non comuni, e abbiamo anche visto esempi che sono stati manipolati o che non siamo riusciti a riprodurre”.

Resta il fatto che sui social media gli utenti stanno postando screenshot di esempi che definire problematici è un eufemismo. E che riportano alla luce, una volta di più, anche il problema dell’addestramento delle IA. La bulimia delle aziende che creano le intelligenze artificiali addestrate su triliardi di dati, forse andrebbe contenuta. Meglio meno dati, ma di qualità.

Altrimenti si rischiano gaffe come queste di AI Overview che ci apprestiamo a raccontare, che ha detto ad alcuni utenti di mescolare colla non tossica nella salsa della pizza per impedire al formaggio di scivolare via. Una falsa ricetta, questa, tratta da un post ironico su Reddit di 11 anni fa di un utente dal nome che la dice lunga. O che ha suggerito ad altri utenti di ingerire almeno un sasso al giorno per ottenere il giusto apporto di vitamine e sali minerali. Qui, la paternità è di un post satirico di The Onion.

Altri utenti hanno condiviso esempi di Google che consiglia di pulire le lavatrici usando candeggina al cloro e aceto bianco. Peccato si tratti di una miscela che può creare gas di cloro piuttosto nocivo.

Pare inoltre che AI Overview abbia avuto difficoltà con la storia presidenziale, affermando che 17 presidenti erano bianchi. Poi ha svoltato improvvisamente a destra verso Trump, affermando che Barack Obama è stato il primo presidente musulmano degli Stati Uniti.

Come poi accade in questi casi, è partita la gara tra gli utenti dei social media a mostrate le risposte più stravaganti di Google. Alle volte manipolando i risultati, come nel caso di uno screenshot che mostrava Google consigliare di curare la depressione saltando dal Golden Gate Bridge. Google, in questo caso, ha smentito dichiarando che AI Overview non ha mai restituito questo risultato.

Perché come ha appena ricordato Yann LeCun, gli LLM hanno l’intelligenza di un gatto domestico. Ma non è che la gente online sia molto più matura…

POTREBBE INTERESSARTI

ByteDance e Broadcom avviano una collaborazione strategica per l'IA
,

ByteDance e Broadcom: al via una collaborazione per l’IA

L’azienda americana produrrà un chip da 5nm per la casa madre di TikTok, che lo scorso anno avrebbe già investito 2 miliardi di dollari in chip Nvidia.

Apple rinvierà il lancio di Apple Intelligence nell'UE
,

Apple rinvierà il lancio di Apple Intelligence nell’UE

Il gigante tecnologico indica il Digital Markets Act come la causa di questa decisione.

TikTok prova a rivoluzionare l'ADV ma inciampa clamorosamente

TikTok prova a rivoluzionare l’ADV ma inciampa clamorosamente

I Symphony Digital Avatars, il nuovo strumento di TikTok per la creazione di contenuti generati dall’IA, finiscono nel mirino dopo che una falla ha consentito la...
Ecco come di comporta Claude 3.5 Sonnet rispetto agli altri modelli.

Più veloce e intelligente: ecco Claude 3.5 Sonnet

Claude 3.5 Sonnet è il modello più avanzato di Anthropic, e promette prestazioni superiori a GPT-4 e Gemini

Il produttore di chip TSMC vola in borsa

La valutazione di TSMC vola alle stelle trascinata di Nvidia

TSMC si sta avvicinando alla valutazione di mille miliardi di dollari a Wall Street trascinata da Nvdia e dall’esplosione dell’IA.

L'IA non è in grado di prendere ordini da McDonald's

McDonald’s: l’IA non è ancora in grado di prendere gli ordini al drive-in

McDonald’s, la famosa catena di fast food, negli Stati Uniti ha deciso di disabilitare un sistema basato sull’intelligenza artificiale utilizzato nei...
Jen-Hsun Huang durante una presentazione di Nvidia

Nvidia batte Microsoft ed è la società che vale di più al mondo

Spinta dal crescente interesse nel comparto dell’intelligenza artificiale, Nvidia ha infranto un nuovo record in borsa, superando anche Microsoft.

Il segretario della NATO Jens Stoltenberg

La NATO investe mille miliardi di euro in IA, robot e spazio

La NATO investe mille miliardi di euro in 4 aziende specializzate in tecnologia per lo sviluppo di IA, robotica e ingegneria spaziale.

I robots di Ex-Robots

In Cina stanno costruendo robot con espressioni facciali umane

L’ultima frontiera della tecnologia fonde la robotica con l’intelligenza artificiale. L’obiettivo è quello di usare l’IA per dare ai robot...
Sam Altman potrebbe trasformare OpenAI in una società benefit foto: Joel Saget/AFP/Getty Images

OpenAI potrebbe diventare una società benefit (e perseguire il profitto)

OpenAI, per competete al meglio contro Anthropic e xAI, potrebbe cessare di essere una no-profit. E c’è già chi come passo successivo s’immagina...
Share This