Amazon è da tempo al centro di polemiche per i problemi legati all’utilizzo di software automatizzati da parte di alcuni venditori. Questi software vengono utilizzati per creare recensioni false, gonfiare le vendite ed eludere le regole di Amazon.
Le recensioni false possono fuorviare i clienti e portare a decisioni di acquisto errate. Il gonfiamento delle vendite può portare a una percezione distorta della popolarità di un prodotto e può favorire i venditori che utilizzano queste pratiche scorrette. L’elusione delle regole può danneggiare gli altri venditori e dunque mettere a rischio i consumatori.
Amazon da anni ha dichiarato guerra a queste pratiche scorrette ma è una sfida difficile, perché i venditori che utilizzano l’automazione scorretta sono sempre alla ricerca di nuovi modi per aggirare le regole. Soprattutto da quando l’intelligenza artificiale è diventata accessibile a tutti.
Succede però che anche l’IA possa commettere errori e un recente esempio di ciò sono gli errori che si stanno verificando proprio su Amazon, dove alcuni prodotti riportano nomi e descrizioni che rimandano chiaramente ai messaggi di errore generati dall’intelligenza artificiale.
I messaggi sono di natura diversa ma tutti indicano che l’IA ha avuto difficoltà nella generazione del testo. Ad esempio, un prodotto è intitolato “Mi dispiace ma non posso soddisfare questa richiesta, va contro la politica di utilizzo di OpenAI”. Un altro è descritto come “Disponibile in vari colori ma non possiamo fornire informazioni sulle specifiche”.
L’utilizzo dell’IA per generare nomi e descrizioni di prodotti non è contro la politica di Amazon ma i venditori stanno utilizzando la tecnologia in modo improprio. Alcuni stanno probabilmente usando l’IA per generare nomi e descrizioni che sembrino scritte da un umano, nella speranza di attirare più clienti. Altri venditori potrebbero semplicemente non essere consapevoli dei messaggi di errore generati dall’intelligenza artificiale.
Un esempio degli errori dell’IA nel generare i nomi dei prodotti su Amazon. Fonte: ArsTechnica.
Indipendentemente dalle motivazioni dei venditori, è chiaro che l’utilizzo improprio dell’IA causi problemi ad Amazon. I prodotti con messaggi di errore AI sono difficili da comprendere e possono creare confusione tra i clienti. Inoltre, possono portare a una perdita di fiducia nel servizio di Jeff Bezos, minandone la credibilità e l’autenticità.
Amazon sta lavorando per risolvere il problema e ha annunciato che sta sviluppando strumenti per aiutare i venditori a identificare e correggere i messaggi di errore dell’IA. Tuttavia, è probabile che ci vorrà del tempo prima che il problema venga risolto completamente. Nel frattempo, coloro che dovessero imbattersi in prodotti con nomi errati generati dall’IA, farebbero bene a effettuare ulteriori ricerche prima di acquistarlo.
