I modelli di intelligenza artificiale sono oramai una costante fonte di soprese, non solo per ciò che possono fare ma anche per ciò che non riescono a svolgere e perché.
Un interessante esempio di tali limiti ci giunge dal modo in cui simili sistemi si approcciano alla scelta di numeri casuali, che si è rivelato essere non molto dissimile da quello utilizzato dagli esseri umani.
Per comprendere meglio la similitudine, bisogna prendere in esame la maniera con cui noi esseri umani ci rapportiamo alla casualità. Prendiamo, ad esempio, l’indicare un numero qualsiasi compreso tra 0 e 100: le persone non scelgono quasi mai 1 o 100, i multipli di 5 sono rari, così come lo sono i numeri con cifre ripetute come 66 e 99. Invece, spesso scegliamo i valori che terminano con 7, generalmente tra quelli mediani.
A tal proposito, alcuni ingegneri della Gramener (compagnia di data science basata sull’intelligenza artificiale) hanno eseguito un esperimento in cui hanno chiesto a diversi chatbot di scegliere un numero casuale compreso tra 0 e 100. E i risultati emersi sono molto interessanti.
Tutti e tre i modelli testati hanno evidenziato un numero preferito che veniva scelto più spesso, anche quando la variabilità dei risultati aumentava. A GPT-3.5 di OpenAI piace il 47, Claude 3 Haiku di Anthropic è fissato con il 42, mentre Gemini preferisce il 72. La cosa più interessante è che i tre i modelli hanno dimostrato una predisposizione umana negli altri numeri selezionati.
Tutti tendevano ad evitare i numeri bassi e quelli alti; Claude non è mai andato sopra 87 o sotto 27. Sono state scrupolosamente evitate le doppie cifre: niente 33, 55 o 66, ma è comparso 77 (finisce con 7). Quasi nessun numero tondo, anche se Gemini una volta ha scelto lo 0.
Naturalmente tali risultati non significano una vera e propria presa di coscienza delle IA ma si basano sui dati di allenamento e non indicano una consapevolezza del concetto di casualità.
Riprendendo quanto scritto poco sopra, come potrebbero mai scegliere il numero 100 se questo non compare nelle risposte date loro in pasto? Senza disporre di una reale capacità di ragionamento e senza alcuna comprensione dei numeri, le IA non possono fare altro che ripetere ciò che viene insegnato loro, con tutti i limiti del caso.
In ogni interazione con questi sistemi, bisogna tenere presente che sono stati addestrati ad agire come fanno le persone. Anche se non era questo l’intento.
