Amazon ha deciso di misurare quanto i suoi dipendenti usano l’intelligenza artificiale. Lo fa con classifiche interne, obiettivi settimanali e contatori di token. L’idea è semplice: più token si consumano, più si sta usando l’IA.
Il risultato è stato altrettanto semplice, sebbene opposto alle intenzioni. Alcuni dipendenti hanno iniziato a usare l’IA non per lavorare meglio, ma per far salire il contatore. Lo strumento scelto per farlo è MeshClaw, un prodotto interno sviluppato da Amazon stessa.
MeshClaw consente di creare agenti IA che si collegano ai software aziendali (Slack, email, ambienti di sviluppo) ed eseguono compiti in autonomia. L’azienda lo descrive come un modo per “automatizzare le attività ripetitive”.
Nella pratica, secondo quanto riferito al Financial Times da tre persone a conoscenza della situazione, alcuni dipendenti lo stanno usando per generare attività inutili, senza alcun valore operativo reale, col solo scopo di aumentare il proprio punteggio nelle classifiche interne. “C’è davvero molta pressione per usare questi strumenti”, ha detto un dipendente al FT. “Alcune persone stanno semplicemente usando MeshClaw per massimizzare il loro utilizzo di token”.
Amazon ha comunicato ai dipendenti che i dati sul consumo di token non sarebbero stati usati nelle valutazioni delle prestazioni. Ma diversi dipendenti non ci credono: “I manager ci stanno guardando”, ha detto un altro dipendente al celebre quotidiano. “Quando tracciano l’utilizzo si creano incentivi perversi, e alcune persone sono molto competitive in merito”.
Duecento miliardi di motivi
Per capire perché Amazon si sia spinta fino a costruire classifiche interne sull’uso dell’IA, basta guardare i numeri. Quest’anno il gruppo prevede di spendere 200 miliardi di dollari in spese in conto capitale, la grande maggioranza destinata a infrastrutture IA e data center.
È una cifra che richiede giustificazioni verso gli investitori, verso i mercati, verso l’interno. Una delle giustificazioni più immediate è dimostrare che la tecnologia viene effettivamente usata, che l’adozione è reale, che i miliardi investiti si traducono in pratiche di lavoro concrete.
Da qui la soglia dell’80%: Amazon ha fissato l’obiettivo che più di quattro sviluppatori su cinque usino strumenti di IA ogni settimana. Un target che ha senso sulla carta, ma che nella realtà genera esattamente il tipo di comportamento che intendeva evitare.
Quando una metrica diventa l’obiettivo, il risultato non è più necessariamente l’efficienza ma la sua rappresentazione. Nel caso dei token, il problema è strutturale: il consumo di unità di dati non dice nulla sulla qualità del lavoro svolto, sulla pertinenza delle richieste, sull’utilità concreta dell’output generato. Misura appunto il volume, non il valore.
Un fenomeno che va oltre Amazon
Amazon non è sola. Anche tra i dipendenti di Meta è emerso lo stesso fenomeno, già ribattezzato “tokenmaxxing”, ossia la pratica di massimizzare il consumo di token per scalare le classifiche interne, indipendentemente dall’utilità delle operazioni eseguite.
Il fatto che due tra le maggiori aziende tecnologiche al mondo si trovino ad affrontare lo stesso problema non è una coincidenza: è il segnale di una contraddizione nel modo in cui l’industria sta gestendo la pressione all’adozione dell’IA.
Le grandi aziende hanno bisogno di dimostrare che gli investimenti in IA generativa producono risultati. Lo strumento più immediato per farlo è misurare l’utilizzo. Ma misurare l’utilizzo crea incentivi a gonfiare l’utilizzo.
Il memo distopico e la sicurezza
C’è un dettaglio nel lancio interno di MeshClaw che vale la pena leggere con attenzione. Un memo aziendale descrive così il bot: “Sogna durante la notte per consolidare ciò che ha imparato, monitora le tue distribuzioni mentre sei in riunione e smista le tue email prima che tu ti svegli”.
È il linguaggio dell’efficienza assoluta, dell’assistente instancabile, della macchina che lavora anche quando l’umano riposa. È anche, involontariamente, il linguaggio di uno strumento a cui qualcuno ha deciso di dare accesso esteso ai sistemi aziendali.
Perché MeshClaw non è solo un contatore di token: può avviare distribuzioni di codice, interagire con Slack, gestire la posta elettronica. Agisce per conto dell’utente, con i permessi dell’utente. E questo, secondo diversi dipendenti, è esattamente il problema.
“La postura di sicurezza predefinita mi terrorizza”, ha dichiarato uno di loro al FT. “Non ho intenzione di lasciarlo andare per la sua strada e fare da solo”.
Amazon ha risposto con una dichiarazione in cui afferma di essere “impegnata nello sviluppo e nella distribuzione sicuri, protetti e responsabili dell’IA generativa”. Il memo che descrive il bot che sogna di notte suggerisce che l’entusiasmo interno, almeno nella comunicazione aziendale, stia correndo un po’ più veloce della prudenza.
Fonte: Financial Times
