Nel dibattito sui rischi dell’intelligenza artificiale circola da mesi un sospetto scomodo: che i grandi laboratori dietro i modelli proprietari si comportino come cavalli di Troia, raccogliendo dati sensibili dalle aziende clienti per poi trasformarsi, un giorno, in concorrenti diretti.
Ad alimentarlo finora erano stati soprattutto investitori come Jason Calacanis o il CEO di Palantir Alex Karp. Ora la stessa preoccupazione arriva da una fonte sorprendente: Satya Nadella, amministratore delegato di Microsoft, azienda che ha investito sia in OpenAI sia in Anthropic.
Un paradosso al contrario
In un post pubblicato su X domenica, Nadella ha coniato un’espressione che promette di fare scuola: il “paradosso dell’informazione rovesciato”. Richiama la teoria dell’economista Kenneth Arrow, secondo cui il valore di un’informazione resta ignoto finché non viene rivelato, ma una volta condivisa il compratore la possiede già, senza averla davvero pagata. Con l’IA generativa, scrive Nadella, succede il contrario: sono le aziende clienti a dover rivelare know-how sempre più dettagliato per ottenere risposte utili.
“Si paga l’intelligenza due volte: una con il denaro, una con qualcosa di ancora più prezioso, la conoscenza proprietaria che bisogna rivelare per renderla utile”, scrive Nadella. “Più si vuole che il modello renda bene, più conoscenza bisogna dargli in pasto.”
Il punto più delicato riguarda le correzioni. Ogni volta che un dipendente sistema una risposta sbagliata, secondo Nadella, quel gesto viene distillato in sapere aziendale: “una conoscenza che nessun concorrente potrebbe mai comprare”, che filtra via quasi senza che nessuno se ne accorga, prompt dopo prompt.
Distillazione, ma solo in un senso
Nadella arriva così al nodo della distillazione, la tecnica che permette di studiare le risposte di un modello per addestrarne uno nuovo, più economico, sulla base di quei risultati. Se ai laboratori è permesso addestrare i propri sistemi raccogliendo liberamente dati dal web, sostiene, sarebbe giusto concedere alle aziende lo stesso diritto sui modelli che pagano per usare. Trova “ironico” che i fornitori si riservino il diritto di imparare dall’uso dei clienti, vietando però a questi ultimi di fare altrettanto sui propri modelli.
Il tema non è astratto: a febbraio Anthropic aveva accusato alcuni laboratori cinesi di aver inviato milioni di prompt a Claude proprio per copiarne il funzionamento, chiedendo a Washington di intervenire sui controlli sull’export dei chip.
Nadella, del resto, non è il primo a mettere in dubbio il modello di business dei grandi laboratori: pochi mesi fa Palantir aveva già bollato come sbagliato il pagamento a consumo di token.
La soluzione di Nadella (che fa comodo anche a Microsoft)
La ricetta proposta prevede che le aziende mantengano la proprietà dei propri dati, comprese le richieste inviate ai modelli e le correzioni apportate nel tempo, costruendo quelli che Nadella chiama “ambienti di apprendimento proprietari” nel cloud, dove quei dati risiedono già, spesso su Azure. Suggerisce anche di dotarsi di “livelli di orchestrazione” per passare da un modello all’altro senza restare legati a un solo fornitore, gli stessi “gateway” IA sempre più diffusi tra le aziende.
Nadella non nomina mai esplicitamente l’open source, ma il sottotesto è chiaro. Anche Microsoft, del resto, sta lavorando per ridurre la propria dipendenza da OpenAI, puntando sull’autosufficienza nell’IA nel giro di due o tre anni.
Le aziende si muovono già in questa direzione
Il cambiamento descritto da Nadella è già in corso. Idit Levine, fondatrice e CEO di Solo.io, azienda che fornisce infrastrutture di sicurezza per sistemi IA a clienti come T-Mobile, ADP e SAP, racconta di vedere sempre più aziende chiedersi se un modello open source installato sui propri server non renda “il 90% di quello che fa il modello proprietario, a una frazione del costo, con il vantaggio di poterlo controllare direttamente”. Solo.io fornisce anche la tecnologia dietro Agentgateway, il progetto della Linux Foundation per la gestione degli agenti IA.
I numeri confermano la tendenza: secondo Vercel, il mese scorso i modelli open source hanno rappresentato il 29% del traffico instradato attraverso il suo gateway IA. Una crescita simile si registra su OpenRouter, la piattaforma che smista le richieste tra diversi fornitori, in un momento in cui molte aziende iniziano anche a fare i conti sui costi reali degli agenti IA in produzione.
Che l’allarme arrivi proprio dal CEO di Microsoft, azionista di due dei principali laboratori IA al mondo, gli dà un peso diverso. Come scrive lo stesso Nadella: “Consumando intelligenza, si crea intelligenza. E quello che si crea dovrebbe appartenere a chi lo crea.”
Fonte: TechCrunch
