Il South by Southwest (SXSW) è uno dei più importanti festival dedicati alla tecnologia, alla musica, al cinema e all’innovazione.
Ogni anno, ad Austin, Texas, l’evento riunisce esperti, creativi e aziende per discutere le tendenze del futuro, dalle nuove frontiere dell’intelligenza artificiale alle sfide della cybersecurity.
Quest’anno, tra i protagonisti del SXSW, c’era anche Meredith Whittaker, presidente di Signal, l’app di messaggistica nota per la crittografia end-to-end e il suo impegno nella protezione della privacy.
Ex ricercatrice di Google e cofondatrice dell’AI Now Institute, Whittaker ha lanciato un avvertimento sui rischi delle IA agentiche, ovvero quei sistemi di intelligenza artificiale progettati per svolgere compiti autonomamente per conto degli utenti.
Whittaker e il pericolo di “mettere il cervello in un barattolo”
Durante il suo intervento al SXSW, la Whittaker ha spiegato che queste IA vengono presentate come strumenti in grado di semplificare la vita, eseguendo operazioni come prenotare biglietti, aggiornare il calendario e comunicare con gli amici.
Per funzionare in modo efficace, però, necessitano di un accesso profondo ai dati personali dell’utente.
“Quindi possiamo semplicemente mettere il nostro cervello in un barattolo, perché sarà l’IA a occuparsi di tutto e noi non dovremo fare nulla, giusto?”, ha ironizzato Whittaker.
Dietro questa apparente comodità, però, si cela un rischio considerevole: per gestire compiti complessi, le IA agentiche devono accedere a browser, carte di credito, calendari e applicazioni di messaggistica, spesso con privilegi paragonabili ai permessi di root, ovvero un controllo quasi totale sui dati.
Dati sensibili nel cloud e il rischio per la privacy
Un altro punto critico evidenziato da Whittaker riguarda la gestione dei dati.
Secondo la presidente di Signal, i modelli di IA abbastanza potenti da svolgere questi compiti non operano solo sul dispositivo dell’utente ma inviano i dati a server remoti per l’elaborazione.
“Quasi certamente i dati verrebbero inviati a un server cloud per essere elaborati e poi restituiti all’utente”, ha spiegato. Questo processo, ha avvertito, “rischia di abbattere la barriera tra il livello applicativo e il sistema operativo, unificando servizi separati e mescolando i loro dati”.
Se un’app di messaggistica come Signal integrasse un’IA agentica, la privacy degli utenti sarebbe compromessa: l’IA dovrebbe infatti accedere ai messaggi, leggerli e riassumerli.
Questo, secondo la Whittaker, metterebbe fine alla riservatezza garantita dalla crittografia end-to-end.
Il modello “più dati, meglio è” e le sue conseguenze
Le critiche della Whittaker si inseriscono in una riflessione più ampia sul settore dell’intelligenza artificiale.
Durante il panel, ha sottolineato come l’industria dell’IA si sia sviluppata attorno a un modello basato sulla raccolta massiva di dati.
L’idea che “più dati equivalgano a un’IA migliore” potrebbe avere conseguenze problematiche, specialmente se questa tecnologia viene integrata in strumenti così pervasivi.
Con le IA agentiche, ha avvertito, la sicurezza e la privacy verrebbero ulteriormente compromesse in nome di un “genio magico che si occupa degli imprevisti della vita”.
Un prezzo troppo alto, secondo la presidente di Signal, per una comodità che rischia di trasformarsi in una minaccia.
