Meta ha recentemente chiarito l’uso che fa delle foto e dei video acquisiti dagli utenti tramite i suoi nuovi occhiali intelligenti Ray-Ban, rivelando un dettaglio di enorme importanza.
Si tratta di un’ammissione che solleva non poche preoccupazioni sul fronte della privacy, soprattutto perché non sempre gli utenti sono consapevoli di quanto stanno realmente condividendo.
In un’intervista con TechCrunch, Emil Vazquez, responsabile delle comunicazioni di Meta, ha infatti confermato che nei Paesi dov’è disponibile l’IA multimodale (come gli Stati Uniti e il Canada), le immagini e i video inviati a Meta AI possono essere utilizzati per addestrare l’IA stessa.
In una dichiarazione precedente, rilasciata via e-mail, un portavoce aveva precisato che le foto e i video acquisiti con i Ray-Ban smart non vengono utilizzati per l’addestramento, a meno che l’utente non li invii all’IA per l’analisi.
Una volta richiesto l’intervento di Meta AI, però, le immagini diventano soggette a una politica completamente diversa.
Un nuovo bacino di dati per il training dell’IA
In sostanza, gli occhiali Ray-Ban Meta rappresentano per l’azienda un modo invasivo per raccogliere un’enorme quantità di dati visivi che può essere sfruttata per migliorare le generazioni future di modelli AI.
L’unica opzione per chi voglia “rifiutare” questo meccanismo è quella di non utilizzare affatto le funzionalità multimodali di Meta AI. Il problema è che molti utenti potrebbero non essere del tutto consapevoli delle implicazioni di queste condivisioni.
Quando si chiede all’IA di Zuckerberg di analizzare immagini, come quelle che potrebbero mostrare l’interno di una casa, oggetti personali o persone care, quei dati diventano parte di un vasto archivio a disposizione dell’azienda per addestrare i suoi modelli.
Meta assicura che queste informazioni sono indicate chiaramente nell’interfaccia utente degli occhiali ma i dirigenti dell’azienda, inizialmente, non hanno dato la sensazione di voler condividere apertamente questo dettaglio.
Meta e la definizione di “dati pubblicamente disponibili”
Il colosso di Menlo Park è già noto per aver utilizzato i post pubblici su Instagram e Facebook per addestrare i modelli AI della serie Llama. Ora, però, questa definizione di “dati pubblicamente disponibili” si è ampliata, includendo tutto ciò che gli utenti vedono attraverso i loro occhiali intelligenti e che chiedono a Meta AI di analizzare.
La questione si fa ancora più rilevante con l’introduzione di nuove funzionalità IA lanciate da Meta di recente, che facilitano ulteriormente l’interazione naturale tra utenti e IA.
Durante la conferenza Connect 2024, Meta ha annunciato una nuova funzione di analisi video in diretta per gli occhiali Ray-Ban, che invia continuamente un flusso di immagini ai suoi modelli di IA multimodale.
In un video promozionale, Meta ha mostrato come si possa utilizzare questa funzionalità per “scansionare” il proprio guardaroba e ricevere suggerimenti su cosa indossare.
Quello che non viene evidenziato è che, insieme all’outfit del giorno, si sta inviando un flusso continuo di immagini a Meta, che può utilizzarle per addestrare le sue IA.
Precedenti legali e nuove preoccupazioni
Non è la prima volta che Meta si trova a confrontarsi con questioni relative all’uso dei dati per il riconoscimento facciale.
Recentemente, l’azienda ha accettato di pagare una multa di 1,4 miliardi di dollari allo stato del Texas per risolvere una causa legale riguardante l’uso del software di riconoscimento facciale, utilizzato in passato con la funzione Tag Suggestions su Facebook.
Oggi, alcune delle funzionalità di Meta AI non sono disponibili in Texas, probabilmente proprio per evitare di riaprire un contenzioso su questo fronte.
Le politiche sulla privacy di Meta specificano anche che le trascrizioni delle conversazioni vocali fatte tramite i suoi occhiali Ray-Ban vengono memorizzate e utilizzate per migliorare i futuri modelli AI, anche se gli utenti possono scegliere di non permettere che le registrazioni audio vengano utilizzate per l’addestramento.
Il ritorno delle preoccupazioni sui dispositivi indossabili
La corsa agli occhiali intelligenti, guidata da aziende come Meta e Snap, sta sollevando molte delle stesse preoccupazioni sulla privacy che avevano caratterizzato il lancio dei Google Glass diversi anni fa.
I dispositivi indossabili dotati di fotocamere sul viso rappresentano una nuova frontiera dell’interazione tecnologica, ma anche un campo minato di questioni etiche e legali.
E come se ciò non fosse sufficiente, alcuni studenti universitari di Harvard hanno già hackerato i Ray-Ban Meta per ottenere informazioni personali – come nome, indirizzo e numero di telefono – delle persone su cui puntano gli occhiali.
AnhPhu Nguyen e Caine Ardayfio hanno infatti combinato gli occhiali di Meta con un software da loro creato, ottenendo così l’identificazione delle persone e il recupero dei loro dati personali.
Il sistema, chiamato I-XRAY, utilizza una combinazione di riconoscimento facciale, ricerca inversa di immagini e modelli di linguaggio avanzati (LLM) per trovare nomi, indirizzi, numeri di telefono e altre informazioni.
Per capire meglio come funzioni, vi invitiamo a guardare il video qui sotto.
Are we ready for a world where our data is exposed at a glance? @CaineArdayfio and I offer an answer to protect yourself here:https://t.co/LhxModhDpk pic.twitter.com/Oo35TxBNtD
— AnhPhu Nguyen (@AnhPhuNguyen1) September 30, 2024
Come potete vedere, i due studenti hanno testato I-XRAY nel campus di Harvard, identificando correttamente sconosciuti e i loro dati personali.
E se due studenti possono ottenere tali risultati con un paio di occhiali smart e altri strumenti pubblicamente disponibili, chissà di cosa possono essere capaci le aziende e i governi con la stesse tecnologie.
