A raccontare il fatto di oggi è il Wall Street Journal. Che spiega come OpenAI, l’azienda creatrice di ChatGPT, si stia trovando da qualche tempo al centro di un acceso dibattito interno riguardo un potente strumento sviluppato per rilevare l’uso del suo chatbot nella generazione di testi.
Nonostante le crescenti preoccupazioni nel mondo dell’istruzione sull’uso improprio dell’IA, l’azienda non ha ancora deciso di rilasciare questa tecnologia. Il metodo in questione, in fase di sviluppo da circa due anni, utilizza una sofisticata tecnica di “watermarking”. Questa altera in modo impercettibile il processo di selezione delle parole di ChatGPT, creando un modello invisibile all’occhio umano ma rilevabile da un software dedicato.
L’efficacia di questo sistema è impressionante: secondo documenti interni, raggiunge il 99,9% di accuratezza quando viene generato un volume sufficiente di testo.
Tuttavia, la decisione di implementare o meno questa tecnologia ha scatenato un intenso dibattito all’interno di OpenAI. I dipendenti si trovano divisi tra l’impegno dichiarato dell’azienda per la trasparenza e il desiderio pragmatico di mantenere e ampliare la propria base di utenti.
Un sondaggio condotto tra gli utenti più fedeli di ChatGPT ha rivelato un dato significativo: quasi un terzo di essi si dichiarerebbe meno propenso a utilizzare la piattaforma se venisse implementato un sistema anti-imbroglio. Mentre il 69% crede che la tecnologia di rilevamento porterebbe a false accuse di utilizzo dell’IA.
I dubbi di OpenAI
Le preoccupazioni sollevate internamente sono molteplici e complesse. C’è anche il timore di un impatto sproporzionato su gruppi specifici, come i non madrelingua inglesi. Alcuni dipendenti hanno poi evidenziato la possibilità che il watermark possa essere aggirato attraverso tecniche relativamente semplici, come la traduzione automatica e l’utilizzo di emoticon.
Inoltre, emerge la sfida di determinare chi dovrebbe avere accesso allo strumento di rilevamento, bilanciando l’efficacia con il rischio di esporre la tecnologia a potenziali abusi. Se infatti troppe poche persone avessero accesso, lo strumento risulterebbe inefficace. Al contrario, se troppe persone lo ottenessero, i malintenzionati potrebbero scoprire la tecnica di watermarking dell’azienda.
I dipendenti di OpenAI hanno valutato l’ipotesi di fornire il rilevatore direttamente agli educatori o a società esterne specializzate nell’aiutare le scuole a identificare i compiti scritti dall’IA e i lavori plagiati. Che, per chi ancora non lo sapesse, sono ormai divenuti una piaga in ambito scolastico.
I sostenitori del rilascio dello strumento, tra cui i suoi stessi sviluppatori, argomentano che i benefici per la società supererebbero di gran lunga i potenziali rischi. Tuttavia, la dirigenza di OpenAI mantiene una posizione cauta, citando la complessità della questione e il possibile impatto sull’ecosistema più ampio dell’IA e dell’istruzione.
Finora OpenAI ha dato priorità allo sviluppo di tecniche di watermarking per contenuti audio e video. per motivi facilmente comprensibili.
È interessante notare come OpenAI abbia dato priorità allo sviluppo di tecniche di watermarking per contenuti audio e video, considerando i potenziali danni in questi campi come più immediati e significativi, soprattutto in vista delle imminenti elezioni negli Stati Uniti.
Mentre lo strumento è tecnicamente pronto per il rilascio da circa un anno, OpenAI continua a valutare attentamente i pro e i contro. L’azienda si trova di fronte a una decisione che potrebbe avere ripercussioni significative non solo sul proprio futuro, ma anche sul modo in cui l’IA verrà utilizzata e regolamentata nel campo dell’istruzione e oltre.
In un’epoca in cui l’intelligenza artificiale sta rapidamente ridefinendo i confini tra creatività umana e generazione automatizzata, la decisione di Sam Altman potrebbe stabilire un importante precedente. E il dibattito interno all’azienda riflette una questione più ampia che la società nel suo complesso dovrà affrontare: come bilanciare l’innovazione tecnologica con la responsabilità etica e l’integrità accademica.
Senza ovviamente compromettere il proprio business, perché il rischio è di allontanare gli utenti dalla propria piattaforma e indirizzarli verso quei concorrenti che non dovessero implementare tecniche di watermarking.
