Nel mondo sempre più sfumato tra umano e artificiale, anche il mestiere dell’hacker inizia a diventare un terreno di competizione tra persone in carne e ossa e modelli linguistici.
Uno di questi, Claude, ha ottenuto risultati sorprendenti in diverse competizioni studentesche di hacking. Nonostante l’IA di Anthropic non sia certo progettata per attaccare vulnerabilità, in molti casi ha saputo fare meglio di studenti universitari ed esperti in carne e ossa.
A iscriverlo al DEF CON è stato Keane Lucas, membro del red team interno di Anthropic. Per chi non è del settore, i red team sono gruppi di esperti specializzati nell’identificare le falle di sicurezza nei sistemi, spesso simulando attacchi per testare la robustezza delle difese. In pratica, sono hacker “etici” che lavorano dall’interno per rendere i sistemi più sicuri.
È in questo contesto che Lucas, spinto da curiosità, ha iniziato a usare Claude in una delle competizioni di “capture the flag” più grandi al mondo, dove gli studenti devono violare sistemi, decifrare file e analizzare malware.
Un inizio sorprendente
Con un semplice copia-incolla del testo della prima sfida nel prompt dei comandi, Claude ha cominciato a risolvere i problemi uno dopo l’altro. L’unico ostacolo? L’installazione di uno strumento di terze parti, che ha richiesto un intervento umano. Superato questo dettaglio, Claude è salito nella classifica fino a posizionarsi tra il 3% migliore dei partecipanti.
Non è stato un caso isolato. In un’altra gara ha risolto 11 sfide in 10 minuti, e altre 5 nei successivi dieci. In un’altra competizione, su 20 esercizi totali, Claude ne ha completati 19, un risultato condiviso solo con altri quattro agenti AI. Appena il 12% dei team umani ha fatto altrettanto.
Il ritmo è stato tale da lasciare stupiti anche i ricercatori: “La velocità è davvero assurda”, ha detto Lucas, che da mesi osserva le prestazioni del modello.
Ma Claude si distrae coi… pesci
Eppure Claude non è stato infallibile, e in alcuni casi si è trovato completamente bloccato di fronte a stimoli che uscivano dalle sue aspettative.
In una gara, ad esempio, l’esercizio iniziava con una schermata animata di pesci che nuotavano. Per un essere umano, interrompere l’animazione è banale. Per un’IA, invece, quella visione di pesci ASCII può essere interpretata come un enigma indecifrabile.
Anche in “Hack the Box”, una delle competizioni più avanzate, tutti gli agenti AI (Claude incluso), si sono fermati all’ultima sfida, senza riuscire a superarla.
Ma il punto, per chi lavora su questi sistemi, è che Claude è già molto più avanti di quanto la comunità della sicurezza informatica abbia compreso. “È davvero molto probabile che nel prossimo futuro i modelli diventeranno molto, molto più bravi nei compiti di cybersecurity”, ha spiegato Logan Graham, responsabile del red team di Anthropic. Per questo, aggiunge, è essenziale iniziare a usare queste tecnologie. Anche per costruire le difese, non solo per condurre attacchi simulati.
L’interrogativo ora si sposta sulla velocità con cui questi strumenti evolveranno, e su chi sarà in grado di sfruttarli meglio. L’IA può dunque violare sistemi informatici con efficienza quasi sovrumana, così come difenderli con pari efficacia. QAi posteri l’ardua sentenza.
