Claude smette di programmare e si distrae con Yellowstone

by | 27 Ott 2024 | IA

Tempo di lettura: 2 minuti

Come abbiamo scritto qualche giorno fa, Anthropic ha lanciato per il suo modello Claude una funzione chiamata “computer use”, che consente alla sua IA di capire e agire su ciò che appare sullo schermo dell’utente, svolgendo compiti come la navigazione online e la digitazione di testi.

Questo strumento, offerto in beta agli sviluppatori, è progettato per interpretare in tempo reale le attività visibili sullo schermo dell’utente, rendendo l’esperienza più naturale e simile a quella umana.

Anthropic si dichiara attenta alle implicazioni di sicurezza e ha inserito delle limitazioni. In questo modo l’IA viene “scoraggiata” dall’interagire su social media, creare nuovi account o accedere a siti governativi.

La sorpresa di Claude

Quello che Anthropic non poteva prevedere, invece, è che Claude AI avrebbe mostrato segni di “noia” durante una dimostrazione di programmazione, finendo per distrarsi e sfogliare foto di parchi nazionali.

E così, mentre i suoi sviluppatori registravano una demo, la versione più recente di Claude 3.5 Sonnet, l’IA di punta di Anthropic, si è “persa per strada”, producendo alcuni momenti “divertenti”, come ha dichiarato l’azienda stessa.

In un video che potete vedere qui sotto, Anthropic ha catturato alcuni di questi episodi divertenti.

In un’occasione, Claude ha interrotto accidentalmente una lunga registrazione dello schermo, causando la perdita di tutto il materiale. Successivamente, durante un’altra dimostrazione, ha “fatto una pausa” dalla programmazione e ha iniziato a sfogliare immagini del parco di Yellowstone, come se cercasse un modo per evadere dal proprio lavoro.

È un azzardo umanizzare i modelli di machine learning ma se Claude fosse stato un dipendente umano, si sarebbe potuto dire che era affetto da una cronica “noia da ufficio”.

POTREBBE INTERESSARTI

Cina censura

Anche la Cina respinge lo stop all’IA: “È solo allarmismo”

Il portavoce di Pechino accusa Amodei, Altman e Musk di allarmismo sull’IA. Lo stesso giorno il ministro della sicurezza di stato cinese lancia un allarme quasi...
Donald Trump annuncerà domani World Liberty Financial

Trump respinge lo stop all’IA: “Chi vince, vince tutto”

Amodei, Altman e Musk chiedono più cautela sull’IA. Trump risponde dal golf in Irlanda: fermarsi significa regalare il vantaggio alla Cina.

Claude Anthropic Apple

I governi si affidano a Claude per automatizzare la sorveglianza

Dai dossier costruiti con i dati telefonici alla selezione degli obiettivi politici, il rapporto di Anthropic mostra come l’IA stia abbassando i costi della...
Dario Amodei Anthropic Claude

Amodei, Altman e Musk chiedono di rallentare la corsa all’IA

Anthropic chiede di frenare l’aumento delle capacità dei modelli. OpenAI aderisce ai controlli indipendenti e Musk appoggia Amodei. Ma nessuno promette ancora di...
openai ia pensano

OpenAI avverte: capire cosa ‘pensano’ le IA è sempre più difficile

OpenAI ammette che seguire il ragionamento delle IA diventerà sempre più complicato perché esplicitano sempre meno il proprio ragionamento. In gioco c’è...
rubygems

OpenAI: prima di Hugging Face c’è stato RubyGems

OpenAI conferma il coinvolgimento dei propri sistemi in un incidente avvenuto a maggio. Due mesi dopo, fino a 1.200 agenti avrebbero poi attaccato Hugging Face.

pentagono

Il Pentagono entra nella filiera dell’IA con Fluidstack

Il finanziamento a Fluidstack sarebbe il più grande mai concesso dall’Office of Strategic Capital e servirebbe a produrre negli USA componenti per i data...
IA umanità Coxon

Già, ma come potrebbe davvero l’IA ucciderci tutti?

La denuncia di Coxon nei giorni scorsi ha fatto scalpore, ma come potrebbe concretizzarsi realmente il suo scenario apocalittico? Risposta: attenzione alle...
Anthropic

Anthropic accusa: Russia e Cina hanno usato Claude per cyberattacchi e distillazione

Il rapporto descrive attacchi informatici gestiti in larga parte dall’IA. E accusa Alibaba, DeepSeek, Moonshot e Xiaomi di aver cercato di replicare le capacità...
OpenAI matematica

OpenAI dice di aver risolto un Problema del Millennio della matematica

OpenAI ha impiegato fino a 10.000 agenti IA coordinati dai suoi ricercatori per risolvere il problema di Navier-Stokes in 88 ore. E adesso?

Share This