Meta, la società madre di Facebook e Instagram, si trova ad affrontare una serie di sfide legate a contenuti sessuali illeciti sulle sue piattaforme. Da un lato, l’azienda sta lottando contro la proliferazione di immagini pornografiche generate dall’intelligenza artificiale, mentre dall’altro sta contrastando una vasta rete di account coinvolti in schemi di estorsione sessuale in Nigeria.
Il Consiglio di Sorveglianza di Meta ha recentemente criticato l’azienda per le sue regole poco chiare riguardanti le rappresentazioni sessuali esplicite generate dall’IA di persone reali. Il Consiglio ha esaminato due casi di immagini pornografiche false di donne famose create utilizzando l’intelligenza artificiale e pubblicate su Facebook e Instagram. In risposta, ha raccomandato a Meta di aggiornare le sue politiche per coprire una gamma più ampia di tecniche di editing, inclusa l’IA generativa, oltre a migliorare i sistemi di rilevamento e rimozione di tali contenuti.
Parallelamente, Meta ha annunciato di aver rimosso circa 63.000 account Instagram in Nigeria coinvolti in schemi di estorsione sessuale finanziaria, principalmente rivolti a uomini adulti negli Stati Uniti. Questi truffatori online, noti come “Yahoo boys“, sono tristemente famosi per una varietà di truffe che vanno dal fingersi persone in difficoltà finanziarie a principi nigeriani che offrono rendimenti eccezionali su investimenti.
Oltre agli account Instagram, Meta ha eliminato 7.200 account, pagine e gruppi su Facebook dedicati a fornire consigli su come truffare le persone. L’azienda ha anche smantellato una rete coordinata più piccola di circa 2.500 account legati a un gruppo di circa 20 individui.
Meta è stata sottoposta a crescenti pressioni da parte dei governi, inclusi i legislatori negli Stati Uniti, per affrontare le preoccupazioni secondo cui i suoi dirigenti avrebbero ignorato le prove dei danni che i suoi servizi causano ai bambini. E mentre l’azienda continua a lottare contro questi problemi, il dibattito sulla responsabilità delle piattaforme social media nella protezione degli utenti, specialmente i più vulnerabili, rimane acceso.
Meta ha dichiarato che esaminerà le raccomandazioni del Consiglio di Sorveglianza e fornirà aggiornamenti su eventuali cambiamenti adottati, sottolineando il suo impegno continuo nel migliorare la sicurezza e l’integrità delle sue piattaforme.
