X.AI fa causa a un utente di Grok accusato di creare materiale pedopornografico

X.AI, la startup di intelligenza artificiale (IA) dell'imprenditore multimiliardario Elon Musk, ha fatto causa a un uomo della Carolina del Sud, arrestato a febbraio con l'accusa di sfruttamento sessuale di minori, sostenendo che abbia utilizzato Grok – chatbot di IA generativa sviluppato da X.AI – per creare materiale pedopornografico.

Si tratta di una delle prime azioni legali intraprese da un'azienda di IA contro un proprio utente per questo motivo. E arriva in un momento di forte attenzione internazionale su X.AI, a seguito delle accuse secondo cui Grok avrebbe permesso agli utenti di generare deepfake (contenuti audio, visivi o testuali manipolati, creati mediante IA generativa) a sfondo sessuale non consensuali.

Nella causa, depositata presso un Tribunale federale del Texas, si afferma che T. H. ha violato i termini di servizio della società. Nella denuncia, X.AI ha indicato che l'azienda "fa rispettare le proprie regole attraverso la sospensione o la chiusura dei conti e segnalando al National Center for Missing & Exploited Children (NCMEC, letteralmente Centro nazionale per i bambini scomparsi e vittime di abusi) eventuale materiale che ritragga abusi sessuali su minori".

L'NCMEC è la più grande organizzazione di protezione dell'infanzia degli Stati Uniti, con la missione di aiutare a trovare i bambini scomparsi e combattere lo sfruttamento sessuale minorile. È un'organizzazione privata senza scopo di lucro.

Secondo la startup di Musk, T. H. ha caricato su Grok immagini non sessuali di adulti e minori e ha usato il sistema per modificarle rendendole esplicite e per generare deepfake sessualmente espliciti basati su tali immagini. L'azienda ha chiesto al tribunale un risarcimento danni di importo non specificato e un provvedimento che vieti in modo permanente a T. H. l'utilizzo di Grok.