xAI di Elon Musk fa causa a un utente di Grok per immagini pedopornografiche

xAI, la startup di intelligenza artificiale di Elon Musk, ha fatto causa a un uomo della South Carolina, arrestato a febbraio con l'accusa di sfruttamento sessuale di minori, sostenendo che abbia utilizzato Grok per creare materiale pedopornografico. Si tratta di una delle prime azioni legali intraprese da un'azienda di IA contro un proprio utente per questo motivo. La causa arriva in un momento di forte attenzione internazionale su xAI, a seguito delle accuse secondo cui Grok avrebbe permesso agli utenti di generare deepfake a sfondo sessuale non consensuali. Nella causa, depositata presso un tribunale federale del Texas, si afferma che Terry Harwood ha violato i termini di servizio della società. Nella denuncia, xAI ha affermato che l'azienda "fa rispettare le proprie regole attraverso la sospensione o la chiusura degli account e segnalando al National Center for Missing + Exploited Children eventuale materiale che ritragga abusi sessuali su minori". Secondo la startup di Musk, Harwood ha caricato su Grok immagini non sessuali di adulti e minori e ha usato il sistema per modificarle rendendole esplicite e per generare deepfake sessualmente espliciti basati su tali immagini. L'azienda ha chiesto al tribunale un risarcimento danni di importo non specificato e un provvedimento che vieti in modo permanente a Harwood l'utilizzo di Grok.