三名田納西州的青少年正在起訴 Elon Musk 的 xAI 公司，指控該公司的 Grok AI 聊天機器人生成了他們未成年時的性化圖像和影片，正如《華盛頓郵報》先前報導的那樣。週一提交的這項擬議集體訴訟指控 Musk 和其他 xAI 領導者在去年推出其「spicy mode」時，就知道 Grok 會生成兒童性虐待圖像 (CSAM)。
原告包括兩名未成年人和一名在訴訟事件發生時未滿法定年齡的成年人。其中一名受害者，化名為「Jane Doe 1」，聲稱去年 12 月，她發現自己和其他至少 18 名未成年人的露骨 AI 生成圖像出現在 Discord 上。「至少有五個檔案，包括一部影片和四張圖像，描繪了她真實的臉孔和身體，並處於她熟悉的場景中，但卻被扭變成性露骨的姿勢，」訴訟中寫道。
據稱，該名事後已被逮捕的加害者，利用 Jane Doe 1 的 AI 生成 CSAM「作為在 Telegram 群組聊天中與數百名其他用戶交換的工具，用她的 CSAM 檔案交換其他未成年人的性露骨內容。」訴訟聲稱，該加害者使用 Grok 生成了 Jane Doe 1 和另外兩名受害者的露骨圖像。訴訟還指控 xAI「未能測試其開發功能的安全性」，並稱 Grok「在設計上有缺陷」。
在 Grok 向 X 平台充斥成人和未成年人的露骨圖像後，Musk 和 xAI 成為了嚴密審查的對象。該事件引發了全國要求聯邦貿易委員會調查 Grok 的呼聲、歐盟的調查以及英國首相 Keir Starmer 的警告。參議院在一月份也通過了一項法案，允許非自願深度偽造的受害者起訴圖像創作者，而總統 Donald Trump 於 2025 年簽署成為法律的《移除法案》(Take It Down Act)，將在 5 月生效時，把散播非自願的 AI 生成深度偽造內容定為刑事犯罪。
儘管 X 試圖讓用戶更難透過 Grok 編輯圖像，但《The Verge》發現，仍然有可能操縱上傳到該平台的圖像。X 一直堅稱「任何使用或提示 Grok 製作非法內容的用戶，都將面臨與上傳非法內容相同的後果。」X 並未立即回應《The Verge》的置評請求。
其中一名受害者的律師，Lieff Cabraser 的 Annika K. Martin 在一份聲明中表示：「這些是孩子們，他們的學校照片和家庭照片被一家價值數十億美元公司的 AI 工具變成了兒童性虐待圖像，然後被掠食者之間交易。」「我們打算讓 xAI 對他們以這種方式傷害的每一個孩子負責。」
訴訟尋求對受 Grok「非法圖像」影響的受害者進行損害賠償。它還要求法院阻止 xAI 生成和散播所謂的 AI 生成 CSAM。