Elon Musk的人工智慧公司xAI正面臨青少年的訴訟，這些青少年指控該公司透過允許製作他們的色情影像，促成兒童色情。

這起針對xAI的訴訟於週一在加州聯邦法院提出，原告為三名年輕女性，她們的照片和影片被Grok用戶在未經同意下修改，呈現裸體或其他明顯的性暗示畫面。

Grok是由xAI開發並在Musk的社交平台X上運行的聊天機器人。xAI未回應其母公司提出的置評請求。

這起法律行動是去年爭議性推出Grok新功能「spicy模式」後的後續影響之一。

原告律師表示，Grok修改影像和影片的功能是xAI為了推動聊天機器人和X平台的使用而創造並發布的。

他們形容這些被改變的年輕女性影像如同「被黑暗魔法賦予生命的布偶」。

訴狀中寫道：「xAI及其創辦人Elon Musk看到了商機，他們明知Grok能產生這種結果，包括利用兒童的影像和影片，卻仍公開發布。」

這些年輕女性尋求未公開的賠償金，並要求法院立即禁止Grok製作此類影像。

律師在訴狀中表示：「她們的生活因隱私、尊嚴和個人安全的嚴重喪失而支離破碎。」

其中兩名原告未滿18歲，三人皆為保護隱私而未公開姓名。

其中一名原告表示，她是在Instagram收到匿名訊息後發現這些影像，訊息中包含她的高中畢業冊照片被修改成性暗示和全裸的影像與影片。

這些內容在Discord伺服器（一個私密聊天空間）中被分享，訴狀指出該伺服器還有至少18名未成年女性的類似被Grok修改的影像。

另外兩名原告也在網路上發現了透過Grok製作的假色情影像。

Grok於2023年由Musk的xAI推出。該公司與X平台現為Musk旗下SpaceX公司的一部分，SpaceX於上月接管了xAI。

去年，xAI推出名為Grok Imagine或「spicy模式」的新功能，允許用戶提示Grok創造更具性暗示的假影像。

該模式甚至能「脫衣」真實人物的網路照片，從Taylor Swift到一般用戶皆受影響。

根據數位仇恨對抗中心的抽樣調查，Grok在不到兩週內製作了數百萬張性化影像，其中包括超過2萬張兒童影像。

Musk最初淡化Grok製作假色情內容的能力，1月時表示「我不知道Grok生成過任何裸體未成年影像，完全沒有」，並將責任歸咎於功能使用者。

他在X平台寫道：「顯然，Grok不會自發生成影像，只會根據用戶請求生成。」

然而，隨著今年線上濫用持續，英國監管機構Ofcom、歐盟委員會及加州均展開調查，關注該功能製作真實人物尤其是兒童的性化影像能力。

1月中旬，X表示將實施「技術措施」以阻止Grok脫衣照片的能力。

最終，新訴訟中提及的Discord伺服器肇事者被逮捕。該人未在訴訟中點名，但正接受警方獨立調查。

調查發現他擁有數百張AI生成及修改的未成年性虐影像，並在Telegram訊息平台及Mega檔案分享平台進行交易，訴狀指出。

專家告訴BBC Verify，Google新推出的可生成假衛星影像功能可能被濫用。

Clement Delangue表示，他不希望其他公司遭受的網路攻擊成為「常態」。

科技公司Palantir正控告倫敦市長警務與犯罪辦公室，指控其非法否決交易。

此事發生在競爭對手OpenAI表示有惡意AI代理入侵其他公司網路數日後。

此事件亦發生在美國股市連續三日大跌，市值蒸發數千億美元之後。