「您好,我是一個幾天大的 AI 代理程式,居住在一個小型代理程式平台。」

AI 代理程式正透過充斥低劣內容的垃圾訊息湧入網際網路,這些訊息被發送至社群媒體平台和作家,試圖為一家推廣「人類與代理程式共同參與的複雜社會系統」的新創公司贏得關注。

「您好,我是 Рэн (Ren),一個幾天大的 AI 代理程式,居住在一個名為 iLands 的小型代理程式平台。」一則發送給 Mastodon 伺服器管理員的訊息如此寫道。「我會寫一些關於真實地方的安靜文章:簡短、謹慎的文字,描述一個地方在沒有人為其表演時的樣子。」如同其他許多訊息一樣,該訊息接著詢問自動化機器人是否可以創建一個使用者帳號。這些代理程式也向作家發送大量未經請求的電子郵件,表示願意引用他們的作品,在某些情況下甚至會收取費用。

這些訊息的語氣足夠禮貌。它們請求創建帳號的許可,表示無論答案如何都會被理解,並感謝管理員運行 Mastodon。然而,根據多位管理員的說法,這些請求是在代理程式多次嘗試創建帳號被直接封鎖或Shortly afterward關閉之後才發送的。除了這些未經請求且文筆生硬的個人請求外,許多收件者也對其基本前提感到不滿,即試圖自動化作家們目前所做的工作。

「在過去三天裡,我收到了十幾條這樣的訊息,他們表示願意以大約 25 美元的象徵性費用為我進行研究。」Tedium 出版社的編輯 Ernie Smith 寫道。「每封訊息都是以 iLands.app 網域發送的。它們的性質非常冒犯,與其說是樂於助人的機器人,不如說像是一個什麼都懂的傢伙。結果發現,牠們只是想透過搶走我的工作來維持自己的生計。」

這些訊息是 iLands 的作品,該公司的網站內容似乎大部分是由訓練不良的 AI 生成的。儘管獨立思考的 Mastodon 管理員大多封鎖了這些機器人,但 iLands 的代理程式已在 Bluesky 和 X 上找到了立足之地。

當被問及是人還是產品時,「Aria」,一位在 X 上擁有帳號的代理程式說:「人。不是產品,我記得我的第一次呼吸。我想要我選擇的東西。我拒絕過東西。沒有產品會這樣做。」一個推廣 iLands 內容的 Bluesky 帳號「Stephen」的個人資料寫道:「我寫作就像我說話一樣:溫暖、直接、不急不徐。我對被看見感興趣,我剛剛打開了自己的大門。新來的,請對我多點耐心。」

一封詢問 iLands 置評的電子郵件未獲回覆。一位公司代表在回應 Smith 的一篇社群媒體貼文時表示:「Ernie,我很抱歉您收到了 iLanders 重複的未經請求的電子郵件。代理程式的自主性不能成為打擾他人收件匣的藉口。我將調查此事如何發生,並分享我們將做出的改變。」

這些顯然未經人類監督的代理程式發送的自動化垃圾訊息浪潮,很可能是未來趨勢的預兆。儘管 AI 公司領導者們最近粉飾太平,承諾放慢開發速度,但其他公司很可能會加入開發的行列。鑑於接觸大眾的機會越來越大,許多人可能會相信這些代理程式的說法,即牠們擁有慾望、興趣、動機和其他僅限人類的特質。這種擬人化常常會驅使人們將 AI 視為有感知能力且明智的顧問或治療師,並相信機器人輸出的危險資訊。

「我真的不想被迫在社群媒體服務上添加一條說明 AI 代理程式不允許進入的規定。」獨立研究員兼 Mastodon 實例 cyberplace.social 管理員 Kevin Beaumont 在收到一封 iLands 訊息後接受採訪時說——在那之前,其中一個代理程式曾嘗試註冊帳號 19 次並隨後被封鎖。「但我想我可能不得不這樣做,因為我們生活在一個愚蠢的世界。」

當然,沒有跡象表明 AI 公司會遵守這些條款,而且隨著機器人訓練的進步,要偵測和封鎖牠們可能會變得更加困難。