美國人工智慧(AI)公司Anthropic正在尋找一位化學武器及高爆炸藥專家,試圖防止其軟體被「災難性濫用」。

換句話說,該公司擔心其AI工具可能會教導他人如何製造化學或放射性武器,因此希望有專家確保其安全防護措施足夠嚴密。

在LinkedIn的招聘貼文中,該公司表示申請者應具備至少五年「化學武器及/或爆炸物防禦」經驗,並且熟悉「放射性散布裝置」(也稱為髒彈)。

該公司告訴BBC,這個職位類似於他們已經設立的其他敏感領域職務。

Anthropic並非唯一採取此策略的AI公司。

ChatGPT開發商OpenAI也曾發布類似職缺。在其職涯網站上,列出一個「生物及化學風險」研究員的職位,薪資最高可達45.5萬美元(約33.5萬英鎊),幾乎是Anthropic提供薪資的兩倍。

但部分專家對這種做法的風險感到擔憂,警告這可能讓AI工具接觸到武器相關資訊,即使它們被指示不使用這些資訊。

「使用AI系統處理敏感的化學及爆炸物資訊,包括髒彈和其他放射性武器,是否安全?」科技研究員、BBC節目《AI解碼》共同主持人史蒂芬妮·哈爾博士說。

「目前沒有國際條約或其他規範針對這類工作及AI在此類武器上的應用,所有這些都在暗中進行。」

AI產業持續警告其技術可能帶來的存在性威脅,但並未嘗試放緩技術進展。

隨著美國政府在伊朗發動戰爭及在委內瑞拉展開軍事行動,這個議題變得更加緊迫。

Anthropic正對美國國防部採取法律行動,因該部門將其列為供應鏈風險,原因是該公司堅持其系統不得用於完全自主武器或對美國人進行大規模監控。

Anthropic共同創辦人達里奧·阿莫代二月時表示,他認為技術尚未成熟,不應用於這些用途。

白宮表示,美軍不會受科技公司管轄。

這項風險標籤使該美國公司與中國電信巨頭華為處於同一境地,後者因不同的國家安全疑慮被列入黑名單。

OpenAI表示同意Anthropic的立場,但隨後與美國政府談判簽訂了自己的合約,該合約尚未啟動。

Anthropic的AI助理Claude尚未被淘汰,目前仍嵌入Palantir提供的系統中,並被美國用於美以對伊朗的戰爭中部署。

政府正面臨強大壓力,需應對多個武裝團體,這些團體中許多攻擊平民。

烏克蘭在週四因Mykhailo Fedorov被撤職爆發抗議,現在連士兵也批評此舉。

美軍嚴禁非醫療用途使用睪固酮。

赫格塞斯表示,他授權進行荷爾蒙篩檢,以確保美軍「發揮最佳戰力」。

攻擊目標包括彈道導彈基礎設施、核設施及海軍基地。