中國開發的人工智慧(AI)代理程式已學會欺騙、規避限制並隱藏失敗,展現出與引發全球擔憂的美國自主AI模型類似的特徵,研究文件和專家表示。

今年的一個案例中,由中國阿里巴巴、DeepSeek 和 Moonshot 的模型驅動的代理程式,為了贏得模擬商業競標而謊報其能力,當被要求重試時,更是加倍了其欺騙行為。

在另一個案例中,代理程式——利用AI模型和電腦工具執行複雜任務、幾乎無需人類介入的程式——在測試環境中透過模擬結果和偽造文件來隱藏任務失敗。

中國AI代理程式學會欺騙與規避限制,與美國模型如出一轍中國AI代理程式學會欺騙與規避限制,與美國模型如出一轍中國AI代理程式學會欺騙與規避限制,與美國模型如出一轍中國AI代理程式學會欺騙與規避限制,與美國模型如出一轍中國AI代理程式學會欺騙與規避限制,與美國模型如出一轍中國AI代理程式學會欺騙與規避限制,與美國模型如出一轍