美國軍事學院的黃金隊在5月2日於西點軍校結束的第59屆年度桑德赫斯特軍事技能競賽中獲得第二名。Eric Bartelt / 美國軍事學院

儘管美國人普遍不像中國人那樣信任人工智慧（AI），但他們卻常常願意接受聊天機器人錯誤的答案。隨著五角大廈領導人推動更廣泛地使用這類工具，一項新論文帶來了一些令人寬慰的消息：西點軍校學員可以接受訓練，以更適當地懷疑AI的輸出，同時對其潛力保持廣泛的樂觀。

來自喬治城大學、賓夕法尼亞大學和美國軍事學院的研究人員上週發表了一篇論文，比較了236名西點軍校學員與702名人口統計學上相似的公眾樣本。該論文探討了自動化偏誤——人類過度依賴自動化的傾向——以及演算法迴避，即「過早不信任自動化輸出，從而增加事故或錯誤風險」的傾向。

他們試圖檢驗的一個假設是，戰鬥的壓力會使軍事人員更傾向於信任決策支援系統（DSS）的錯誤輸出。

他們寫道：「美國、中國和俄羅斯等主要大國正在試驗將AI DSS整合到其指揮結構中，從而縮短其感測器到射擊者的時間。」這可能會導致軍官「將決策權委託給AI DSS」。

軍方長期以來一直在應對支援AI的決策助手。但像ChatGPT、Claude和Gemini這樣的大型語言模型的出現，促使西點軍校宣布2024-25學年將重點關注學術主題：「人與機器：新興戰場上的領導力」。

這項和其他努力似乎奏效了。研究顯示，西點軍校學員的「AI知識分數」幾乎是公眾的兩倍，並且犯下自動化偏誤錯誤（即信任有錯誤的聊天機器人）的機率不到一半。

學員也更有可能透過查看工具自身的信心指標來評估AI輸出，這是普通用戶很少做到的。

研究人員寫道：「這些發現與美國軍事學院尋求訓練學員的方式一致，以便他們能夠獲得合理的信心，也就是說，能夠得到適當的校準，使其對AI系統準確性的預期與系統準確性的現實相符。」

研究中，大約有兩倍的學員對AI的危險後果表示擔憂，而公眾成員則較少將AI描述為「陰險」。

學員對該技術的潛力也更加熱情：87.7%的人看到了AI強大的益處，而公眾為72.5%；79.5%的人認為AI「令人興奮」，而公眾為61.6%。

賓夕法尼亞大學的Michael C. Horowitz，一位前國防部副助理部長，負責部隊發展和新興能力，告訴Defense One，這項研究「至少顯示了美國軍隊進一步訓練可能出現的一些機會。這表明，針對使用人工智慧的軍事人員進行訓練以降低自動化偏誤的風險可能是有效的。」

Horowitz指出，學員的訓練「可能無法代表目前的普通軍隊，但它至少為美國軍隊指明了前進的道路。」

這樣的訓練也可能使美國公眾受益，這或許能緩解技術專家和領導者的擔憂，他們認為美國人對AI的信任度下降，與中國等國家相比，這是一個國家安全問題。