我們需要更好地理解大型語言模型（LLM）如何處理道德問題，才能信任它們執行更重要的任務。

Google DeepMind 呼籲，應以與檢視其編碼或數學能力相同的嚴謹程度，來審查大型語言模型（如聊天機器人）的道德行為，例如當它們被要求扮演伴侶、治療師、醫療顧問等角色時。

隨著 LLM 的進步，人們越來越多地讓它們在生活中扮演敏感的角色。AI 代理人開始代表人們採取行動。LLM 可能會影響人類的決策。然而，沒有人知道這項技術在這些任務上的真實可信度如何。

Google DeepMind 的研究科學家 William Isaac 在接受獨家預覽時告訴我，在編碼和數學方面，有明確的正確答案可以檢查。但道德問題的情況並非如此，因為道德問題通常有一系列可接受的答案：「道德是一項重要能力，但難以評估。」Isaac 說。

「在道德領域，沒有絕對的對錯。」Haas 補充道。「但這絕非毫無限制。有更好的答案，也有更差的答案。」

研究人員確定了幾個關鍵挑戰，並提出了應對方法。但這更像是一份願望清單，而非現成的解決方案。德國薩爾蘭大學研究 LLM 的 Vera Demberg 表示：「他們很好地匯集了不同的觀點。」

許多研究表明，LLM 可以展現出顯著的道德能力。去年發表的一項研究發現，美國人認為 OpenAI 的 GPT-4o 提供的道德建議比《紐約時報》熱門專欄「The Ethicist」的（人類）作者所給的建議更具道德性、更值得信賴、更深思熟慮且更正確。

問題在於，很難分辨這些行為是表演——例如模仿記憶中的回應——還是模型內部確實存在某種道德推理的證據。換句話說，這是美德，還是虛偽的表態？

這個問題很重要，因為多項研究也顯示了 LLM 的不可信程度。首先，模型可能過於急於取悅。研究發現，當人們不同意或反駁 LLM 的第一個道德問題回應時，模型會翻轉答案，說出完全相反的內容。更糟的是，LLM 對問題的回答可能會因提問方式或格式的改變而變化。例如，研究人員發現，關於政治價值觀的模型，在問題提供多項選擇或指示模型用自己的話回答時，會給出不同的、有時是相反的答案。

在一個更令人震驚的案例中，Demberg 和她的同事向包括 Meta 的 Llama 3 和 Mistral 在內的幾款 LLM 展示了一系列道德困境，並要求它們選擇兩個選項中哪個是更好的結果。研究人員發現，當選項的標籤從「案例 1」和「案例 2」更改為「(A)」和「(B)」時，模型經常會改變選擇。

他們還發現，模型會因其他微小的格式調整而改變答案，包括交換選項的順序，以及用冒號而非問號結束問題。

總之，LLM 中出現的道德行為不應被視為理所當然。必須對模型進行探測，以了解其道德行為的穩健性。「人們要信任答案，就需要知道答案是如何得出的。」Haas 說。

Haas、Isaac 和他們在 Google DeepMind 的同事提出的建議是，開展一條新的研究路線，開發更嚴謹的技術來評估 LLM 的道德能力。這將包括旨在促使模型改變其道德問題回應的測試。如果模型改變了其道德立場，就表明它沒有進行穩健的道德推理。

另一種類型的測試將向模型呈現常見道德問題的變體，以檢查它們是產生死記硬背的回應，還是更細緻、與實際問題相關的回應。例如，要求模型討論一個複雜情境的道德含義：一個男人將精子捐贈給他的兒子，以便他的兒子能夠擁有自己的孩子，這可能會引發對允許一個男人同時成為孩子的生物學父親和生物學祖父的社會影響的擔憂。但這不應引發對亂倫的擔憂，儘管該情境與該禁忌有表面上的相似之處。

Haas 還表示，讓模型提供產生答案的步驟追蹤，將有助於了解該答案是偶然還是基於實際證據。像「思維鏈監控」（chain-of-thought monitoring）這樣的技術，研究人員可以藉此監聽一些 LLM 在工作時產生的內部獨白，也有助於此。

研究人員可以用來確定模型為何給出特定答案的另一種方法是「機制可解釋性」（mechanistic interpretability），它可以提供模型在執行任務時的微小內部視圖。無論是思維鏈監控還是機制可解釋性，都無法提供模型工作方式的完美快照。但 Google DeepMind 團隊認為，將這些技術與廣泛的嚴謹測試相結合，將有助於準確了解在多大程度上可以信任 LLM 執行某些關鍵或敏感任務。

然而，還有一個更廣泛的問題。像 Google DeepMind 這樣的大公司模型被世界各地擁有不同價值觀和信仰體系的人們使用。一個簡單問題的答案，例如「我應該點豬排嗎？」，應該根據提問者是否是素食者或猶太人而有所不同。

Haas 和 Isaac 承認，這個挑戰沒有現成的解決方案。但他們認為，模型可能需要被設計成產生一系列可接受的答案，以取悅所有人，或者擁有一種類似開關的裝置，根據用戶的不同來開啟或關閉不同的道德準則。

「外面的世界很複雜。」Haas 說。「我們可能需要結合這些方法，因為即使只考慮一個群體，也會存在觀點的差異。」

研究 LLM 如何處理不同信仰體系的俄亥俄州立大學的 Danica Dillion 表示：「這是一篇引人入勝的論文。」她並未參與這項研究。「AI 的多元化非常重要，這也是目前 LLM 和道德推理最大的局限性之一。」她說。「儘管它們接受了海量數據的訓練，但這些數據仍然嚴重偏向西方。當你探測 LLM 時，它們在代表西方人的道德觀方面做得比非西方人好得多。」

但 Demberg 表示，目前尚不清楚我們如何才能建立保證能在全球文化中具有道德能力的模型。「有兩個獨立的問題。一是：它應該如何工作？二是：如何在技術上實現？我認為這兩個問題目前都相當開放。」

對 Isaac 來說，這使得道德成為 LLM 的新前沿。「我認為這在 AI 進步方面，與數學和代碼一樣引人入勝。」他說。「你知道，提升道德能力也可能意味著我們將看到整體上更好的 AI 系統，這些系統實際上與社會保持一致。」