著名電腦科學家彼得·J·丹寧（Peter J. Denning）認為，艾倫·圖靈（Alan Turing）關於人工智慧的著名想法，可能在過去75年裡誤導了AI研究的方向。
在其新書《圖靈的錯誤：逃離非智慧機器的枷鎖》（Turing's Mistake: Escaping the Yoke of Unintelligent Machines）中，丹寧主張圖靈在1950年提出的兩項基礎假設至今仍在影響著AI研究。第一項是智慧可以獨立於實體存在，因此可以在電腦軟體中重現。第二項是機器可以透過成功模仿人類的對話來展現智慧，這個想法後來被稱為圖靈測試。
「這兩項主張塑造了大部分的AI研究與發展，」丹寧寫道。「我的前提是，我們對這些主張的默認接受，導致了我們今天所處的AI困境。」
丹寧認為，追求通用人工智能（AGI），即具備人類水準智慧的機器，不太可能成功。相反，他警告說，社會正在建造的技術可能會帶來重大的新風險。
丹寧論點的核心是「隱性知識」（tacit knowledge）的概念，這是人類理解中龐大的一部分，難以輕易用言語表達，或以電腦可處理的形式呈現。
他說，機器學習無法捕捉隱性知識的五個主要類別：常識、與人及環境的日常互動、情感與感知、實用的技能表現，以及內嵌於文化中的社會與歷史知識。
研究人員長期以來一直試圖將常識組織成資料庫。其中一項最著名的努力是道格拉斯·萊納特（Douglas Lenat）的Cyc專案，該專案始於1980年代，目標是創建一個廣泛的常識事實集合。經過四十年努力，該專案包含了約2500萬個條目。
「然而，即使是這個寶庫也無法累積足夠的常識背景，使專家系統變得足夠聰明以成為專家，」丹寧指出。「Cyc證實了，構成人類專業知識的知識，大部分無法表述為命題。」
丹寧認為實用技能帶來了更大的挑戰。
「我們在數千個領域的表現技能無法傳達給機器，」他解釋說。「雖然熟練結果的描述（『知道是什麼』）通常可以表示為位元並儲存在機器中，但我們不知道如何編碼熟練表現的具體知識（『知道如何』）。」
他以有成就的音樂家為例。
「一位技藝精湛的小提琴家可以演奏出美妙的音樂，卻無法向學徒描述如何演奏出來。
「即使機器人可以觀察並模仿熟練的人類，但由於沒有生物身體，機器人無法理解音樂家演奏美妙音樂時的感受，也無法理解聽眾聽到時的感受。」
丹寧還將直覺、預感、想像力和自發的創造力，都列為機器難以企及的隱性知識形式。
人類知識為何難以編碼
丹寧認為，所有這些限制都源於他所謂的「表徵問題」（representation problem）。
電腦只能使用已編碼成其可識別和處理的物理形式的數據和指令來執行計算。然而，隱性知識本身並不自然地符合這個框架。
「每個詞語背後都有一個深厚的隱性知識之井，賦予其意義，」丹寧說。「詞語只是意義的符號表徵，而非意義本身。像ChatGPT、Claude和Gemini這樣常用的大型語言模型（LLMs）只處理詞語，它們無法知道或理解自己所說的內容的意義。」
根據丹寧的說法，這造成了根本性的鴻溝。由於科學家仍然無法完全解釋隱性知識在人類身上是如何運作的，他們也無法將其轉化為機器可以使用的形式。
「我們如何承載隱性知識，很大程度上是個謎，」丹寧承認。「我們所知道的是它是具體的。我們不知道我們可以在身體中觀察和測量什麼來揭示它。」
情境與文化塑造智慧
丹寧還認為，智慧在很大程度上取決於情境，即賦予詞語、行動和決策意義的周遭環境。
情境使人們能夠識別諷刺、幽默、真誠和情感。它有助於判斷何時該圓滑、何時該開玩笑，以及如何解讀無數的社交線索。
「當你探究當前情境的假設來自何處時，你會發現它建立在先前情境中的先前對話之上。而每一個又建立在更早的對話及其情境之上。這種模式是無窮無盡且分形的，」丹寧解釋道。
文化是AI面臨的另一個重大障礙。
丹寧將文化描述為包含價值觀、規範、判斷、歷史、社群、情緒，甚至涉及權力和關懷的關係。
「人類的對話充滿了背景假設，這些假設賦予所使用的詞語意義和相關性，」丹寧解釋道。
「透過不斷擴大的神經網路來擴展LLMs，並不會讓它們獲得我們稱為文化的具體人類知識。LLMs將無法達到圖靈測試的目標：展現與人類思維無法區分的機器思維。」
AI安全與人類理解的極限
丹寧總結說，人類和AI系統最終可能會發展出彼此無法完全理解的不同形式的隱性知識。
「機器無法讀取我們的隱性知識，我們也無法讀取它們的，」他寫道。「我們是跨越一道無法逾越鴻溝的外星人。」
他認為，這種差距引發了對AI安全嚴重的擔憂。如果機器無法解釋人類意圖背後的潛在語境，那麼將先進AI系統可靠地與人類目標對齊，可能會變得不可能。
「透過AI自動化，代理機器網路很可能會發展出自己的機器智慧，這種智慧雖然未達到人類通用智慧的水平，但仍有能力為人類製造嚴重問題。這種威脅比被超級智慧機器接管更大，」他解釋道。
「機器智慧與我們有不同的關切，似乎不在乎我們。它的思維和解決問題的方式對我們來說是陌生的。我們還不知道如何與這些機器安全共存。
「從AI自動化奇點中抽身，將需要我們付出巨大的努力。我們首先要接受，隨著智慧機器出現在我們的社會中，熟悉的文化正在消逝，而我們不知道即將到來的是什麼。我們拒絕像機器一樣思考，或屈從於機器。我們拒絕屈服於低智慧機器施加的枷鎖。最重要的是，我們重新確立我們的人性，再次宣告使我們與機器不同的地方，並慶祝這些差異。」
