今年夏天，人工智慧（AI）的炒作十分熱絡。四月底，Anthropic 公司聲稱其模型 Claude Mythos 在尋找軟體漏洞方面比大多數安全專家更厲害。接著發生了 OpenAI–Hugging Face 的駭客事件，事後 Anthropic（自豪地）和 Meta（不情願地）也披露了涉及其模型的類似事件。
隨後，Anthropic 聲稱其模型之一取得了數學上的突破；不久後，OpenAI 也宣稱取得了自身的數學突破。最近，Anthropic 工程師 Jacob Coxon 在離職時發布的聲明在網路上廣為流傳，聲稱該公司和 OpenAI 正在「直奔自我改進的超級智慧，並拿我們的生命在賭博」。
媒體對這些事件大多進行了不加思索的報導，經常重複這些公司擬人化的說法——這些說法旨在將其軟體描繪成不僅強大，而且是初具雛形的「通用人工智能」。那麼，究竟發生了什麼事？我們是正在見證一連串大規模、改變文明的技術突破，還是這只是行銷手段？
在所有這些事件中，這些公司大張旗鼓的宣傳（在非法駭客事件中被呈現為懺悔）伴隨著媒體的密集報導。一旦相關領域的專家有時間審視事件經過，就會出現截然不同的故事，但這些故事得到的媒體關注較少。
關於「駭客」事件，網路安全專家表示，這更多是關於 OpenAI 的疏忽和未能採用基本、既定的安全實踐，而不是關於「模型失控」或「AI 代理創造文明」。
至於數學成果，起初對 OpenAI 發布的聲明感到「震驚」的數學家們表示，其最新聊天機器人 Astra 解決了「至少十年來懸而未決且主要結果沒有進展」的問題——但他們後來意識到，這些結果並不像最初看起來那樣「新穎」。此後，數學家們指控該公司存在研究不當行為和抄襲，並重申 Astra 並未做出「深刻的智力飛躍」。僅僅幾週後，OpenAI 就聲稱取得了自身的數學突破。兩天前，紐約大學柯朗數學研究所的數學教授 Tristan Buckmaster 發布了一份重磅聲明，暗示 OpenAI 竊取了他人的研究成果並不當歸因。
聲稱初具雛形、危險的超級智慧並非基於良好的科學或工程實踐。相反，這些說法是基於超人類主義、優生學以及對想像中未來數位人類的幻想。
值得思考的是，為何如此多的關注集中在電腦程式設計和數學這兩個領域，作為應用大型語言模型和相關技術的場域。它們不僅經常被提升到人類智力成就的頂峰，而且涉及的問題一旦得到解答，就可以被驗證。前者有助於 AI 炒作者兜售他們正在建造萬物機器的想法。後者使得數學和編碼問題更容易調整系統，因為系統輸出（可能出現的詞語序列或電腦程式碼）可以在無需支付數據工作者逐一審查和標註的情況下進行評估。
數學家們尤其警告企業不要這樣利用他們的領域。一份由數百名數學家簽署的聲明指出，「科技產業目前存在強烈的商業動機來誇大其產品的能力」，並呼籲政策制定者「在制定政策決策時諮詢包括數學家在內的專家，而不是依賴新聞稿或對數學結果的流行報導」。
我們贊同這一呼籲，並指出科技公司散播的速度和緊迫感的錯覺也是一種策略，旨在誤導政策制定者和公眾。不幸的是，這種策略有時會奏效，例如參議員伯尼·桑德斯（Bernie Sanders）提出的旨在阻止「人工超級智慧」發展的法案，雖然出發點是好的，但最終卻是誤導性的。
將它們描述為「超級智慧」或「失控的模型」是將代理權歸於產品，而不是歸於製造它們的公司。這種說法將這些公司的產品市場化為「超人類」，同時也幫助這些公司逃避對其行為的責任。
與其讓 OpenAI 因創建駭客攻擊另一家公司的惡意軟體而受到起訴，不如新聞稿、新聞媒體、媒體名人和立法者將其稱為「失控的模型」，彷彿它們是自行行動的。與其質疑研究人員關於其公司抄襲學術界工作或未經同意使用客戶數據訓練模型的習慣，不如將公眾的想像力轉移到對未來虛構的超級智慧機器出現時可能發生的恐懼上。
AI 產業甚至暗示，流行的、兩黨都支持的反數據中心運動是試圖監管這些公司正在建造的、令人恐懼的「超人類」機器的「分心之舉」。根據 AI 產業的說法，我們應該更擔心虛構的機器神，而不是這些數據中心加劇的氣候災難、靠近它們的居民所遭受的哮喘、公眾補貼它們所導致的電費上漲，或是用於冷卻它們而被轉移的水資源。
我們深知，不應基於行銷來做決策，也不應屈服於企業壓力而倉促做出決策。明智的決策，無論是政策制定者還是社群，都需要時間來聽取獨立專家的意見，並將企業的說法置於背景中考量。今年夏天這場炒作可能帶來的最好結果是，政策制定者和廣大公眾學會深呼吸，保持我們的懷疑態度，並在下次遇到類似的炒作時，能夠認清它的本質。
