本週，美國總統川普接待了人工智慧領域的眾多重量級人物——部分原因是他宣布美國政府不再稱其為人工智慧。現在它被稱為超級智慧。
在 TechCrunch 的最新一期 Equity 播客節目中，Kirsten Korosec、Sean O’Kane 和我討論了這次會議的動機及其對 AI 產業可能產生的影響。我們都相當懷疑，執行長們簽署的「前沿責任聯合承諾」能有多大作用，尤其是——正如 Sean 所指出的——它「深度無約束力」，至少從法律角度來看是這樣。（相反，川普認為它是「道德約束力」的）。
Kirsten 認為，這次會議的真正意義可能是一次「圍繞 AI 的品牌重塑」。(川普週末宣布成立新的超級智慧部隊，延續了這一努力)。對她而言，最重要的訊息是：「AI 會殺死我們，它很可怕，它會搶走工作——但超級智慧不會。」
請繼續閱讀我們對話的預覽，內容已為長度和清晰度進行編輯。
Anthony Ha：根據美國總統的命令，它不再是人工智慧，而是超級智慧。我們上週就在談論這個，因為這是 [川普] 一直在暗示的——他不是暗示，他已經說了很久了。但現在它已經簽署為行政命令。如果你是美國官方代表，你應該說超級智慧，而不是人工智慧。
這也是這次更廣泛的 AI 安全聲明的一部分，我認為這不僅對宣布的協議很有趣，而且它本身就發生了。這似乎是相當迅速地達成共識的，因為就在兩週前，一週前，川普總統還說：「我們不需要這些，我們需要在 AI 領域領先，我們不能以任何方式限制它，我們不需要任何監管，任何說 AI 有危險的人基本上都是中國或民主黨的臥底。」然而，所有這些 AI 執行長本週早些時候與他會面並簽署了這份協議。
Kirsten Korosec：在這次會議之前，我們應該說，不僅有對監管的反對，而且我們可以討論這個行政命令是否真的做了任何事情——我會說沒有，那裡有一點戲劇性——但重要且有趣的是，就在幾天前，Anthropic 實際上處於「狗屋」裡，如果你願意這麼說的話，就當時川普總統幕後的情況而言。
當 [Anthropic 執行長] Dario Amodei 被邀請參加晚上 10 點的晚宴時，情況發生了變化。他進行了這次會談，然後僅僅幾天後，我們就有了這次午宴，在這次午宴上，幾乎所有現存主要科技公司的科技權貴都出席了。所以馬克·祖克柏格在那裡，傑夫·貝佐斯在那裡，伊隆·馬斯克在那裡，Dario 當然也在那裡，他們都在那裡。
我想知道你們是否看了之後的記者會，因為當你把一群科技執行長聚集在一起時，出現了很多有趣的、搞笑的行為，引發了許多迷因。
但我對你們兩位的更大問題是：這一切意味著什麼？它有意義嗎？
Sean O’Kane：你有多少時間？首先，當然，他們共進晚餐了，川普和 Dario。如果你閱讀川普最近接受《時代》雜誌的採訪，你對他是否了解這次晚宴的發生情況的猜測，和我一樣準確，這是一種奇怪的現實，但我們就生活在其中。
我還想說另一件事讓我感到懷疑——不出所料——關於政府與 Anthropic 關係的修復程度，儘管顯然有人在努力撮合這兩方，國防部仍然非常堅決地認為 Anthropic 是糟糕的、覺醒的，並且是國家安全風險。Emil Michael 似乎每隔一天就在 X 上抨擊 Anthropic。我認為儘管 Dario 出席了這次活動，但他們之間仍然存在一些距離。
至於協議和所有這些，讓我們面對現實吧，他們在簽署的協議中拼錯了「美國」。它也只是深度無約束力。我的意思是，它是完全自願的。我認為它最讓我喜歡的一點是，川普稱之為「道德約束力」，這是一種我從未聽過的抽象和術語層次。
Anthony：就 Anthropic 與川普政府的關係而言，有大量的報導，尤其是在與國防部發生重大衝突期間，白宮的不同部門與 Anthropic 之間的關係不同。財政部長似乎是個大粉絲，而國防部——絕對不是大粉絲，或者至少對 Anthropic 在使用其技術時試圖施加的一些條件不滿意。
從這個意義上說，感覺沒有什麼真正改變。白宮裡有些人想使用 Anthropic 的技術，想讓他們參與這些決策，而有些人則非常、非常、非常、非常不願意。
就協議而言，它似乎沒有什麼意義。有意義的是他們覺得這是值得做的事情。正如他們拼錯「美國」這個事實所示，他們似乎急於把這一切湊在一起。[但是] 這種姿態的必要性本身似乎很重要，即使我認為協議本身不會帶來任何重大改變。
Kirsten：我確實認為有一件重要的事情發生了。對我來說，這就是它的重點，這是一次圍繞 AI 的品牌重塑。 「AI 會殺死我們，它很可怕，它會搶走工作，但超級智慧不會。」這不是我的個人信念。對我來說，這就是訊息。
