今天在 Decoder 節目中,我想闡述一個在我們報導 AI 和在此節目中進行對話的數週以來,一直在腦海中縈繞的想法。我稱之為「軟體思維」,這是一種將一切事物都納入演算法、資料庫和迴圈——也就是軟體——的特定看待世界的方式。

軟體思維是強大的。它是一種基本上創造了我們現代世界的思考方式。馬克·安德森,軟體思維的具體體現,在 2011 年撰寫《華爾街日報》的評論文章「為何軟體正在吞噬世界」時就已提出。但軟體思維已被 AI 加速,我認為這有助於解釋科技產業對這項技術的興奮程度,以及普通民眾隨著時間推移越來越討厭它的巨大差距。

事實上,民意調查的結果如此強烈,我認為可以公平地說,許多人憎恨 AI,尤其是 Z 世代,似乎隨著他們接觸 AI 而越來越討厭它。NBC 新聞的民調顯示,AI 的好感度比 ICE(美國移民及海關執法局)還差,僅比伊朗戰爭和民主黨整體略高。這是在上個月有近三分之二的受訪者表示使用過 ChatGPT 或 Copilot 的情況下。

皮尤研究中心最近發現,超過一半的美國人認為 AI 會弊大於利,而超過 80% 的人對這項技術非常擔憂或有些擔憂。只有 35% 的人對此感到興奮。

一項又一項的民調顯示,Z 世代使用 AI 最多,但對其負面感受也最深。蓋洛普最近的一項民調發現,只有 18% 的 Z 世代對 AI 感到樂觀,低於去年的 27%。同時,憤怒情緒正在增長:31% 的 Z 世代受訪者表示對 AI 感到憤怒,高於去年的 22%。

當然,我在 Decoder 節目中與許多科技高管和政策制定者交談,我可以告訴你,他們都知道 AI 並不受歡迎,而且他們都能看到這在現實生活中是如何發生的。以下是微軟 CEO 薩提亞·納德拉談論科技產業如何為其在 AI 領域的投資爭取社會認可:

薩提亞·納德拉:歸根結底,我認為這個行業,我所屬的這個行業,需要贏得消耗能源的社會許可,因為我們正在為世界做貢獻。

我認為可以肯定地說,科技產業和 AI 尚未贏得任何社會許可。兩黨的政界人士都在反對數據中心的建設。支持數據中心建設的當地社區的政界人士正在被選下台。最令人沮喪的是,政治暴力已成為美國日常生活的一部分,支持數據中心的政界人士的房屋遭到槍擊。OpenAI 的 CEO 山姆·奧特曼的房屋遭到汽油彈襲擊。

我認為,讓我們的政治進程讓民眾感到賦權,而不是無助,這對我們的政界人士和科技高管來說極其重要。

我很遺憾必須再次在節目中說這句話,也很遺憾會有不同意見的評論者,但這種暴力是不可接受的。如果你想以持久的方式有意義地反對 AI,你應該在市場上用你的金錢,在網路上用你的注意力,以及用你的選票大聲表達。你應該參與民主監管和政治進程。任何其他做法都會被忽視並延續這個循環。這種忽視已經發生。

我認為,讓我們的政治進程讓民眾感到賦權,而不是無助,這對我們的政界人士和科技高管來說極其重要,這是一種他們都極大助長的特定虛無主義。暴力是這種無助和虛無主義的結果,而我們社會中最有權勢的人應該對此進行反思,尤其是在他們到處宣揚 AI 將會消滅所有工作的時候。我甚至沒有誇大其詞——以下是 Anthropic 的 CEO 達里奧·阿莫代伊表示他認為 AI 將會消滅所有工作:

達里奧·阿莫代伊:金融、諮詢、科技等領域的入門級工作,以及許多其他類似領域——入門級的白領工作——我擔心這些工作將首先被 AI 系統增強,但很快就會被取代。我們確實可能——預測未來很難——但我們確實可能面臨嚴重的就業危機,因為早期白領工作的管道開始收縮和枯竭。

當我看到這樣的片段時,我看到的是科技產業和普通民眾在 AI 問題上的真正差距——軟體思維的侷限。正如我所說,科技界的每個人都明白普通民眾有多討厭 AI。我認為他們錯過的是原因。他們認為這是一個行銷問題。OpenAI 剛剛在 TBPN 播客上花費了 2 億美元,因為該公司認為這將有助於人們更喜歡 AI。山姆·奧特曼曾明確表示:

山姆·奧特曼:哦,他們是天才的行銷人員,我很希望有更好的行銷。最近有人對我說,如果 AI 是一個政治候選人,它將是歷史上最不受歡迎的政治候選人。鑑於 AI 所能做的驚人事情,我認為 AI 必須有更好的行銷。

感覺就像有人需要清楚地說出來,所以我來做。AI 沒有行銷問題。人們每天都在體驗這些工具!ChatGPT 每週有 9 億用戶,趨勢是達到 10 億,而且每個人都看到了 Google 搜尋中的 AI 概覽和他們資訊流中的大量垃圾內容。

你無法透過廣告讓人們擺脫對自身體驗的反應。這是擁有軟體思維的科技人士看待世界的方式,以及普通民眾的生活方式之間的基本脫節。

那麼,什麼是軟體思維?我想到最簡單的定義是,當你將整個世界視為一系列可以用軟體程式碼的結構化語言控制的資料庫時。正如我所說,這是一種強大的看待事物的方式。我們生活中的許多事物都透過資料庫運行,許多重要的公司都是圍繞維護這些資料庫和提供訪問權而建立的。

Zillow 是房屋資料庫。Uber 是汽車和乘客資料庫。YouTube 是影片資料庫。The Verge 的網站是故事資料庫。你可以一直舉例下去。一旦你開始將世界視為一堆資料庫,那麼只要你能控制數據,你就會覺得你可以控制一切,這只是一小步。

但這並不總是奏效。這裡有一個例子:伊隆·馬斯克和 DOGE 出現在政府中,他們做的第一件事就是控制了一堆資料庫。他們遇到了不可否認的事實,即資料庫不是現實,而 DOGE 以滑稽的失敗告終。結果發現軟體思維是有限的——政府不是軟體。人不是電腦,他們也不生活在可以整齊地捕捉在資料庫中的自動化迴圈中。

任何真正運行過資料庫的人都知道這一點。在某個時候,資料庫停止與現實匹配。這時,我們通常會調整資料庫,而不是世界。但 AI 產業已經完全失去了這一點,因為 AI 依賴數據。畢竟,它只是軟體。因此,要求越來越多的人將他們的生活與資料庫相符,而不是反過來。

讓我提供另一個我經常思考的例子,特別是當 AI 作為商業工具找到真正契合點時。這就是 AI 即將取代律師和法律體系的觀點。AI 產業喜歡談論不再需要律師,這已經讓各種各樣的人陷入各種麻煩。但我明白。我花了很多時間與律師打交道。我曾經是一名律師。我的妻子仍然是一名律師。我的一些最好的朋友是律師。

我也花了很多時間與科技人士交談。因此,隨著時間的推移,我了解到軟體思維和律師思維之間的重疊非常、非常深。誘人的深。如果軟體思維的核心是認為用程式碼的結構化語言思考可以讓現實世界發生事情,那麼律師思維的核心是認為用結構化的法律語言,如法規和引文,也可以讓事情發生。媽的,這可以讓你獲得社會權力。

還有其他共同點。軟體開發和法律都嚴重依賴先例。我們國家有一套判例法,我們一遍又一遍地使用它來幫助我們解決爭端,就像軟體工程師有程式碼庫,他們反覆引用這些程式碼庫來構建產品的基礎一樣。相似之處很深:歸根結底,律師和工程師都盡力使用正式的、結構化的語言來引導複雜系統的行為,以可預測且可能有利可圖的方式。

(順帶一提,我絕不是第一個有這個想法的人。賴瑞·萊斯格在 2000 年寫了一本名為《程式碼和其他網路法律》的書。它在今天和四分之一世紀前一樣相關。)

法律和程式碼之間這種令人陶醉的相似性總是讓人們感到困惑。人們不斷試圖向整個社會發出命令,就像它是一個會聽從指示的電腦一樣。有大大小小的例子——我最喜歡的是那些堅持馬克·祖克柏無權發布人們照片的 Facebook 轉發。老實說,我看著這些,我認為如果法律真的像程式碼一樣就好了。也許事情會更可預測。也許我們會感覺更有掌控力。

但法律實際上不是程式碼,社會和法院也不是電腦。我必須不斷提醒 Decoder 和 The Verge 上相當技術性的聽眾,法律不是決定性的。你無法僅憑案件的事實和寫下的法律來準確預測案件的結果,儘管法律體系的正式性讓人們認為它像電腦一樣工作——它是可預測的。

法律實際上不是程式碼,社會和法院也不是電腦。

但歸根結底,模糊性實際上是我們法律體系的核心。正是模糊性造就了律師。老實說,正是模糊性讓律師令人討厭,因為總是有可能爭辯另一方,總是有可能在法律中找到灰色地帶。這就是為什麼檢察官最終會成為辯護律師,以及為什麼我們的監管機構往往會為大公司工作。

你可以在這裡看到軟體思維和律師思維的明顯碰撞。這個看起來像電腦的東西實際上根本不像電腦。許多人甚至認為法律應該更像電腦,系統應該是可驗證且一致的,並且僅在正確的時間發出正確的命令就應該導致客觀正確的結果。

布麗吉特·麥考馬克,前密西根州最高法院首席大法官,幾個月前在 Decoder 節目中推銷了一個全自動化的 AI 仲裁系統。她對我說,人們認為傳統法律體系如此不公平,以至於他們會接受自動化系統提供的較差結果,只要他們感覺被聽到,就會認為它更公平。如果說 AI 能做一件事,那就是整天整夜地傾聽。

我不知道這些是否正確或可行,但我確實知道軟體思維,這就是純粹的軟體思維:認為我們可以強迫現實世界像電腦一樣行事,然後讓 AI 發出電腦指令的想法。

你可以在其他各種行業看到同樣的情況。你不會聘請一家大型諮詢公司來實際研究你的業務並提高效率。你聘請他們來製作簡報,向你的董事會和股東證明裁員的合理性。大型諮詢公司在這方面很出色,現在他們將使用 AI 來生成這些簡報。他們已經在這樣做了,裁員也已經開始了。

任何看起來像程式碼與資料庫以重複方式互動的業務流程都可能被取代。這就是為什麼 Anthropic 如此專注於企業客戶,這也是為什麼 OpenAI 現在正在轉向商業用途。將 AI 引入企業具有真正的價值,因為現代企業的很大一部分已經是軟體:收集數據、分析數據,然後一遍又一遍地採取行動。企業還控制著他們的數據,並且可以要求他們所有的數據庫協同工作。

通過這種方式,軟體思維已經統治了商業世界很長時間。AI 只是讓更多人比以往任何時候都更容易地創建更多軟體——讓各種企業透過軟體自動化其大部分業務。它無處不在:廣告和行銷的絕對前沿是 AI 自動化。這不是創意。

但是:並非所有事物都是企業。並非所有事物都是迴圈!整個人類經驗無法被捕捉在資料庫中。這就是軟體思維的侷限。這就是為什麼人們討厭 AI。它讓他們變得扁平。

整個人類經驗無法被捕捉在資料庫中。這就是軟體思維的侷限。這就是為什麼人們討厭 AI。它讓他們變得扁平。

普通民眾根本不認為編寫程式碼的機會是一種機會。人們並不渴望自動化。我是一個完全的智慧家居狂熱者;我的家的燈光、窗簾和氣候控制以數十種方式自動化。但像蘋果、谷歌和亞馬遜這樣的大公司十多年來一直在努力讓普通民眾對智慧家居自動化產生興趣。他們就是做不到。

AI 也不會解決這個問題。大多數人不會收集他們所做的一切事情的數據。即使他們收集了任何數據,這些數據也存儲在許多不同的系統中——你的電子郵件在 Gmail 中,你的訊息在 iMessage 中,你的工作日程在 Outlook 中,你的鍛煉在 Peloton 中。這些系統不互相通信,也許永遠不會,因為它們沒有理由互相通信。要求人們將它們全部連接起來會讓他們感到不安。

即使花時間考慮你生活中有多少部分被記錄在資料庫中,也會讓人生氣。沒有人想被不斷監視,尤其是以一種讓科技公司變得更強大的方式。但將所有內容都放入資料庫以便軟體可以看到,這是 AI 產業的關注點。這就是為什麼所有的會議系統現在都有 AI 筆記員。這就是為什麼設計軟體 Canva 現在連接到公司電子郵件系統。我的朋友埃茲拉·克萊因剛剛去了矽谷,他描述了那些積極試圖將自己「扁平化」成資料庫的人:

埃茲拉·克萊因:你可能會認為矽谷的 AI 人士,手握重金,現在正處於世界之巔。我發現他們明顯不安全。他們認為 AI 時代已經來臨,其贏家和輸家將部分取決於採用的速度。論點很簡單:在 AI 助手和程式設計師大軍的基礎上工作的優勢將隨著時間的推移而累積,現在開始這個過程就是讓你遠遠領先於你的競爭對手。因此,他們正在競相將 AI 完全整合到他們的生活和公司中。但這不僅僅是使用 AI。這意味著讓自己對 AI 變得「可讀」。

你可以讓它訪問所有可用的內容:你的文件、你的電子郵件、你的日曆、你的訊息。它在後台持續運行,建立你偏好和模式的持久記憶,以便更好地代表你採取行動。網路安全風險顯而易見,但有數百萬人使用的原因:你向 AI 打開的生活越多,AI 就越有價值。

在過去的十幾年中,我評測了大量的科技產品,我能告訴你的是,當你要求人們適應電腦時,這是一種失敗。電腦應該適應人。要求人們讓自己對軟體更「可讀」——將自己變成一個資料庫——是一個註定失敗的想法。

這是一個如此大的要求,我無法想像有任何回報能讓它對任何人來說是值得的,即使科技產業沒有不斷談論 AI 將如何消除所有工作,需要對社會契約進行全面重新思考,以及——糟糕——最新的模型可能會導致災難性的網路安全問題,可能導致世界末日。

這聽起來對你來說是個好交易嗎?你能透過行銷來擺脫這個困境嗎?這只有在你擁有軟體思維時才有意義——如果你的操作框架是將一切都扁平化成你可以用結構化語言控制的資料庫。那些每月支付數千美元來設置 OpenClaw 代理群並編寫數千行程式碼的人,他們看待世界並看到自動化、重複任務、收集數據的機會。建立軟體。AI 對他們來說很棒。它甚至在一些我認為重要且可能會永遠改變我們與電腦關係的方面令人興奮。

對其他人來說,AI 只是一個要求苛刻的垃圾怪物。它是一種威脅。我並不是說普通民眾不使用 Excel 或 Airtable 來規劃婚禮或享受 PowerPoint 派對,甚至說 AI 將來對普通民眾沒有用。我認為很多人喜歡數據並追蹤他們生活的不同部分。我寫這篇文章時正戴著 Whoop 手環。我只是說這些東西並不是一切。我們生活中的一切都不應被衡量、自動化和優化,也不應該如此。

因此,科技產業正以巨大的成本——能源、排放、製造能力、購買 RAM 的能力——向前衝,將 AI 應用到各處,並被鎖定在狹隘的軟體思維框架中,卻沒有意識到他們也在要求人們變得根本上不那麼人性化。然後他們坐著納悶為什麼每個人都討厭他們。

我不認為幾次理髮能解決問題。

A podcast from The Verge about big ideas and other problems.