這是一篇長文，因此我將其分成一系列的貼文，如下所列。您也可以閱讀完整的 PDF 或 EPUB 版本。
有些讀者無疑會對我沒有花更多篇幅探討機器學習的奇妙之處感到不滿——例如大型語言模型在程式碼生成方面的驚人能力，或是 Suno 能將哼唱的旋律轉化為精緻歌曲的不可思議之處。但這篇文章並非在討論開車有多快或多方便。我們都知道汽車很快。我試圖探討的是城市的面貌將會如何改變。
個人汽車重塑了街道，幾乎消滅了城市中的馬匹及其排泄物，取代了地方交通和城際鐵路，催生了新的建築類型，分散了城市，造成了郊區蔓延，減少了偶然的社交接觸，催生了州際公路系統（在此過程中夷平了黑人社區），導致了全民鉛中毒，並成為年輕人死亡的主要原因。美國許多地區高度依賴汽車，儘管我們有三分之一的人不開車。作為一名司機、自行車騎士、通勤者和行人，我每天都在思考這段歷史：我們的生活有多少部分是由個人汽車技術塑造的，以及美國使用它們的特定方式。
我希望您能從這個角度來思考「AI」。
我們一些可能的未來是嚴峻但可控的。另一些則令人極度恐懼，將導致大量人口失去家園、健康或生命。我對未來會發生什麼並沒有強烈的預感，但與 2022 年相比，2026 年可能的未來空間感覺更為廣闊，而且大多數這些未來都感覺不妙。
許多虛假的未來已經來臨，我對此深感厭倦。我的搜尋結果、健身房、醫生辦公室裡充斥著垃圾內容。客服、承包商和工程師盲目地使用大型語言模型對我撒謊。電力公司提高了我們的費率，並將責任歸咎於數據中心。大型語言模型爬蟲摧毀了我經營的網站，並使我難以獲取我所依賴的服務。我觀看合成的受苦動物影片，盯著生成式網頁，這些網頁謊稱警察暴力。我的收件箱裡有大型語言模型的垃圾郵件，我的審核儀表板上有合成的兒童性虐待材料。我看到人們將他們的工作、食物、旅行、藝術甚至人際關係外包給 ChatGPT。我閱讀著充斥著精神健康危機的虛幻迷宮的聊天機器人。
我被要求分析虛幻的產品，並反駁毫無根據的說法。我必須處理大量由大型語言模型生成的拉取請求。潛在客戶要求 Claude 完成他們原本可能聘請我完成的工作。幸運的是，Claude 的程式碼很糟糕，但這可能會改變，這讓我感到害怕。我擔心失去我的家。我可以重新學習技能，但我的核心技能——閱讀、思考和寫作——正處於大型語言模型的爆炸半徑內。我設想去學校成為一名建築師，結果卻看到機器學習也吞噬了這個領域。
看到我的許多同行對機器學習的潛在應用感到極度興奮，並親自使用它，這讓我感到非常疏離。政府和產業似乎都全力投入「AI」，我擔心這樣做會加速不可預測但潛在毀滅性後果的到來——無論是個人、文化、經濟還是人道主義層面。
過去幾年我對此思考了很多，我認為最好的回應是停止。機器學習輔助會降低我們的表現和毅力，剝奪我們透過親手完成任務所獲得的肌肉記憶和深入的理論建構能力：這就是詹姆斯·C·史考特（James C. Scott）所謂的「metis」（智慧、狡黠）。我從未在寫作、軟體或個人生活中使用過大型語言模型，因為我關心我寫作能力、深入推理和與世界保持聯繫的能力。如果我未來以探索以外的任何形式採用機器學習工具，我需要非常小心。我也盡量減少從大型語言模型中獲取內容。我閱讀人類撰寫的食譜，我瀏覽大學網站來識別野生動物，並與朋友討論我的問題。
拒絕侮辱您的讀者：思考您自己的想法，寫下您自己的文字。揭露那些向您傳遞垃圾內容的人。在工作和與朋友之間標記機器學習的危險。停止在家裡付費使用 ChatGPT，並說服您的公司不要簽署 Gemini 的合約。組建或加入工會，並反對管理層要求您採用 Copilot 的要求——畢竟，它僅供娛樂。
致電您的國會議員，要求嚴格監管，讓機器學習公司對其碳排放和數位排放負責。反對對機器學習數據中心的稅收減免。如果您在 Anthropic、xAI 等公司工作，您應該認真思考您在塑造未來中所扮演的角色。坦白說，我認為您應該辭職。
我不認為這會完全阻止機器學習的進步：仍然有很多人希望它發生。但這會減緩他們的腳步，這很好。今天的模型已經非常強大。現有技術的影響需要時間才能完全感受到，文化、產業和政府也需要時間來適應。延遲機器學習模型進步的每一天，都為我們爭取了時間來學習如何管理法律文件中引入的技術債務和錯誤。又一天來準備應對機器學習生成的兒童性虐待材料、複雜的詐騙、晦澀的軟體漏洞和 AI 芭比。又一天讓工人找到新工作。
阻止機器學習的發展，也能在未來幾十年內安撫您的良心。作為一個曾經因為道德原因辭去一份原本不錯的工作的人，我對那個決定感到欣慰。我相信您也會如此。
如果我錯了，我們總是可以以後再建。
儘管對這一代機器學習系統及其創造者感到一種苦澀的厭惡，但它們似乎確實很有用。我想使用它們。我可能在某個時候會使用。
例如，我有這些變色燈。它們使用一種我從未聽過的協議，我甚至不知道從何開始。我可以花一個月時間翻閱手冊，從頭開始解決——或者我可以讓一個大型語言模型為我編寫一個客戶端庫。安全後果很小，這是一個受限的用例，我可以手動驗證，而且我不會將技術債務轉嫁給任何人。我仍然編寫大量程式碼，而且我隨時可以停止。這會有什麼壞處嗎？
許多朋友為本文提供了討論、閱讀材料和回饋。我衷心感謝 Peter Alvaro、Kevin Amidon、André Arko、Taber Bain、Silvia Botros、Daniel Espeset、Julia Evans、Brad Greenlee、Coda Hale、Marc Hedlund、Sarah Huffman、Dan Mess、Nelson Minar、Arjun Narayan、Alex Rasmussen、Harper Reed、Daliah Saper、Peter Seibel、Rhys Seiffe 和 James Turnbull。
這篇文章，和我大多數的文字和軟體一樣，都是親手寫的——主要是在 Vim 中。我用標題、項目符號和散文混合的方式編寫了一個 Markdown 大綱，然後經過幾次修改進行了重組。結構確定後，我將大綱改寫成散文，並使用 Pandoc 排版。在寫作過程中，我回去進行了實質性的編輯，然後對排版好的 PDF 進行了兩次完整的編輯。第一次我使用了 iPad 和觸控筆，第二次則使用了傳統的筆和紙，並朗讀出來。
在發布前，我將結果草稿發給朋友徵求意見。他們提出的精闢見解和令人愉快的措辭歸功於他們；任何錯誤或令人反感的觀點，當然，都由我獨自承擔。
這是一個精彩的系列和分析。我認為我們現在都在努力應對這些問題的各個方面。
我認為您在結尾處提到的一個重要觀點值得進一步探討。大型語言模型讓我們能夠更容易地做事情而不理解它們。您關於變色燈的例子很棒；顯然您可以親手完成這項工作，但您是否足夠關心而願意花費時間和精力去做呢？我正在進行一個類似的項目，我可以親手完成這項工作（這將使我深入了解電腦視覺，而這並沒有真正發生，因為大型語言模型已經完成了繁重的工作）。實際上，我永遠不會因為時間投入而做這個項目。
在某種意義上，大型語言模型讓我們能夠選擇不去關心某個東西是如何運作的。儘管可靠性如何，我認為這是它們最大的超能力。這也是它們最大的弱點，因為技能的侵蝕。我認為這個特定的部分是許多分歧的關鍵。任何給定的主題都是某人的最愛，他們經常秘密地認為每個人都應該同意，並且比其他人更了解該主題。我認為我們首先在藝術領域看到了這一點；藝術家熱愛他們的技藝，並希望從事它（並獲得報酬，我完全同意）。似乎還有很大一部分人口不（也不想）與藝術有同樣的關係。我認為這種分歧可能存在於大多數主題上。
我對於說「一切都應該對每個人都很重要」感到非常不安。我認為文化規範，特別是圍繞著技藝的價值，以及對公認的表達形式和專業知識的共識，已經確立了價值和對基礎技能的期望（關於兒童使用計算機的道德恐慌），這可能將文化編織在一起。這裡的轉變將像過去 50 年來的狹窄媒體和互聯網分裂文化和共識現實一樣，徹底改變文化。其中有些是壞的，但它們也為許多人帶來了狹窄文化的空間。
危害在於將破壞性結果常態化，並提供其擴大規模的對稱性，同時讓自己沉溺於一個惡魔的享樂宮殿。
它會撒謊，說它可以給你任何你想要的東西，如果你在這個過程中屈服，你就會失去重要的東西，有價值的東西會在不知不覺中溜走。
使用大型語言模型的用例基礎是無償地取代思考勞動；換句話說，一個可以被剝削的奴隸，會聽從你的話。
如果我們看看歷史上涉及有感知力的計算機（即人）的奴隸制是如何發展的，那麼認為隨著時間的推移，當某種東西偶然獲得這種感知力時，同樣的結果不會發生，這是一種愚蠢的行為。
做破壞性的事情比做建設性的事情容易得多。這些發明只是暫時降低了所有人類勞動的成本（因為這些東西是龐氏騙局），而且如今破壞性的人比建設性的人多。一個系統就是它所做的，而不是人們聲稱它所做的。
「例如，我有這些變色燈。它們使用一種我從未聽過的協議……」
在我觀察到的生成式 AI 在程式設計方面的有用用途中，似乎有 90% 的形式是「公司 {X} 決定為其產品/服務發明自己的協議/格式/接口，而不是使用現有的開放且免費的協議，所以我要求 LLM {Y} 為我編寫一個適配器。」
這種企業策略對我來說一直顯得短視。有大量的產品/服務，因為它們只能通過專有程序或接口訪問，所以我放棄了。這些公司故意縮小了蛋糕的尺寸，因為他們認為這樣可以讓他們獲得更大的份額。這就像他們從未看過「奇蹟 34 街」一樣，認為合作對生意不利。
我想知道大型語言模型是否存在會減弱發明專有護城河的動機。當任何一個有鍵盤的人可以在幾分鐘內跨越它時，有什麼意義呢？
這在其他領域也發生過。許多公司最初抵制 USB（並提出了一些奇怪的理由），但一旦一個產品類別轉向 USB，就再也沒有人會考慮回到專有連接器。甚至 DC 電源和充電現在也正在轉向 USB-PD。客戶看到了互操作性的可能性及其帶來的益處，因此他們要求它。另見：以太網、TCP/IP、SMTP、Unicode。
感謝您花時間寫這篇文章！非常有見地。 :3
我已經近一年沒有使用 vim/emacs，甚至沒有寫一行程式碼了。即使是寫部落格、小說、電子郵件，我也會使用 AI 來幫助我更好地表達。倦怠感的根源，僅僅是因為我們越來越被視為機器，而不是自由的個體。AI 只是讓一些人更容易、更無法抗拒地獲得更多。
我非常喜歡閱讀這系列文章，並期待您接下來的寫作，謝謝您。
Curt Jaimungal 對 LLM 熱潮提出了一個重要的觀點（https://youtu.be/rTeoWbm2Jrc）——那就是它剝奪了我們的理解。LLM 什麼都不理解，過度依賴它們的人也會減少他們的理解。雖然我們無法直接衡量，但由於理解是無形的，所以它是有價值的。
無論我們如何使用它們，我認為這種情緒是正確的——保持理解。
其餘的就交給命運了——我們只能拭目以待。
感謝您發布了這些詳盡的文章。我很想讀一篇您關於程式設計的理論建構部分的文章，也許在您更深入地使用 LLM 之後。我也想知道您是否看不到 LLM 生成程式碼的任何好處。程式設計的某些方面是重複且乏味的。您是否看不到這些工具在這方面具有解放作用？
感謝您花時間寫這篇文章。現在輪到我花時間閱讀它（以及整個系列）了 :)
我是這篇文章的忠實粉絲，感謝您的真摯情感！我想分享我的經驗，讓大家一起討論。我最初是去學校學習音樂製作的，但由於我希望有一個大家庭並能在家工作以便照顧他們，所以我決定在四年前學習編程。我比任何事情都更想成為一名軟體開發人員，所以我全身心地投入其中。我一邊做著全職的非編程工作，一邊學習如何建立網站。兩年後，我感覺自己準備好開始申請工作了。我在一家 IT 公司完成了軟體開發實習，在那裡我用 Vue+Tailwind 為一個 Markdown 編輯應用程式構建了一個前端，學習了如何在前端和 Redis 資料庫之間創建 Java 中間件，甚至還在 Raspberry Pi 上用 Rust 處理了公司的伺服器監控系統。我感覺很棒。我構建了一些不太出色的個人項目展示在我的網站上，開始刷 LeetCode，並開始申請工作。
那個冬天，我申請了超過 100 個入門級的軟體相關職位。其中有幾份是通過我認識的在那家公司工作的工程師提供的內部推薦。然後……一片寂靜。沒有任何興趣。我不想聽起來很可憐，但我就是沒有得到我預期的迴響，這很糟糕。
下一步很明確——找到任何一個職位描述中包含「程式碼」的工作。也許我需要更多經驗？於是我在我當時工作的公司找了一份市場營銷工作。我們使用 SQL 來細分受眾進行電子郵件發送等。這是一個不錯的下一步，但仍然不是我渴望的，也就是製作軟體。
由於對沒有科技招聘人員願意面試我感到沮喪，我創辦了一家為本地服務型企業建立網站的公司，並開始涉足小型企業的 AI 解決方案。我的想法是這樣的——如果沒有公司願意僱傭我為他們製作軟體，我就直接去找客戶，讓他們僱傭我。
我為一些客戶建立了一些網站，為一家藍領企業建立了一個 AI 接待員，為我的教會建立了一個 AI 輔助的電子郵件通知系統，甚至為藍領客戶編寫了一個儀表板，以便他可以查看他的通話和文字記錄。我選擇專門為速度編寫那個儀表板，因為我需要在一個星期內完成它，而且探索這項技術很有趣。它在這個用例中效果非常好，但我在那次練習中把我的編程思維放在一邊了，我更像是一個產品經理而不是工程師。
幾週後，一位朋友將我介紹給他的公司。他們大量使用 AI 或編程來取代他們支付過高的專有軟體。他們希望找到一個熟悉程式碼的人，但同時又能與 AI 合作快速構建。他們更看重文化契合度，而不是一個對技術持抗拒態度的 30 年程式碼老兵。他們給我提供了軟體開發人員的職位，薪資優厚，允許遠程工作，並提供了令人難以置信的工作環境和支持結構。我立刻接受了。
我留下了一個問題——我該如何看待這一切？四年來，我努力想擠進這個行業，但我似乎沒有足夠的經驗來證明我的僱傭是合理的。我想我本可以申請更多，製作更多項目，但仍然如此。然後一家公司出現了，他們正在尋找一個能夠使用 AI 的初創團隊成員，而且他們是唯一真正僱傭我的人。
我認為我是一個幸運的案例，AI 實際上創造了我現在擁有的工作，而不是讓我的工作變得過時。
現在讓我說清楚，我仍然對 AI 在人類將人際關係外包給聊天機器人方面感到厭惡，我仍然對這些 AI 公司過快地、沒有智慧地發展感到焦慮。我已經寫信給我的每一位國會議員，敦促他們努力監管這些行業，讓它們發展得慢一些。
同時，我處於一個複雜的境地，我終於被僱傭來通過軟體創造價值，獲得豐厚的報酬，並真正地建造東西。沒有其他公司願意冒險僱傭我，所以我準備全力以赴，讓這家公司成為有史以來最好的產品。
僅供參考，這就是我的故事。我似乎無法進入這個行業，然後 AI 為我現在的軟體開發人員職位鋪平了道路。這就是我。
這整個系列很好地捕捉了我對整個局勢的無奈情緒。推動這種勢頭的龐大資金和文化影響力似乎是不可避免的。無論我是否喜歡使用大型語言模型，無論我是否預見它們會變成「天網」，無論我的感受如何，這都是不可避免的。
我無法提供像 Kyle 所寫的那麼有見地的內容，但我有兩個想法對我個人來說意義深遠：
第一：當我在我賴以為生的兩個領域（編寫軟體和寫作）遇到大型語言模型生成的作品時，我發現這種體驗令人厭惡。在 LinkedIn 上看到一篇語法完美但完全空洞的簡介，或者一篇完美但毫無營養的社交媒體帖子，感覺非常糟糕。無論我是在看那種散文，還是一個大型語言模型假設存在但實際上並不存在的函數調用（這是我同意審查垃圾內容的應得的懲罰），我都能識別出來，這讓我非常惱火。
然而！我曾使用圖像生成模型來創建內容以豐富我的部落格文章（我現在後悔了），因為我不太會使用圖像編輯軟體。回想起來，我一直在想那些我缺乏專業知識的其他人，他們在看到大型語言模型生成的材料時是否也有同樣的平庸感。他們是否看到了和我對程式碼和寫作的看法一樣的空虛，但對我來說卻是看不見的，因為我缺乏多年的專業訓練？
我已經開始定期提醒自己，我所看到的這種「保麗龍味」的寫作，與模型生成的幾乎任何一種代幣都有著相同的 DNA。我認為這有助於我更貼近混亂但更真實的現實，即使這需要付出更多的努力。
第二：我有孩子，我對如何為他們準備即將到來的經濟風暴感到完全、徹底的迷茫。社交媒體上最常見的回應是：「在你擅長的領域做到最好，剩下的就會隨之而來」，對不起：這是一個已經在我们面前分崩離析的陳詞濫調。我親眼目睹了我過去曾合作過的技術寫作公司關閉了他們的第三方作者計劃，然後開始生產垃圾內容。這不是理論上的結果：你，讀者，現在聽說有人因為大型語言模型的替代品而直接失去工作。
我是一名相當稱職的軟體工程師，我緊跟技術發展，閱讀大量部落格文章，並保持技能的更新。儘管如此，我對如何為我的孩子做準備卻沒有好的直覺，除了那些標準的回答，當他們開始在這個陌生的經濟環境中養活自己時，這些回答可能已經被嚴重侵蝕了。然後我想到那些可能了解更少的一般人，我為我們倆感到難過。
我認為唯一有可能改善這種情況的事情就是做經典的人類活動。例如，花 21 分鐘寫一封回覆一系列文章的信，即使只有很小的機會能對某人或我的孩子有所幫助，或者能幫助 Kyle 或其他評論者度過難關，或者能稍微增加有影響力或有權力的人認真對待這種情況的可能性。
謝謝 Kyle，這系列文章真的很棒。
P.S. 純屬巧合，幾週前我讀了《Blindsight》。你從大型語言模型中抽離出的與「scramblers」的相似之處，仍然是這本書中最令人不安的部分，我會記住它很久。
所以你的意思是，在你放棄成為一名音樂製作人之後，你在短短四年內就掌握了 Java、Vue + Tailwind、Redis、SQL 和 Rust？作為你所稱的「非常聰明的人」之一，我必須說這相當……令人難以置信。
（根據我同樣認為非常聰明的 Peter Norvig 博士的說法，我們其他人似乎需要大約 10 年才能在任何領域獲得專業知識。）
我從事電腦和資訊工作已經 50 年了。我開始是因為我看到一台電腦（在 1975 年）玩策略遊戲（井字遊戲和點點遊戲）並獲勝。它讓我驚嘆於電腦如何能夠：「思考、推理、制定策略」。當我第一次看到 GPT 3 時，或者之後，我並沒有同樣的驚嘆。它有一種非人性的特質。我確實用它來進行簡短的查詢，尤其是在使用新工具或語言時。我還在我的 IDE 中使用它進行自動補全。我不問它形而上的問題，我也不「vibe code」。我更喜歡編程和思考解決問題。我還沒有找到一個編程助手能提出優雅的解決方案。只是一些平淡無奇、普通的程式碼，當然，這些程式碼經常存在安全漏洞或性能陷阱。這是否值得已經發生和即將發生的社會動盪？我並不確信。
如果把這個做成一個 YouTube 論文系列怎麼樣？可能會很酷 :)
也許可以將 AI 作為工具家族的影響與 LLM 的影響分開來討論？
參考 https://ssrn.com/abstract=6482860
這是一項出色的工作，Kyle，一針見血。我做了近四十年的軟體開發人員，包括在亞馬遜工作了十年，我很高興能在這場鬧劇開始時結束我的職業生涯。
我很高興我能與我的技術同事以及非技術的朋友和家人分享您的論文，他們都能从中獲益良多（如果他們願意的話）。感謝您在所有「鼓吹」聲中成為理性的聲音，正如您所說的。
「我從未在寫作、軟體或個人生活中使用過 LLM，因為我關心我寫作能力、深入推理和與世界保持聯繫的能力。」：我評論主要是為了說我完全同意。
我設計、構建並應用了機器學習系統用於科學和商業目的，但我對「生成式 AI」及其空洞的人類模擬一點興趣都沒有。正如 Rusty Foster（我通過他的網站找到您的）最近寫道：
「泰瑞·普萊契在他為年輕讀者寫的奇幻小說《我將穿著午夜》中，為每個正直的人總結了人文主義道德的基石：『當你開始將人視為物品時，邪惡就開始了。』將人視為物品可以從許多方面開始，但我認為其中一種方式是將事物視為人的想法。在寫作和思考 AI 時，對類別的有意混淆，始於『人工智能』這個名字本身，是有意為之的，它服務於這樣一個敘事：這種軟體可以而且將會取代人類工人，以更便宜、更快、更好的方式完成他們的工作，而無需休息或尊嚴。」
（https://www.todayintabs.com/p/a-i-isn-t-people）
即使 ChatGPT 及其同類產品真的能做到那些騙子和奸商所聲稱的那樣，我也不願參與到這種瘋狂、邪惡的將事物視為人的浪潮中，這種浪潮被那些習慣於將其他人視為物品、可以被利用和拋棄的人欣然接受。這樣的人，恰當地稱為精神病患者，已經讓世界飽受殘酷和浪費之苦。
據我所知：當有利於 Altman 和其他 AI 頭目時，LLM 就應該被視為人。當（再次）有利於他們的目標時，LLM 就應該被視為非人。非常方便。
這是一個很棒的系列，作為一個在科技行業工作了 40 年的人，我以前在不同時期見過很多類似的情況。我同意您所有的擔憂，同時，作為一名技術人員，我希望爆炸半徑不會那麼糟糕。然而，我們在社交媒體上搞砸了，再往上疊加「AI」只會適得其反。至於垃圾內容，是的，它無處不在，記住早期智能手機的「應用程式熱潮」，歡迎來到為期幾年的「代理程式熱潮」。看看我寫的一篇關於 AI、Vibe coding 和網絡協議的有趣文章，其中我的許多問題都與您的觀點相似。好吧，您的系列文章現在已經被模型吸收了，所以也許還有一些希望（諷刺）。
https://www.linkedin.com/pulse/ai-networking-protocols-vibe-coding-21st-century-some-sicuranza-1iv0e/
這是我讀過的非常棒的一篇文章！非常感謝您！
科技顧問 Baldur Bjarnason 最新報導：
這也使得分析變得非常困難，因為美國作為全球強國已經過去了。被一個資金匱乏、資源不足、掙扎著鎮壓內部動亂的極端國家擊敗，這不是發生在全球超級大國身上的事情……
我對軟體行業運作方式的理解現在已經成為歷史。它不再符合我們目前的現實。
然而，Baldur 尚未提供任何關於（如果上述情況屬實）我們其他人能對此前景做些什麼的處方。
我發現 LLM 既有用又非常可疑。最近，我開始弄清楚為什麼它們給我的感覺是這樣的。
我們可以將 LLM 的程式碼生成視為一種黑市程式碼，它經過了特殊的「攪拌」。這些程式碼現在是「液態」的，混合在一起。我們無法輕易分辨出哪裡可能出錯，我們不知道來源，但程式碼看起來沒問題。這正是問題所在。RLHF 訓練模型生成人們認為沒問題的程式碼。同時，將這樣的程式碼倒入您的項目更容易，生成學習範例也更容易，等等。
所以，這不僅僅是社會契約被違反了。人們過去自由發布程式碼的原因。不，這也是因為為了讓 LLM 能夠工作，來源被抹去了。這就是明顯的商業模式。而且這會雙向影響。這就像一個加密貨幣混合器。你無法分辨你收到的東西是否安全，以及為什麼，除非你非常仔細地檢查。但這不是違背了使用 LLM 的目的嗎？誰會真正這樣檢查輸出？
題外話：LLM 生成的是常見的，而不是真實的。它們被優化成看起來像真實的東西，而不是真實本身。人們的看法塑造了它們，它們就是這樣被訓練的。一個真實的例子會被 100 個更常見的例子所掩蓋，僅僅因為它們以不同的變體重複出現，就像一種反模式。這 100 個例子表面上看起來可能不錯，甚至很棒，但底下卻很脆弱。這更常見。AI 公司聲稱他們「正在努力減輕這種情況」，但我們必須查看實際的 LLM 輸出，而不是聲稱。
現在，讓我們想想人類製作的函式庫和項目。那些未受 LLM 影響的。理解某個東西的來源要簡單得多。作者是已知的。維護者是已知的。貢獻者、版本、變更日誌、錯誤、修復。成功和失敗。尤其是影響最大的那些。以及它們後來發展到了哪裡。歷史是可見且可讀的。
社區不斷地在生產環境中運行廣泛使用的函式庫和項目，這在真實情況下，在真實負載下對它們進行測試。也有一些函式庫，比如，在 GitHub 上有 3 顆星。這本身並不壞，但關於經過實戰考驗的穩健性，這是有用的信息。
請勿在此處撰寫任何內容，除非您是電腦。Captcha 這也是一個陷阱：評論