今天在 Decoder 節目中，我們將討論近期一場里程碑式的社群媒體成癮訴訟案，該案已對兩家大型科技公司做出重大裁決。其中一個案件是針對 Meta 在新墨西哥州的訴訟，另一個案件則是在加州針對兩家公司（Meta 和 Google）的訴訟，兩家公司均表示計劃上訴。
這些案件是針對科技公司的一系列傷害訴訟中的首批案件，它們聚焦於 Instagram 和 YouTube 等平台的設計決策。訴訟主張這些平台存在根本性的缺陷，會對用戶，尤其是青少年造成傷害，而這些公司明知這些問題卻仍舊推出這些功能。這些案件是旨在從根本上改變現有規範社群媒體平台的法律機制的一系列更大動作的一部分。
當我們說到傷害時，我們不僅僅是指讓人們強迫性回訪的成癮性設計。它也包括演算法推薦和濾鏡等功能，這些功能會加劇焦慮、憂鬱和身體畸形恐懼症等問題。這種強調平台運作方式，而非僅僅關注內容的重點，是多年來不斷累積的運動的一部分。該運動的論點是，社群媒體既不健康，也不可能健康——它實際上可能是有缺陷的，就像香菸一樣，在設計用途下會導致癌症。
這裡有很多複雜的想法，我和 Casey、Lauren 花了很多時間來梳理。其中第一個想法是，產品功能（如推薦、自動播放影片、無限滾動）與透過這些工具向年輕人提供的有害但合法的言論（如飲食失調影片或旨在讓年輕男性憎恨女性的帖子）之間是否存在區別。
然而，強迫這些公司以特定方式審核這類內容，即使不是違憲，也是非常困難的。第一修正案顯然禁止政府規範這些公司推廣和審核的言論，而《通訊端正法》第 230 條款則保護科技平台免於對用戶發布的內容負責，這通常會阻止私人訴訟。
要釐清所有這些想法非常困難。一個沒有內容的演算法推薦動態饋給，根本不是一個引人入勝的產品，更不用說是一個造成傷害的疏忽缺陷產品了。許多我們在節目中和 The Verge 過去幾年採訪過的聰明人都說，這些裁決只是繞過第 230 條款的一種方式——只是讓平台對最終只是言論的內容負責，而這將導致更多言論受到限制。你會聽到我們 كثير討論這個想法，以及要求完全廢除第 230 條款的呼聲是否與這些案件有關聯，或者只是政治機會主義。
但這裡還有許多其他想法和更多層次的複雜性。你會聽到我和 Casey 在本集節目中幾次意見不合，因為我們都長期關注科技監管，感覺像是假裝一切都對普通人來說運作良好，而普通人卻時常對社群媒體有負面體驗。第 230 條款現在已經三十年了，它旨在創造的世界是否曾經存在，尚不清楚。
你會聽到 Lauren 談到第 230 條款的起草者對變革持開放態度，特別是關於人工智慧和網路言論方面。同時，對該法律的任何修改都將直接與第一修正案發生衝突，並可能為大規模的政府言論監管打開大門。正如我所說，這很複雜，我非常好奇大家對此有何看法，因為顯然很多事情即將被重新審視。
好了：Platformer 的 Casey Newton 和 The Verge 資深政策記者 Lauren Feiner 將討論重要的社群媒體訴訟案。我們開始吧。
本次訪談已為求長度和清晰度進行輕微編輯。
Lauren Feiner，你是 The Verge 的資深政策記者。Casey Newton，你是 Platformer 的創始人兼編輯，我會說你也是 The Verge 的資深矽谷編輯。
Casey Newton：我仍然認為自己是 The Verge 的矽谷編輯，很高興你也有同感。
你可以退場，但你永遠無法離開，夥計。歡迎你們兩位來到 Decoder。我想談談這些社群媒體公司在加州和新墨西哥州面臨的審判。Lauren，從宏觀層面來看，你至少參加了加州的審判。我認為 Snap 和 TikTok 在那場訴訟中已經和解了。他們退出了。YouTube 和 Meta 在陪審團的裁決中敗訴了。請描述一下這些審判的經過以及你在法庭上看到的情況。
Lauren Feiner：從根本上說，這些審判是關於社群媒體公司所做的設計決策，以及用戶將如何與他們動態消息中的內容互動。這是在試圖解決科技領域長期存在的一個問題：能否將平台上的設計與內容分開？這就是這些審判試圖解決的問題。在法庭上，我們看到了許多這些公司的內部文件。在洛杉磯的案件中，涉及 Meta 和 YouTube。在新墨西哥州的案件中，則僅涉及 Meta。
我們看到了大量的內部文件，許多前 Meta 員工轉變為吹哨者，他們上庭討論他們所做的決定以及他們所見的情況。在洛杉磯，我們甚至看到了 Instagram 的負責人 Adam Mosseri 和 Meta 的執行長 Mark Zuckerberg 出庭作證。
Casey，我們在 The Verge 上稱這些為指標性審判。整個行業都決定這是我們要使用的詞。你能快速解釋一下它的意思嗎？你一直都在關注監管這些公司的嘗試。而這些審判是指標性的想法在這裡似乎特別有意義。
CN：是的。正如你所知，Nilay，在過去 20 年裡，公司一直能夠利用第 230 條款作為盾牌。每當在法庭上對這些平台提出任何與內容相關的挑戰時，它們都會被輕易駁回。這些案件之所以成為指標性案件，是因為如果它們成功了，將會為訴訟開闢一條新戰線，而這些公司將無法再自動地將第 230 條款作為盾牌。而這確實已經發生了，我們預計現在將會有數十起訴訟沿著完全相同的路線進行。
我希望到目前為止，Decoder 的聽眾都知道第 230 條款，它是這樣規定的：平台對用戶發布的內容不承擔責任。如果我在 Instagram 或 TikTok 上發布一條說「Casey Newton 很糟糕，Hard Fork 是我最大的敵人。應該被禁止」的帖子，Casey 可以起訴我，但你不能起訴 Instagram。
這一直非常重要，因為這意味著每當有人聲稱受到平台傷害時，平台都可以說：「不是我們，而是你對其感到憤怒的言論。我們在分發或推廣這些言論方面的作用與言論本身相同。」
看來這次審判比過去的嘗試更能令人信服地提出這個論點。我想到像 Herrick v. Grindr 這樣的案件。還有針對 Snapchat 的著名案件，涉及速度計濾鏡，一名青少年開車太快，試圖截取自己以最快速度行駛的 Snapchat 照片。那些案件並沒有像這樣成為指標性案件。是什麼讓這些案件與眾不同，為什麼這次的論點更成功？
CN：Lemmon v. Snap 案是一個非常重要的先例。Snapchat 曾經提供一個濾鏡，你可以開啟它並拍攝你在車裡的影片，它會顯示你的行駛速度。原告成功地爭辯說，這在應用程式中造成了一種人們開得非常快、做危險事情的動機。確實，在這個特定案件中，發生了一起危險的車禍。
這之所以重要，是因為第 230 條款的保護並非絕對。之前已經有幾項小例外，例如「平台必須移除恐怖主義和 CSAM 內容」。但現在我們說：「你不能提供這樣的濾鏡，因為它可能會激勵可怕的行為。」這為原告律師打開了廣闊的空間。
他們可以說：「這些平台的設計功能還有哪些？它們正在創造什麼樣的動機？我們不會討論 Snapchat 上交換的實際訊息或 Instagram 動態消息中的實際內容，但我們會詢問無限滾動、自動播放影片和整夜不斷出現可能擾亂睡眠的推播通知等問題。」突然之間，他們找到了立足點，因為他們有了最初的先例。
真正讓我感到震驚的是，Snapchat 製作了那個濾鏡。那是 Snapchat 的言論。他們說：「好吧，如果你開得很快，我們會為你生成一個速度計讀數。」而在這個案件中，這仍然不是平台的言論。你可以製作無限滾動，你可以製作自動播放影片，而這些只是他們管理他人言論的方式。
原告是否必須克服這一點？因為這似乎是你一次又一次遇到第 230 條款的障礙，他們會說：「我們只是在管理他人的言論。這仍然是第一修正案。」
CN：原告能夠成功地爭辯說，無限滾動不是他人的言論。這裡沒有涉及其他人的責任；有人建造了一個產品，而這個產品有缺陷。他們能夠成功地將這些事物比作沒有安全帶的汽車，這引起了陪審員的共鳴。
值得花點時間談談為什麼會這樣，因為這是我在社群媒體公司工作的人從來都不理解的事情。每個人都知道有人對 Instagram 有嚴重的問題。這個人很可能就在你的直系親屬中。他們已經從手機上刪除了一百次，但總是重新安裝。他們設定了螢幕時間限制，但他們一次又一次地回來，並且對此感到厭惡。這在美國現在幾乎是普遍的經歷。當你讓陪審團坐下來，你說：「Instagram 有問題了」，很容易找到很多人說：「聽起來是對的。」
我的感覺是，如果這些案件中的任何一個能夠進入陪審團，Casey 所描述的情況就會發生。每個人都有這些對社群媒體平台的負面體驗，而公司本身總是告訴我們，從統計上看，這些問題很小，但它們的用戶數量如此龐大，以至於即使是很小的比例也意味著數百萬人。我認為平台從未真正理解這一點。
你也有同樣的感覺嗎？一旦你讓 Mark Zuckerberg 出現在陪審團面前，社群媒體平台就沒有可能贏得官司了？
LF：真的很難知道。首先，為什麼要選擇這些陪審員？他們是因為不常使用社群媒體或對社群媒體沒有太多正面經驗的人而被選中的嗎？這是在觀察他們時的一個變數：他們實際上是如何理解這些證據的？同時，聽到一些證據可能會很困難。任何認識有心理健康問題或過度使用手機或過度使用社群媒體的人，我們很多人都認識這樣的人，如果我們自己不是這樣的人。這肯定會在某種程度上影響他們，從人性的角度來看。
當我看到 Mark Zuckerberg 作證時，他談到了一個他們擁有的特定美顏濾鏡，以及他的一名員工如何反對包含它，並談到，我相信，他有女兒，並思考這樣的事情會如何影響她們。也許這些人沒有那麼多社群媒體經驗，或者沒有與這位原告完全相同的經歷，但他們肯定認識生活中經歷過類似事情的其他人。
CN：還有一個相關的說法是，TikTok 和 Snap 在審判前就和解了。那一刻我說：「好吧，他們一定真的很、真的很害怕。」我其實在等 Meta 和 YouTube 也和解。一旦發生了，我認為他們處境就很糟糕了。
這裡每個人都在做的比較是與大型菸草公司、垃圾食品、糖類相比，對吧？我們都知道這些東西對我們不好。「尼古丁很棒，所以我們無法停止。」應該有一些監管框架，或者我們應該讓這些公司至少溝通風險。這個框架對你來說成立嗎？
LF：與現在和大型菸草公司相比，一個很大的區別是，說沒有安全的香菸。有很多研究表明，社群媒體的情況並非如此，一定程度的社群媒體使用實際上對人們有正面或至少是中性的影響。問題主要在於過度使用、強迫性使用，這才是這裡的主要問題，也是人們談論的問題。社群媒體確實能讓人們與朋友聯繫，讓你與人保持聯繫，讓你能在你直接社區之外獲得社交聯繫或聯繫，但顯然它也有非常有害的一面，過度使用它會讓你與真實的社交聯繫隔絕。
這是一個很大的區別。當人們將此與當時的情況進行比較時，我確實認為這是我們需要思考的，這些情況並非完全相同。話雖如此，我認為這種比較是為了說明這些公司終於像大型菸草公司審判一樣，讓他們的許多文件公之於眾。這才是這種比較的重點。
Casey，你和我已經談了很多次了。在很多方面，我們的職業生涯都歸功於社群媒體。網路讓我們繞過守門人並接觸到我們的受眾，這對我們來說非常重要。反過來，很多壞人也做了很多壞事。你將如何劃分這些界線？
CN：這非常棘手，你必須以一定的細微差別來闡述。對我來說，我將網路問題與平台問題分開。真的，Nilay，網路造就了我們的職業生涯。網路打破了守門人，讓我在我的情況下，可以在網路上掛個招牌說：「嘿，我會收費給你發電子郵件。」這是網路時代之前不存在的事情。
平台問題則不同。它們與演算法放大有關，是的。但也與這些設計功能有關。我們一直在談論的這種感覺：「我不想像現在這樣看 TikTok。我不知道如何停止。我試圖停止。」或者「我買了一個裝置，在我進門時會鎖定我的手機。」這些都是創建一個平台所帶來的問題，而該平台的唯一動機就是讓你盡可能多地關注它。這就是為什麼審查最終會轉向這些方面。
我們不想擺脫網路。我們不想剝奪你在網路上發表意見的權利。我們想擺脫這個機器，它越來越多地佔用你的時間和注意力，讓你感覺不好。
這就是案件的故事。他們上訴了，他們輸了。我們將看看接下來會發生什麼。真正的轉折點是他們現在會怎麼做？他們對這些產品功能負有責任。我們需要在行業內進行一些討論，美國也將進行討論，關於言論自由與產品功能之間的區別。我們稍後會再討論這個問題。
但在此期間，他們必須做些什麼。他們必須改變他們產品的運作方式，以避免來自其他可能看到這些案件並說「我們也要告你」的人的持續責任。Casey，這感覺像是一個信任與安全問題，對吧？這是你的聽眾，這些是你談論最多的人。他們的反應是什麼？
CN：他們的反應非常負面。特別是與仍在公司工作的人交談，他們會說，即使你相信原告在這裡的論點，解決這個問題也非常棘手。因為再次強調，即使你認為這個年輕女孩在平台上花費了太長時間，讓她的問題更加嚴重，但你會移除這個平台的哪個設計功能，以及這將如何解決她的問題？如果 Instagram 和 YouTube 沒有自動播放影片，如果沒有無限滾動，如果沒有推播通知，這是否會改善她的心理健康，以至於她不再會起訴公司說這是個有缺陷的產品？我不知道。
我認為我們社會現在面臨的問題是，我們不知道什麼是安全的社群媒體。我們不知道哪些功能是最危險的。我們有直覺。我們應該進行一些實驗，但這不像關閉自動播放影片，所有青少年都會出去玩那麼簡單。
這就像澳洲的青少年都不應該使用社群媒體一樣簡單嗎？
CN：事情是這樣的。作為一個寫社群媒體比任何事情都多的人，我對我竟然如此支持 Jonathan Haidt 的觀點感到震驚。因為我也不知道。我不知道我們應該移除哪些功能才能讓所有青少年都安全。我能告訴你的是，沒有一個在平台上工作的人足夠關心你的青少年，讓我能夠信任你的青少年給他們。所以我寧願說：「在你滿 16 歲之前不要看。」因為我知道這對你來說比看更好。
我們可以聽到 Casey，他與在平台公司工作的人交談，完全崩潰了那段經歷。Lauren，你整天與政策制定者交談。名義上，你是我們在華盛頓的政策記者，你報導國會山。我們不會讓你整天都在法庭上，儘管你一直在做這件事。在那一邊，政策制定者們對這些裁決有什麼反應？
LF：到目前為止，我們看到一些立法者大力推動一些重要的社群媒體改革法案，例如《兒童線上安全法案》，他們說：「這恰恰表明我們需要這些新法律，或者我們需要廢除像第 230 條款這樣的舊法律，才能讓孩子們安全。」這就是目前的主要推動力。不過，這仍然是早期階段。
我將非常關注這是否會是動力的走向，或者是否有任何制衡力量說：「讓我們放慢腳步，因為實際上我們認為無法通過法院的案件正在推進，而且它們即使在第 230 條款仍然存在、即使沒有 KOSA 的情況下也在推進。」我將非常關注這種論點將如何發展，以及這是否會加速或減緩任何方向的動力。
好了。我警告過你們兩位，我也對這一切感到崩潰。Lauren，你剛剛也提到了。這些法律與這些審判有關的說法，以及這些審判應該讓政府通過相當於非常嚴格的言論監管，這讓我感到非常瘋狂。
「平台有一些設計功能讓它們上癮，所以我們應該通過 KOSA，這將限制邊緣化群體的言論。」這對我來說沒有任何關聯。Josh Hawley 說我們應該廢除第 230 條款，而這些審判證明了這一點。我無法告訴你為什麼。我無法在我的腦海中將「平台被優化為病毒式傳播、參與度和負面情緒」與「讓它們對言論負責，迫使它們刪除更多言論是解決這個問題的方法」聯繫起來。我無法將這些想法聯繫起來。你們能嗎？
CN：不能。不能。說實話，我讀了共和黨政策制定者們的許多採訪，當他們被問及這些事情時，他們似乎都不明白，如果他們真的廢除了第 230 條款，平台將會過度審核內容，因為他們會害怕各種現在可以追溯到他們身上的事情可能會導致法律責任。他們會討厭它。這些人討厭所有內容審核。如果你刪除了第 230 條款，你將會得到更多。
Lauren，你報導過兩黨合作改革第 230 條款的嘗試，兩黨合作進行年齡驗證和像 KOSA 這樣的法律。民主黨方面是什麼看法？
LF：許多民主黨人支持 KOSA 並完全贊同對該法律進行這類修改。他們確實承認了一些批評，認為這可能會損害邊緣化群體，或者讓訪問某些可能在網路上被政治化的內容變得更加困難，但他們總體上認為這些問題在法律條文中已經得到了很好的處理。這實際上不會發生，他們已經接受了，他們認為這是最好的前進方式。當然，並非所有民主黨人都這樣。顯然，第 230 條款的共同起草者 Ron Wyden 並不支持 KOSA。
這些問題確實得到了廣泛的兩黨支持。這將是目前第 230 條款的強硬派和反對 KOSA 的人面臨的挑戰，他們需要問的是，這些問題是否永遠不會有任何改變？或者是否會有一些改變，而我們必須弄清楚我們能接受什麼？
這對我來說變得非常複雜，你們兩位將幫助我一起處理這些家庭般的感受。我看到，好吧，有一場重要的審判輸了。這些公司在我們平台上的行為負有狹義的責任。現在有一群人想說：「你們實際上對一切負責。我們將推翻第 230 條款，你們將對你們分發的內容負責，這將導致更大的責任，也許你們會採取更多措施。」
然後我會想：「好吧，那不好。推翻第 230 條款很糟糕。」我二十多年來一直這麼認為。The Verge 上有無限多的報導解釋為什麼推翻第 230 條款很糟糕。然後我再坐下來想：「好吧，為什麼？」
我們都採訪過 Ron Wyden 參議員。Ron Wyden 曾上過節目。Lauren，我認為你最近也採訪過他。Ron Wyden 是個好人。與 Wyden 一起起草第 230 條款的 Chris Cox 是個好人。他們試圖透過第 230 條款創造的世界從未實現。它實際上並不存在。這項法律已經三十年了。它是在 AOL 和 Usenet 存在並成為主要線上溝通方式的時代寫成的。
他們的目標是創造一個競爭性的審核市場：如果你想讓你的電腦對你的孩子來說是安全的，你就會下載軟體並在你的電腦上本地運行它，它會放在 CompuServe 前面過濾你的網路。這從未發生過。它從未存在過。現在我處於一個必須大膽捍衛一項三十年前的法律的境地，而該法律的政策目標從未實現。我不知道為什麼。Casey，我知道你也一直在為此煩惱。我應該如何看待這件事？
CN：是的。我的感受也很複雜。我希望第 230 條款存在，以便平台能夠託管政治言論，各種言論。它為非常豐富、充滿活力和有趣的平台創造了可能性。同時，有一個第 230 條款的案件，我作為一個同性戀者非常關注，關於 Grindr，你們肯定熟悉這個案件。基本上，有一個可怕的前任說：「我要報復我的前任，在 Grindr 上發布他的照片，並將他的住址發送給所有人，說『去這個人的家，他會滿足你最瘋狂的幻想並給你毒品。』」而這個案件因為第 230 條款被駁回了，對吧？他們起訴 Grindr 說：「這太糟糕了。你們必須做點什麼。」而 Grindr 說：「230。」案件就結束了。
這對那個案件的受害者來說似乎非常糟糕。如果我處於那種情況，我會非常生 Grindr 的氣。同時，為什麼第 230 條款應該是讓那個人獲得正義的東西？為什麼我們不更認真地對待網路騷擾和暴力呢？這就是我如何解決這個問題的方法，我說第 230 條款總體上仍然支持我想要的網路。對於許多確實被第 230 條款所促成和保護的傷害——主要是今天我們沒有談論的那些傷害——我認為我們可以找到其他方法來解決這些傷害。
但這裡還有另一個思想實驗。如果 Meta 的智囊團聚在一起說：「如果 Instagram 對青少年來說很棒，它會是什麼樣子？」你認為它會很像我們今天看到的 Instagram 嗎？還是你會認為它會大不相同？我打賭會是後者。我打賭它會大不相同。我們不生活在這個世界，但我認為還有另一個世界，Instagram 的高管們確實這樣做了，並說：「你知道嗎？我們實際上將為青少年推出那個版本的 Instagram。看，它主要是教育內容。它實際上並沒有針對你的青少年進行個人化。我們禁用了所有通訊功能。你只能在白天使用它。」
你可以想像一百萬種可能讓這個產品更安全的事情。所以，在某種程度上，是的，要弄清楚哪個版本的 Instagram 不會讓 Meta 陷入麻煩是很棘手的。另一方面，你實際上可以大致勾勒出來。所以我的好奇心在於他們在多大程度上會嘗試走這條路，因為我確信他們會拼命避免被美國所有青少年起訴。在多大程度上，他們只是會，我不知道，嘗試一些我還沒想到的陰險和卑鄙的手段？
我的意思是，他們已經宣布了針對年輕人的 Instagram，對吧，這些針對年輕人的工具，而他們卻因為虛偽和試圖針對兒童而受到抨擊。他們還有足夠的社會資本來說這個產品仍然是安全的嗎？
CN：沒有。我對此的虛無主義觀點是，最終解決 Meta 問題的是他們被另一家在某些方面可能更好的公司擊敗。但我不認為改變會來自他們內部，因為他們關心的一切就是贏。對他們來說，贏就是最大程度的參與時間。
公平地說，Mark Zuckerberg 目前每週都在忙著招聘和解僱數百名 AI 研究人員。同樣，有一個尚未定義的目標。他將停下來並將所有注意力放在對孩子們安全的 Instagram 上的想法——也許只有存在主義的訴訟才會讓他這樣做。但我真的懷疑 Mark Zuckerberg 是否是美國青少年安全問題的合適代言人。我認為答案是絕對的否。
CN：是的。我不認為他的過往記錄會讓你把他放在那個特定項目的負責人位置上。再次強調，我認為對人們來說，重要的是要強調這一點：對 Meta 來說，成癮意味著成功。他們公司內部有龐大的團隊，認知科學家們致力於理解人類大腦，以便他們能夠讓你盡可能多次地拿起手機並查看它。這就是為什麼我對那些因為花費大量時間查看 Instagram 而對自己生氣的人感到非常難過。你沒有公平競爭。你輸了一場被操縱的比賽。Meta 之所以這樣做，並不是因為他們是徹頭徹尾的邪惡，而是因為他們覺得他們的業務模式要求他們這樣做。所以，除非這些模式改變，否則，Nilay，Meta 不會是尋求青少年安全道德領導的地方。
最後一塊拼圖，我還沒有真正觸及，但它絕對是一條貫穿始終的線索，那就是第一修正案，言論自由。我們正在談論的平台控制著全國幾乎所有人的大量言論，而且是持續不斷的。當你談論改變這些平台的限制以及它們的責任以及它們的產品如何運作時，你實際上是在談論言論在美國的放大和傳播方式。
有很多人建立了一整套業務，基於對 Meta 如何讓他們的內容病毒式傳播的理解。你可能對這些業務是什麼、它們看起來如何以及它們對青少年大腦造成的影響有很多感受，但有很多人在這些平台的基礎上建立了非常龐大的業務。
我們是否將直接衝擊第一修正案？這是否不可能？Mike Masnick，他經營 Techdirt——他剛上過節目，是個好朋友——認為這是第一修正案的災難。Taylor Lorenz，一個朋友，認為這是第一修正案的災難。他們的論點是，你無法將產品與言論分開。產品本身沒有意義。問題在於產品正在分發的言論。
所以，你只是想透過讓產品對任何損害負責來繞道進入言論監管。我的一部分人相信這一點，但 Casey，我知道你認為你可以將兩者分開。
CN：我同意這很棘手，我們應該小心，訴訟通常不是解決這些問題的最佳方式，因為總的來說，我寧願讓立法者和政策制定者撰寫非常謹慎的版本。同時，為什麼無限滾動是言論？為什麼連續打卡是言論？為什麼自動播放影片是言論？在某個點上，你可以讓自己完全想到：「為什麼我們要讓福特在汽車上安裝安全帶？你在強迫速度。」不，你在強迫安全帶。一旦發現產品存在安全問題，你就應該能夠強制執行產品安全功能。
現在我應該說，有些事情我實際上很想強迫這些平台去做，但這些事情顯然是違憲的。我很想強迫他們向兒童展示教育內容，就像國會曾經通過一項法律，規定廣播公司每週需要提供至少三小時的教育節目一樣。
我認為這對社會非常有益。結果是，至少當它應用於社群媒體時，這顯然是違憲的。所以我確實認為你必須非常小心，但如果你要告訴我，每個社群媒體應用程式的每一個產品功能都是言論，那麼你就是在為這些平台辯護，這讓我覺得很不舒服。
Lauren，我一直在思考的一件事是，在一個平台直接透過 AI 生成越來越多內容的世界裡，230 條款會發生什麼？Google 的 AI 總覽，那可能是 Google 的言論，儘管它是從數百萬個網站上的其他人的言論中合成的。這些監管機制或試圖改變這些法律的嘗試是否考慮到了這個問題？
LF：這將是我們將面臨的新狂野西部，可能會有新的訴訟。但即使是我們今天多次討論過的 Ron Wyden 也說，AI 輸出不一定受到第 230 條款的保護。這些很可能被區別對待。在看到法院的判決之前，我們不會真正知道，但這將是一個大問題。要記住的一點是，第 230 條款實際上是一個程序性工具，可以阻止訴訟的進行，而案件最終如何決定是基於第一修正案。除非你要廢除第一修正案，否則廢除第 230 條款並不能完全消除一些人認為他們會遇到的問題。
CN：我想問你們對某件事的看法，因為我還在思考這個問題。我們之前在談論是什麼具體功能導致了 Kaley 和這些指標性案件中的其他一些人的心理健康問題？我懷疑自動播放影片、無限滾動、無休止的推播通知都有關係。我懷疑最強的因素是演算法個人化。這是「我搜尋了一個關於如何變瘦的影片，然後突然之間我就陷入了飲食失調內容的噩夢般的荒原。這實際上加劇了我的憂鬱症並加劇了我的飲食失調症。」
作為一個社會，我認為我們想阻止這種情況發生。我們不希望你陷入那個兔子洞。我們不希望你發展出那種飲食失調症。我們能監管嗎？這實際上是我認為最棘手的問題。因為一方面，我可以看到國會通過一項法律說：「嘿，如果你未滿 16 歲，我們只想禁用演算法個人化，至少在個人層面上。也許我們會將你分組，說『美國 16 歲的青少年似乎喜歡這類內容，我們對此沒意見。但我們個人會為你阻止，因為我們不希望你陷入兔子洞。』」但這在第一修正案下是否合憲？我不知道。我只是好奇你們對此有何看法。
我一直在思考這個問題，並不斷回想起 Barack Obama 在 Decoder 上的節目，我們談論了很多監管 AI 的問題，他談論監管 AI，因為他覺得自己在監管社群媒體方面失敗了，你可以看到他腦中的聯繫。他很清楚地說：「我們搞砸了社群媒體。我們必須把 AI 做好。」我一遍又一遍地問第一修正案的問題。「你打算如何克服第一修正案？」
最後他說：「看，你只需要一個切入點。你只需要找到一個切入點，就像我們找到一個切入點來監管廣播電視一樣。」就廣播電視而言，切入點非常明顯，對吧。頻譜有限，它是稀缺的公共資源，所以我們可以制定一些規定來確保我們充分利用該資源。
你可以立即看到其中的危險，那就是 Brendan Carr 對廣播電視擁有權力，而現在我們在這個國家有一個不受約束的言論監管者。這不好。同時，Barack Obama 說「你只需要一個切入點」的想法，反映了法律中的標準，稱為嚴格審查，如果你能夠實現一個引人注目的政府目的，並且是經過嚴格量身定制的，你就可以在第一修正案下進行言論監管。
這些是詞語和先例：「嚴格審查」、「嚴格量身定制」、「引人注目的政府利益」。我不希望一群 16 歲的女孩患上飲食失調症。這似乎是一個非常引人注目的政府利益。你可以制定一個非常嚴格量身定制的規則來實現它。我非常好奇這是否是我們將要說的未來：「這些東西會造成傷害。這裡有一條規則可以阻止這種內容。憑藉 AI 的力量，Mark Zuckerberg，你現在可以偵測所有 GPU，偵測飲食失調內容，並清除這些社群。」
我認為這同樣糟糕。這和 Brendan Carr 作為一個不受約束的言論監管者一樣糟糕。這只是一堆政府言論監管。但如果 230 條款阻止了對平台的集體訴訟，因為正如 Lauren 所說，它是一個程序性機制，說「你根本不能告我們。」如果你必須透過「這是產品設計功能」的這些障礙，但沒有人能確定具體的產品設計功能，我認為許多州監管機構將會說：「看，有些事情我們知道是壞的，我們將通過這些法律，並將它們提交給最高法院說：『這些是嚴格量身定制以滿足引人注目的政府利益。』」
我不知道這是否會這樣發展。我懷疑它會開始，我當然不知道這是否是好事，但你可以看到這是這裡的下一個逃生艙，因為這是美國規範言論的法律標準。
LF：Casey，這正是關於演算法的正確問題，因為與其說是無限滾動或自動播放，不如說它更容易爭辯，這不是關於內容。這甚至不是平台的一個重大決策，而是公司選擇編寫其演算法以推薦或不推薦內容，這些都是他們深思熟慮的選擇。我們已經有一個最高法院的判決說，內容審核基本上是編輯自由裁量權。這就是事情變得非常棘手的地方。你說得對，這正是那些主張這些變革的人希望看到的改變，但這可能是最棘手的。
[The Verge 的] Adi Robertson 很久以前為我們寫過一篇關於美國如何背棄第一修正案的文章。這種想法是我們都關心言論自由，每個人都這樣說，然後你深入探究，每個人都想要比以前多一點言論監管。而且這種情況一直在增長。
即使是那些說「我愛 Elon」的人，我們也在看 Elon Musk 和 Sam Altman 的文字訊息，Mark Zuckerberg 寫給 Elon Musk，Zuckerberg 說：「我將刪除所有識別 DOGE 中人物的內容。」Elon 說：「太好了。你想和我一起買 OpenAI 嗎？」自由言論鬥士先生說：「是的，刪除那些東西。」而 Zuckerberg 說：「我永遠不會再向政府屈服。」他正在給政府僱員發電子郵件說：「我正在刪除政府僱員的名字。」這對我來說太瘋狂了。
看來我們正進入一個政府對言論施加更大壓力的時期。每個人都比以前更能接受它。而我們仍然假裝我們都最關心言論自由。Casey，這在信任與安全方面感覺像是一場噩夢。你在關於 Trump 2 的文章開頭寫道，信任與安全已經失寵，沒有人再反擊了。那是一段時間以前的事了。現在感覺如何？
CN：我寫了這篇文章，標題是「還有誰會為信任與安全辯護嗎？」信任與安全曾經是科技行業中一個非常響亮的聲音，他們倡導了許多良好的親社會公民價值觀。他們談論人權。他們試圖將人權原則融入平台在審核內容時所遵循的政策中。我自然地對他們有好感。在我看來，他們是好人。
然後川普重新掌權。發生了一系列裁員。幾乎所有平台都決定，他們最好的做法是試圖討好川普政府。而所有這些人都被排擠了。那些最積極倡導人權原則的人消失了，突然之間，你有了像 Meta 的 Joel Kaplan 這樣的人來管理政策運營。他的主要工作基本上是讓 Donald Trump 喜歡 Mark Zuckerberg，並試圖確保他們得到他們想要的任何東西。
順便說一句，這對他們非常有效。Mark Zuckerberg 從 Donald Trump 那裡得到了令人難以置信的東西，而且我相信隨著時間的推移，他還會得到更多。我從信任與安全社群那裡收到了很多反對意見，當我寫這篇文章時，我基本上是在批評他們，就像在說：「嘿，你們在哪裡？你們真的會站出來說：『嘿，我們行業發生的事情真的很糟糕嗎？』」而他們非常合理地告訴我：「我們沒有你認為我們擁有的權力。當我們發聲，當人們知道我們的名字時，我們會收到死亡威脅，我們會被追殺到天涯海角，這真的很可怕。你要求我們犧牲生命來為這些原則發聲。這是一個很大的要求。」所有這些都是合理的。
然而，快轉到將近一年後，我認為這個問題仍然存在。當這些人停止發聲時，他們就讓寡頭們隨心所欲地經營這些平台。這對我來說是一個非常可怕的事情，信任與安全在任何這些平台上都不再有意義，除了作為一種合規功能，讓他們遵守各種法規。結果就是，現在你只有一群寡頭在 Signal 上交換好處。
Lauren，我想和你一起結束。顯然，這方面的監管方面正處於全速狀態，對吧？他們有一些東西，至少表明 Meta 是壞的，YouTube 是壞的，你可以採取一些行動。你認為接下來會發生什麼？
LF：我們將在國會看到很多關於是否通過新法律廢除第 230 條款的討論。但我們看到大部分行動發生在各州。我們可能會繼續看到這種情況發展。在法庭上，我們將看到這些案件被上訴。同時，我們將看到新的案件被提起。在洛杉磯的案件中，仍然有超過 1500 起案件緊隨其後。還有幾起指標性審判，僅在這組案件中，已經安排好了。下一次將在幾個月後。在聯邦版本的這些案件中，還有一個完全不同的指標性審判組，第一個將在六月開始。
有學區、州檢察長、個人原告。這根本不會減慢。如果說這些審判做了什麼，那就是揭示了這些公司如何運作的許多資訊。你只是讓公眾對孩子們使用社群媒體時應該考慮和意識到的事情有了更多的認識。
這感覺就像是對目前在美國的經歷的完美描述。他們將在全國各地制定一團糟的政策，直到每個人支付足夠的錢給遊說者來通過一項解決問題的法律。這感覺既是最虛無主義、最犬儒的說法，也是一切的運作方式。你們兩位看到有什麼出路嗎？
CN：近期歷史表明，沒有，真的沒有出路，因為再次強調，所有動機都是為了讓這些公司盡可能長時間地吸引你關注他們的應用程式。除非這些動機帶來的痛苦比它們帶來的收入和對股價的影響更大，否則我看不出有什麼重大改變。
Lauren，政策制定者是否意識到他們被困在這個惡性循環中？
LF：是的。那些決定 KOSA 是出路、廢除第 230 條款是出路的政策制定者，他們的重點就在於此。我不認為有關於我們應該如何做的新的討論。我們已經看到了一些較新的方法，例如應用程式商店年齡驗證，以及關於這可能如何工作的不同變體，無論是真實驗證還是保證。
政策制定者已經選擇了他們認為的解決方案，這就是對話的進展方式。如果人們想改變對話機制的運作方式，他們真的需要...