社交媒體巨頭在內部研究其算法如何利用憤怒促進用戶互動後，做出決策，導致更多有害內容出現在用戶的資訊流中，爆料者向BBC透露。

超過十多位爆料者和內部人士揭露，這些公司在涉及暴力、性勒索和恐怖主義等安全議題上冒險，以爭奪用戶注意力。

Meta（擁有Facebook和Instagram）的一名工程師描述，他被高層指示允許更多「邊緣」有害內容——包括厭女症和陰謀論——出現在用戶資訊流中，以與TikTok競爭。

「他們告訴我們這是因為股價下跌，」該工程師說。

一名TikTok員工向BBC罕見展示了公司內部用戶投訴儀表板及其他證據，顯示員工被指示優先處理涉及政治人物的案件，而非多起涉及兒童的有害內容報告。

TikTok員工表示，決策是為了「維持與政治人物的良好關係」，以避免監管威脅或禁令，而非基於用戶風險考量。

接受BBC紀錄片《憤怒機器內幕》採訪的爆料者，提供了行業如何應對TikTok爆炸性成長的近距離觀察。TikTok的短影片推薦算法高度吸引人，顛覆了社交媒體生態，讓競爭對手急於追趕。

Meta高級研究員Matt Motyl表示，為了與TikTok競爭，2020年推出的Instagram Reels缺乏足夠的安全防護。內部研究顯示，Reels上的留言中，霸凌與騷擾、仇恨言論及暴力或煽動行為的比例明顯高於Instagram其他部分。

另一名前Meta高層透露，公司投入700名員工擴展Reels，但安全團隊卻被拒絕增聘兩名專責兒童保護的員工及十名選舉誠信相關人員。

Motyl向BBC提供數十份他稱為「高層研究文件」，揭示這些平台對用戶造成的各種傷害。其中一份證據顯示Facebook明知其算法存在問題。

該算法為內容創作者提供了一條「以犧牲觀眾福祉換取利潤最大化的路徑」，且「我們算法所創造的財務激勵與我們讓世界更緊密相連的使命並不一致」，一份內部研究指出。

研究還說，Facebook可以「選擇無所作為，繼續餵用戶快餐式內容，但這種做法只能持續一段時間」。

對爆料者的指控，Meta回應：「任何聲稱我們為了財務利益故意放大有害內容的說法都是錯誤的。」TikTok則稱這些是「捏造的指控」，並表示公司投資技術防止有害內容被觀看。

TikTok前機器學習工程師丁若凡表示，算法是一個「黑盒子」，內部運作難以被審視。

他說，建立完全安全的系統非常困難，「我們無法控制深度學習算法本身」。

工程師們不太關注貼文內容，「對我們來說，所有內容只是ID，不同的數字」。

他們依賴內容安全團隊確保有害貼文被移除，避免算法推廣，並將這種合作比喻為汽車不同部件團隊的關係。

丁若凡說，TikTok為了每週優化算法以爭取更多市場份額，開始看到更多「邊緣」內容或問題貼文，這些內容通常在用戶瀏覽一段時間後才出現。

「邊緣內容」是社交媒體公司用來描述有害但合法的貼文，包括厭女症、種族歧視、性化內容及陰謀論。

青少年告訴BBC，用戶反映不想看到問題內容的系統無效，他們仍在主要社交媒體平台上被推薦暴力和仇恨內容。

一名19歲的青少年Calum表示，他從14歲起就被算法「激進化」。算法推送激起他憤怒的內容，導致他採納種族主義和厭女觀點。

他說這些影片「激勵了我，但不是以好的方式」，「讓我非常生氣，反映了我內心的感受，我對周圍的人感到憤怒」。

英國反恐警察專家分析每年數千則社交媒體貼文，近月來見證反猶、種族主義、暴力及極右貼文的「正常化」。

一名警官說：「人們對現實世界的暴力變得麻木，不怕表達自己的觀點」。

2025年數月間，BBC定期與TikTok信任與安全團隊成員Nick聯繫，並獲得其筆記型電腦上公司內部儀表板的查看權，該儀表板詳列其團隊處理的案件及回應方式。

Nick說：「如果你每天因被指示執行的工作感到內疚，某個時候你會想，我該不該說點什麼？」

他補充，案件量龐大難以有效保障用戶安全，尤其是青少年和兒童風險更高。裁員及部分審核團隊重組（部分職位由AI取代）限制了有效處理此類內容的能力。

爆料者指出，與恐怖主義、性暴力、肢體暴力、虐待和人口販運相關的內容似乎在增加。

他說，TikTok實際推薦的內容與對有害內容的處理，與公開聲稱的情況「在很多方面非常不同」。

Nick向BBC展示證據，顯示TikTok將一些涉及政治人物的相對輕微案件列為安全團隊優先處理，優先於多起涉及青少年的有害案件。

例如，一名政治人物被嘲笑像雞的案件，優先於一名17歲法國青少年報告遭受網路霸凌和冒名頂替，以及一名16歲伊拉克青少年投訴其性化圖片在App上被分享。

談及伊拉克案件，Nick說：「該國風險極高，因為涉及未成年和性勒索，但優先級卻不高。」

他還展示一些鼓勵加入恐怖組織或犯罪的貼文未被列為最高優先級的例子。

當信任與安全團隊要求優先處理青少年案件時，爆料者說，他們被告知不要這麼做，必須按照既定排名處理案件。

Nick認為，優先排序的原因是公司最終更在意與政治人物和政府維持「強大關係」，以避免監管或禁令，這對業務有害，遠勝於兒童安全。

他說，當他和其他員工向管理層反映這些問題時，管理層並不接受，因為他們「並非每天接觸這些內容」。

Nick對有孩子使用TikTok的家長直言：「刪除它，盡可能讓孩子遠離這個App，越久越好。」

TikTok否認政治內容優先於青少年安全，稱此說法「根本曲解了其審核系統的運作方式」。

Nick所在團隊是更大安全系統的一部分，該系統有多個團隊負責審查內容投訴。TikTok表示：「特定議題的專門工作流程不會導致兒童安全案件被降級，這些案件由平行審查結構中的專責團隊處理。」

TikTok發言人說，批評「忽視了TikTok如何幫助數百萬人發現新興趣、找到社群並支持創作者經濟的現實」。

公司表示，青少年帳號有超過50項預設安全功能和設定自動啟用，並投資技術防止有害內容被觀看，維持嚴格推薦政策，並提供用戶自訂體驗的功能。

2020年，當Reels作為Instagram的一部分推出時，算法競賽加劇，這是對TikTok在新冠疫情期間席捲全球的回應。

Matt Motyl曾任Facebook及其繼任公司Meta的高級研究員，他說這是公司試圖「模仿」TikTok推出的「獨特產品」。

他2019至2023年間的工作是「對數億用戶進行大規模實驗」，用戶通常「毫不知情」，測試內容在資訊流中的排名。

他說：「Meta的產品用戶超過30億，能讓你停留越久，賣出的廣告越多，賺的錢越多。但他們必須做好這件事，因為做不好會造成非常嚴重的後果。」

談到Reels，Motyl說公司採取「不管對用戶影響多大，盡快推進」的策略。他說存在「保護用戶免受有害內容與提升互動率之間的常見權衡」。

根據他分享給BBC的一份研究報告，Reels推出後難以防止傷害，留言中霸凌與騷擾比主Instagram動態高出75%，仇恨言論高19%，暴力與煽動高7%。

他說安全團隊必須獲得Reels團隊同意才能推出改善用戶安全的新產品或功能，Reels團隊因「有毒內容比非有毒內容互動多」而有動機阻止這些產品上線。

Brandon Silverman是社交媒體監控工具Crowdtangle創辦人，該工具2016年被Facebook收購，他參與過當時的高層討論，描述CEO馬克·祖克柏格對競爭非常「偏執」。

「當他覺得有競爭威脅時，沒什麼錢是花不下去的，」Silverman說。

他說當時看到安全團隊難以獲批增員，而公司重點放在擴展Reels，「另一個團隊剛拿到700人，我就覺得，喔，好吧」。

一名前Meta工程師Tim說，為了與TikTok競爭，網站允許更多邊緣有害內容。他的團隊原本專注於減少這類內容，直到「商業定位」改變。

Tim說：「你輸給TikTok，股價必須受影響。大家開始變得偏執和反應過度，想盡辦法追趕，看看下季度能多賺2%、3%的收入。」

他說停止限制可能有害但不違法且用戶互動高的內容，是由一位高級副總裁決定，該副總裁據他了解直接向祖克柏格匯報。

當Facebook辯稱自己只是「社會的鏡子」時，Motyl分享給BBC的內部文件揭示，公司知道自己在放大激起憤怒甚至煽動傷害的內容。

文件指出，敏感內容（包括觸及道德信念或煽動暴力的貼文）更容易引發反應和互動，尤其是激起憤怒時。

「鑑於不成比例的互動，我們的算法假設用戶喜歡這些內容並想要更多，」研究說。

Silverman說，Meta領導層起初對平台上的有毒內容反應不確定，曾有一段時間公司「真誠反思」。

但他說，他們的態度「開始變得防禦性」，認為「我們不必對社會極化負全部責任」。

「沒有人說你要負全部責任，我們只是說你促成了極化，且可能是本可避免的。如果你做些改變，可能不會促成那麼多，」Silverman說。

Meta發言人否認爆料者指控，表示：「事實是，我們有嚴格政策保護平台用戶，過去十年在安全和保障上投入大量資源。」

公司說已「實際改變以保護青少年上網安全」，包括推出具備內建保護和家長管理工具的新青少年帳號功能。