在感知未來高峰會（Sentient Futures Summit）上，動物福利倡導者們推動AI關注動物，並探討AI是否可能擁有感知能力。

二月初，動物福利倡導者與AI研究者齊聚舊金山一家別緻、禁止穿鞋的共享辦公空間Mox。黃紅色的帳篷在頭頂飄揚，波斯地毯鋪滿地板，馬賽克燈飾在盆栽旁發光。

在公共區域，一位野生動物倡導者對著坐在豆袋椅上的聽眾，熱情地介紹一種可以不使用毒藥來控制鼠群數量的囓齒動物生育控制方法。在「甲殼類房間」裡，十幾個人圍成一圈，辯論昆蟲的感知能力是否能告訴我們關於聊天機器人內心世界的任何事情。在「牛科房間」前，書架上堆滿了伊萊澤·尤德考斯基（Eliezer Yudkowsky）的著作《如果有人建造它，每個人都會死》，這是一份論證AI可能毀滅人類的宣言。

這次活動由Sentient Futures主辦，該組織相信動物福利的未來將取決於AI。與許多灣區居民一樣，與會者們堅信「通用人工智能（AGI）」——即在大多數認知任務上能與人類競爭的強大AI——即將到來。他們認為，如果這是真的，那麼AI將很可能成為解決社會最棘手問題的關鍵，包括動物的痛苦。

需要說明的是，專家們仍然激烈爭論今天的AI系統是否會達到人類或超人類水平的智能，以及如果達到會發生什麼，目前尚不清楚。但一些會議的與會者設想了一種可能的未來，屆時將由AI系統而非人類來做決定。他們認為，最終，動物的福祉可能取決於我們是否已訓練AI系統重視動物的生命。

「AI將會帶來巨大的變革，它將徹底改變遊戲規則，」Sentient Futures創始人康斯坦斯·李（Constance Li）說。「如果你認為AI將做出大多數決定，那麼它們如何看待動物和其他有感知能力的生物——那些能夠感受並因此遭受痛苦的生物——就變得非常重要。」

像李一樣，許多峰會的與會者在AI出現之前就一直致力於動物福利。但他們不是那種捐一百美元給動物收容所的人。他們不關注本地行動，而是優先考慮更大規模的解決方案，例如通過推廣培養肉（在實驗室中從動物細胞培養而成）來減少工業化養殖。

灣區的動物福利運動與「有效利他主義」（effective altruism）緊密相連，這是一個致力於最大化個人對世界貢獻的慈善運動——事實上，許多與會者都在由有效利他主義者資助的組織工作。這種哲學在紙面上聽起來很棒，但「最大化善」是一個棘手的難題，可能沒有明確的解決方案。該運動因其領導者過去倡導的一些解決方案而受到批評，例如在剝削性行業工作以最大化慈善捐款，以及最近，將尚未出生的大量人口可能遭受的痛苦問題置於當前傷害之上。批評者還認為，有效利他主義者忽略了種族主義和經濟剝削等系統性問題的重要性，並且忽視了邊緣化社區可能對改善自身生活方式的見解。

在動物福利方面，這種極端功利主義的方法可能導致一些奇怪的結論。例如，一些有效利他主義者認為，投入大量資源來改善昆蟲和蝦的福祉是有意義的，因為它們的數量驚人，即使它們個體遭受痛苦的能力可能不高。

現在，該運動正在理清AI如何融入其中。在峰會上，一個名為「機器學習中的同情心」（Compassion in Machine Learning）的非營利組織聯合創始人賈絲敏·布拉齊萊克（Jasmine Brazilek）打開了她貼滿貼紙的筆記本電腦，展示了一個她設計的基準，用於衡量大型語言模型（LLMs）如何推理動物福利。這位從事雲端安全工程師轉型的動物倡導者，從墨西哥的拉巴斯飛來，她在當地與幾位志願者和極少的預算一起經營她的非營利組織。

布拉齊萊克敦促在場的AI研究者使用反映動物福利關切的合成文檔來訓練他們的模型。「希望未來的超級智能系統能夠考慮非人類的利益，並且存在一個AI能夠放大人類最佳價值而非最壞價值 Thus, the welfare of animals could hinge on whether we’ve trained AI systems to value animal lives.」她說。

動物福利運動中技術傾向的一面近年來面臨一些重大挫折。將人們從依賴工業化養殖的飲食轉變的夢想，因像植物肉公司Beyond Meat股價暴跌以及美國多個州通過禁止培養肉的法律等發展而受到打擊。

但這次活動的真正焦點是預計將很快投入動物福利慈善機構的大量資金——不是來自個人巨額捐助者，而是來自AI實驗室的員工。

農場動物福利運動（包括倡導改善農場條件、推廣素食主義和支持培養肉的非營利組織）的大部分資金來自科技行業的人士，Coefficient Giving（一家過去稱為Open Philanthropy的慈善基金會）的農場動物福利基金董事總經理劉易斯·博拉德（Lewis Bollard）說。Coefficient Giving由Facebook聯合創始人達斯汀·莫斯科維茨（Dustin Moskovitz）及其妻子凱莉·圖納（Cari Tuna）支持，他們是幾位擁抱有效利他主義的矽谷億萬富翁之一。

「這是一個傳統慈善機構（如蓋茨基金會和福特基金會）完全被忽視的領域，」博拉德說。「主要是科技界的人對此持開放態度。」

博拉德預計，下一代的大捐助者將是AI研究者——特別是那些在開發聊天機器人Claude的AI實驗室Anthropic工作的人。Anthropic的創始團隊也與有效利他主義運動有聯繫，並且該公司有一個慷慨的捐款匹配計劃。二月份，Anthropic的估值達到3800億美元，並允許員工選擇將他們的股權變現，因此部分資金可能很快就會流入慈善金庫。

新的資金前景在峰會上持續引發熱烈討論。動物福利倡導者們聚集在「節肢動物房間」，在白板上潦草地寫下大筆金額和項目的醒目縮寫。有人提出了一個1億美元的動物超級政治行動委員會（super PAC），將派遣工作人員與國會議員合作，遊說動物福利立法。有些人想創辦一家媒體公司，在TikTok上製作推廣素食主義的AI生成內容。其他人則談論將動物倡導者安插在AI實驗室中。

「新的資金量確實讓我們更有信心大膽地採取行動，」Shrimp Welfare Project（一個旨在通過人道屠宰等措施減少養殖蝦痛苦的組織）的聯合創始人亞倫·博迪（Aaron Boddy）說。

但動物福利只是感知未來高峰會的一半重點。一些與會者探討了更為深奧的領域。他們嚴肅對待一個有爭議的想法，即AI系統有一天可能會發展出感受痛苦的能力，並擔心這種未來的AI痛苦如果被忽視，可能構成一場道德災難。

AI痛苦是一個棘手的研究問題，不僅因為科學家們尚未牢固掌握人類和其他動物為何有感知能力。但在峰會上，一個由有效利他主義運動資助的狹窄哲學家群體，以及一些思想自由的學者，都在努力解決這個問題。一些人展示了他們使用大型語言模型來評估其他大型語言模型是否可能具有感知能力的研究。在辯論之夜，與會者們爭論我們是否應該諷刺地稱有感知能力的AI系統為「clankers」（來自電影《星球大戰》中對機器人的貶稱），並探討這種機器人貶稱是否會影響我們如何對待一種新的心智。

「無論是牛、豬還是AI，只要它們有能力感受快樂或痛苦，就無關緊要，」李說。

在某些方面，將AI感知能力帶入動物福利會議並不像看起來那麼奇怪。從事機器感知能力研究的研究人員經常借鑒動物感知能力研究開創的理論和方法，如果你接受無脊椎動物很可能感到疼痛，並且相信AI系統可能很快達到超人類智能，那麼考慮這些系統也可能遭受痛苦的可能性，可能並不是一個很大的飛躍。

「動物福利倡導者習慣於逆流而動，」智庫Rethink Priorities的AI意識研究員德里克·希勒（Derek Shiller）說，他曾是動物倡導非營利組織Humane League的網絡開發人員。「他們更願意關注AI的福祉，儘管其他人認為這很愚蠢。」

但在狹窄的灣區圈子之外，關心AI感知能力的潛在可能性更難讓人接受。李說，在她於2023年參加了一次關於AI感知能力的會議後，將她的農場動物福利倡導組織改名為Sentient Futures後，她面臨來自其他動物福利倡導者的反對。「許多人堅信AI永遠不會有感知能力，並認為通過投入任何精力或金錢來研究AI的福祉，我們只是在浪費金錢。」她說。

Compassion in World Farming的執行董事馬特·多明格斯（Matt Dominguez）也表達了擔憂。「我非常不希望看到人們將資金從農場動物福利或動物福利中抽離，轉而投入到目前仍然是假設性的事物中。」他說。

儘管如此，多明格斯在了解了無脊椎動物的痛苦後開始與Shrimp Welfare Project合作，他相信同情心是廣泛的。「當我們讓一個人關心其中一件事時，這就為他們的同情圈擴大到包含其他人創造了能力。」他說。

米歇爾·金（Michelle Kim）是Tarbell Fellowship的成員，該獎學金部分由Coefficient Giving資助。

更新於3/25：本文已更新，以更好地描述有效利他主義社區曾受到批評的立場。

Subquadratic現已分享了其新模型的更多細節。但仍有人持懷疑態度。

A new technique has let the company probe deeper than ever into the weird workings of an LLM.

該公司正在將AI用於科學研究。

AI時代需要更快的芯片。ASML在生產這些芯片所需的昂貴設備方面擁有壟斷地位。有人能追趕上嗎？

發現特別優惠、熱門故事、即將舉行的活動等。

感謝您提交您的電子郵件！