但一項新研究顯示,工作用途在整體使用情況中所佔的比例,比 AI 公司聲稱的要少。

像 Anthropic 和 OpenAI 這樣的 AI 公司會定期發布關於人們如何使用 Claude 和 ChatGPT 等產品的報告,但 AI 研究人員表示,這些公司只會公布我們想看到的部分數據。

史丹佛大學可信賴 AI 研究實驗室(STAIR Lab)的電腦科學博士候選人 Anka Reuel 表示:「沒有獨立的來源可以佐證這些說法。」

Reuel 是「AI Observatory」這項新研究計畫的共同主持人,該計畫旨在填補這一差距。這是一個公開平台,彙整並分析了透過七個現有數據集、在使用者同意下收集到的與 Claude 和 Gemini 等熱門模型之間的真實 AI 對話。其目的是提供獨立的資訊來源,協助研究人員和政策制定者評估人們如何使用生成式 AI。Reuel 認為,目前關於 AI 的益處和風險的重大決策,都是基於非常有限的數據做出的。

AI Observatory 發現,AI 的使用方式在不同模型之間存在顯著差異,並且隨著時間而改變。其研究顯示的敏感行為比主要 AI 公司報告中所涵蓋的要多得多,而這些公司聲稱其報告更側重於工作而非個人用途。

Anthropic Economic Index 是最知名、引用最廣泛的 AI 使用數據來源之一,但它存在盲點。顧名思義,它側重於 Claude AI 的工作和生產力相關用途,過濾掉與這些用途無關的對話。

當 AI Observatory 的研究人員將 Anthropic 的方法應用於他們自己的數據集時,他們發現近一半的對話(48%)會被過濾掉。這些非工作相關的對話更有可能涉及健康和人際關係(44.2% 對於 Anthropic 分析中的 31.2%)、成人或非法話題(7.9% 對於 2.1%)、騷擾和仇恨言論(27.5% 對於 5.66%)以及色情內容(16.7% 對於 2.4%)。(OpenAI 2025 年關於 ChatGPT 的報告也類似地發現,只有 30% 的消費者用途與工作相關。)

Anthropic 曾發布獨立的部落格文章,說明人們如何使用 Claude 尋求支援或陪伴,甚至生成兒童性虐待材料(CSAM),但德州大學奧斯汀分校助理教授 David Widder 表示,擁有「AI Observatory 的鳥瞰式分析」,而不是將這些資訊「分門別類地放在獨立報告中」,有助於研究人員更一致地理解不同的用途。Widder 研究人們如何與 AI 系統互動,並未參與 AI Observatory。

AI Observatory 研究的數據集包括 2023 年至 2025 年間發生的對話,並發現人們使用 AI 的方式以及各種 AI 平台的反應都存在差異。

在 WildChat 中,這是 AI Observatory 研究中最大、最詳細的數據集之一,對話隨著時間的推移變得越來越長、越來越複雜,這從提示詞代幣、回應代幣和對話輪數的增長中可見一斑。

隨著時間的推移,閒聊的內容也顯著增加。這表明 AI 陪伴的需求正在增加;同時,AI 助手的自我揭露(即承認自己是聊天機器人)的比例卻在下降。

此外,研究人員標記為敏感的交流——即包含潛在有害或受限制內容,包括性騷擾和仇恨言論——變得不那麼頻繁。這可能表明平台普遍部署了更有效的安全措施。

AI Observatory 還發現,主題、互動風格、對話結構,以及敏感用途的可能性和類型,因模型而異。

例如,研究人員發現人們更頻繁地使用 Grok 和 Gemini 來檢索資訊。特別是 Grok,在新聞和政治資訊方面特別受歡迎,但錯誤資訊也往往集中在這裡。(這與其他研究顯示的錯誤資訊在 Grok 上傳播的程度一致。xAI 未回應置評請求。)

同時,人們更傾向於向 Anthropic 尋求程式碼相關的協助,向 Gemini 尋求社交和角色扮演用途,而向 ChatGPT 尋求家庭作業協助。

即使是同一模型的不同版本之間也存在差異。研究人員發現,當 ChatGPT 由 GPT-3.5 提供支援時,人們的對話時間較短;而與 GPT-4o 互動時,對話時間更長且更具迭代性——這是有道理的,因為該版本以導致情感成癮而聞名。

然而,公司的報告往往未能捕捉到這些模型之間甚至模型內部的細微差別。與 Reuel 共同領導該研究的 MIT Media Lab 近期博士畢業生 Shayne Longpre 表示:「沒有任何一家公司的報告能講述全部故事。」

為了創建 AI Observatory,Reuel 和來自 MIT、史丹佛大學、Data Provenance Initiative 等機構的研究人員,彙整了來自七個真實世界數據集的 85,633 個對話輪(即使用者提示詞和相應的 AI 回應),這些數據集來自先前研究收集,涵蓋了 2023 年至 2025 年間 5,000 名使用者與 52 個不同模型(包括 ChatGPT、Gemini、Claude 和 Grok)的互動。

但與大型實驗室本身擁有的數據相比,這些對話只是滄海一粟。例如,最新的 Anthropic Economic AI Index 是基於對 100 萬次 Claude 對話的分析;OpenAI 關於人們如何使用 ChatGPT 的報告分析了 150 萬次對話。

一位 Anthropic 代表表示,該公司發布的研究反映了其研究團隊特定的問題和興趣,支持外部獨立研究很重要。OpenAI 未回應置評請求。

AI Observatory 的數據集來源於自願提供的來源,這意味著它可能低估了敏感用途的比例,因為人們可能不太願意分享這些內容。因此,研究人員謹慎地指出,其發現並不能代表所有 AI 的使用情況。

然而,該計畫的工作擴大了研究社群的獲取管道。獨立研究人員如 Reuel 和 Widder 表示,AI 公司通常不會分享他們的聊天數據供分析,這意味著他們的報告傾向於關注那些讓他們看起來最好的發現。

Widder 解釋說:「當我們想問,例如:Anthropic 的通用 AI 系統……是主要用於做好事還是壞事……我們無法回答這個問題,因為這些資訊是專有的。」

AI Observatory 的數據將提供給研究人員進行分析,該團隊希望隨著時間的推移擴大其數據集。Reuel 表示,理想情況下,AI 公司會與獨立研究人員分享他們的數據——當然,是以保護使用者隱私的方式。但她說,目前的情況是,任何根據 AI 使用數據做決策的人,都冒著「完全在野外操作,並在不知道公司敘事之外實際發生了什麼的情況下,做出這些真正重大的決策」的風險。