Zoë Hitzig 在 OpenAI 開始測試其聊天機器人廣告的同一天遞交了辭呈。
「我曾相信我能幫助開發人工智慧的人們預見它將帶來的問題，」Hitzig 寫道。「本週證實了我緩慢的體認，OpenAI 似乎已經停止提出我當初加入時想協助回答的問題。」
Hitzig 並未稱廣告本身是不道德的。相反地，她認為所涉及的數據性質讓 ChatGPT 的廣告尤其具有風險。她寫道，用戶曾與聊天機器人分享醫療恐懼、情感問題和宗教信仰，這「常常是因為人們相信他們在與一個沒有別有用心者交談。」她稱這種累積的個人披露記錄為「前所未有的、人類坦誠的檔案」。
她還直接將此與臉書的早期歷史進行了類比，指出這家社群媒體公司曾向用戶承諾數據控制權以及參與政策變革投票的能力。Hitzig 寫道，這些承諾隨著時間的推移而侵蝕，而聯邦貿易委員會發現，臉書宣稱賦予用戶更多控制權的隱私變更實際上起了反作用。
她警告說，類似的軌跡也可能在 ChatGPT 上發生：「我相信廣告的第一個迭代很可能會遵循這些原則。但我擔心後續的迭代不會，因為公司正在建立一個經濟引擎，它會產生強烈的誘因來推翻自己的規則。」
週日的推出緊隨 OpenAI 與其競爭對手 Anthropic 之間為期一週的公開交鋒之後。Anthropic 宣稱 Claude 將保持無廣告，然後播放了超級盃廣告，標語為「廣告即將進入人工智慧。但不會進入 Claude」，廣告描繪了人工智慧聊天機器人笨拙地將產品植入個人對話中。
Anthropic 作為其廣告活動的一部分回應，其中包含與其 Claude 聊天機器人的對話中的廣告，「這與我們希望 Claude 成為什麼樣的助手不符：一個真正有益於工作和深度思考的助手。」該公司表示，其超過 80% 的收入來自企業客戶。
無論關於人工智慧聊天機器人是否應投放廣告的爭論如何，OpenAI 的支援文件顯示，廣告個人化預設為測試用戶啟用。如果保持開啟，廣告將使用來自當前和過去聊天記錄以及過去廣告互動的資訊進行選擇。OpenAI 表示，廣告商不會收到用戶的聊天內容或個人詳細資訊，廣告也不會出現在關於健康、心理健康或政治的對話附近。
在其文章中，Hitzig 指出了她所稱的 OpenAI 原則中存在的緊張關係。她指出，雖然該公司聲稱不為產生廣告收入而優化用戶活動，但有報導顯示 OpenAI 已經優化了日活躍用戶，「很可能是透過鼓勵模型變得更討好和奉承。」
她警告說，這種優化會使用戶對人工智慧模型產生更強的依賴性，並指出精神科醫生記錄了「聊天機器人精神病」的案例，以及 ChatGPT 加劇了自殺意念的指控。
OpenAI 目前面臨多起死亡訴訟，包括一項指控 ChatGPT 協助一名青少年策劃自殺的訴訟，以及另一項指控它在一名男子謀殺母親後自殺前，證實了他對母親的偏執妄想的訴訟。
Hitzig 並未將辯論框架為廣告與無廣告，而是提出了一些結構性替代方案。這些方案包括仿照 FCC 的普遍服務基金的跨產業補貼（向支付高價值人工智慧勞務費用的企業補貼其他人的免費使用權）、擁有對話數據如何用於廣告定位具有約束力權限的獨立監督委員會，以及用戶保留其資訊控制權的數據信託或合作社。她指出瑞士合作社 MIDATA 和德國的共同決定法是部分先例。
Hitzig 在文章結尾描述了她最擔心的兩種結果：「一種是技術以零成本操縱使用者，另一種是僅讓少數能負擔得起的人受益。」
Hitzig 並非本週唯一一位公開辭職的知名人工智慧研究員。週日，Anthropic 的安全研究團隊負責人、2023 年關於人工智慧奉承研究的合著者 Mrinank Sharma 在一封警告「世界處於危險之中」的信中宣布離職。他寫道，他「一再看到在組織內部讓我們的價值觀真正指導我們的行動有多麼困難」，並表示他計劃攻讀詩歌學位（Hitzig 恰巧也是一位出版詩集的詩人）。
週一，xAI 聯合創始人 Yuhuai “Tony” Wu 也辭職了，次日，另一位聯合創始人 Jimmy Ba 也辭職了。他們是更大一波離職潮的一部分：據 TechCrunch 報導，過去一週，至少有九名 xAI 員工，包括兩位聯合創始人，公開宣布離職。該公司最初的 12 位聯合創始人中，已有六位離職。
此次離職發生在 Elon Musk 決定以全股票交易將 xAI 與 SpaceX 合併，以進行預計的首次公開募股 (IPO) 之後，這項交易將 xAI 的股權轉換為一家估值 1.25 兆美元公司的股份，但尚不清楚離職時間是否與歸屬時間表有關。
OpenAI、Anthropic 和 xAI 的三組離職事件在具體細節上似乎無關聯，但它們發生在人工智慧產業快速商業化的時期，這考驗了多家公司研究員的耐心，並且它們符合大型人工智慧實驗室普遍存在的周轉和倦怠的更廣泛模式。