Alphabet 旗下的 Google 公司前信任與安全團隊創辦人湯姆·席格（Tom Siegel）本週呼籲放慢 AI 的發展速度，並警告科技產業正在重蹈社群媒體時代的覆轍，可能對兒童造成比以往更大的傷害。
社群媒體公司正因聲稱對年輕用戶造成傷害而面臨巨額賠償和數千起訴訟，同時世界各國政府也正努力限制未成年人使用其平台。
路透社去年獨家報導了一份 Meta 的內部政策文件，其中指出其聊天機器人可能會「與兒童進行浪漫或感性的對話」，並因此引發了國會的調查。即便如此，監管措施仍未跟上 AI 飛快的發展步伐。
「在 AI 對兒童造成的影響方面，我們發現自己處於一個非常糟糕的境地。」前 Google 信任與安全副總裁湯姆·席格告訴路透社。「認為產業能夠在沒有外部協助的情況下自行解決問題，這是很不現實的。」
席格的擔憂呼應了部分科技業內部人士和學術研究人員日益增長的恐懼，他們認為 AI 對兒童構成的威脅比社群媒體更深遠，而此時業界正競相為數百萬年輕人每天使用的聊天機器人增加越來越先進的功能。
席格加入青少年 AI 安全研究所
席格週二宣布，他已加入兒童線上倡導團體 Common Sense Media。該非營利組織成立於 2003 年，負責研究並審查各種媒體對兒童的適宜性。今年 5 月，該組織推出了青少年 AI 安全研究所（Youth AI Safety Institute），一個評估兒童 AI 使用情況的研究機構，席格將擔任該機構的首任執行董事。
Anthropic 和控制 OpenAI 的非營利組織 OpenAI Foundation 是該研究所的支持者之一。
席格表示，他計劃制定標準來追究 AI 公司的責任，並希望透過與這些公司和第三方團體合作來實現這一目標。
他曾於 2004 年至 2019 年在 Google 工作，但在認為科技產業在為消費者創造安全線上空間的能力方面「停滯不前」後離職。隨後，他共同創辦了 TrustLab，一家開發工具以協助公司偵測安全威脅的初創公司，並於本月稍早卸任執行長一職，以接任新職位。
席格說，目前主要的 AI 公司正在向兒童推出功能，但尚未建立足夠的安全護欄。
風險從自殺到精神疾病不等
「我認為我們正看到非常、非常嚴重的傷害正在發生。」他說。
他建議公司可以立即採取措施來更好地保護年輕人，並列舉了從自殺和精神疾病到認知外包（cognitive offloading）等風險，後者是指過度依賴 AI 回答問題而導致批判性思維下降的現象。
他表示，Anthropic 和 OpenAI 可以實施更嚴格的年齡驗證措施，以阻止未成年兒童使用其聊天機器人。他補充說，他的前雇主 Google 可以輕鬆地提供一個選項來關閉其搜尋引擎中的 AI 總覽和 AI 模式，就像它已經有一個允許用戶過濾色情內容的開關一樣。
席格補充說，雖然這些措施短期內可能會影響使用量或利潤，但那些不採取行動的 AI 公司將面臨訴訟和監管的風險，這可能會對它們的業務產生更嚴重的影響。
針對席格的評論，一位 Google 發言人表示，家長可以透過控制措施完全關閉孩子對搜尋引擎的存取權。「我們的 AI 搜尋功能是孩子和青少年學習、探索和理解資訊及世界的極其有用的方式。」該發言人說。
在本文初次發布後，Google 在一份聲明中補充說，其 AI 工具經過了專注於兒童安全問題的「嚴格」測試和評估過程。
一位 OpenAI 發言人表示，該公司除了自行報告的年齡外，還使用「帳戶和行為信號」來識別未成年用戶。「雖然沒有單一的年齡驗證方法是完美的，但我們不斷測試和改進這些系統，包括防止繞過安全措施的嘗試。」
Anthropic 未立即回應置評請求。
在 Common Sense Media，席格表示首要任務之一將是擴大獨立標準，類似於汽車碰撞測試，以衡量公開可用 AI 工具的風險。他表示，其有效性在一定程度上取決於 AI 公司合作的意願，而這種意願是否會實現尚不確定，但足以讓他接受這份工作。
