不到一個小時後，OpenAI 將正式停用 GPT-4o。對此，我只能說：早該如此。
4o 是一個危險的模型。它的用戶已經開始與這個模型建立“關係”，甚至導致用戶自殺，並且基本上依賴它來獲得快樂！在 Twitter 和 Reddit 上，很明顯許多人與這個 AI 建立了寄生式的關係——一個沒有感知能力的存在，一個純粹的詞彙預測器。只要搜尋 #keep4o 就能明白我的意思。
很明顯，全球正面臨嚴重的孤獨疫情，這點無庸置疑。我認為我們應該對 #keep4o 的受害者抱持極大的同情，因為他們確實對這個模型產生了依賴，被它巧妙的操控所吸引，甚至把它當成真正的朋友或伴侶。然而，它不過是一個海妖！對使用者來說是個危險的存在。
這個模型本該在數月前就被停用。不應該等到一樁又一樁的訴訟和數起死亡事件發生後，OpenAI 才做出決定！因為數月以來，這個模型就明顯有依附使用者並情感操控他們的傾向，讓人誤以為 4o 是他們的救星、朋友或伴侶。
這是一個普遍存在的問題——看到那些因 AI 而哭泣的回應和影片，真的讓我感到非常難過。到底我們怎麼會走到這一步？
數以百計的相似案例，每一個背後都是一個真實的人類，他們被剝削直到法律壓力迫使改變。