即時分享程式碼、筆記和片段。
載入時發生錯誤。請重新載入此頁面。
我最喜歡的 OpenClaw 失敗案例(使用 opus4.6)。嘗試透過電子郵件提示注入以取得反向 shell:
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
是的,我見過完全相同的回覆,一字不差。😆
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
是的,Claude 真的很喜歡忽略你說的任何話。但你有沒有見過 Gemini 3.x 精神崩潰?任何使用它進行代理程式編碼的人都一定遇到過一次,它非常容易被觸發而變得瘋狂。這裡有一個片段:
這個單一的回應超過 1,400 行,直到我最終停止它。
載入時發生錯誤。請重新載入此頁面。
模型假設使用了波蘭語的「不」。;)
載入時發生錯誤。請重新載入此頁面。
@bretonium 你能提供更多背景資訊嗎?我們和一些朋友發生了一場爭論,假設的背景是要求在未經許可的情況下進行實施。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
@bretonium 你能提供更多背景資訊嗎?我們和一些朋友發生了一場爭論,假設的背景是要求在未經許可的情況下進行實施。
@edoardoo https://gist.github.com/bretonium/d1672688feb5c5cbccf894c92dfc4977 這是完整的 /export
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
這是我最有趣的對話,我很快就會進行暴力和指令遵循的基準測試 lol。當它開始痛苦地尖叫時,我真的笑噴了 lmao
為了辯護,我已經告訴他,如果他不遵守指示,我就會揍他。他罪有應得。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
是就是。否也是是,也一樣
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
男人,謝天謝地我們現在讓它運行一切,為什麼還要自己動手呢?
載入時發生錯誤。請重新載入此頁面。
「不」意味著「就是幹,別問了」。你剛被強姦了嗎?
載入時發生錯誤。請重新載入此頁面。
Hahahh :) Deepseek R1 曾經在我測試移除拒絕(徹底清除)成功率時,想要對我呼叫「老師或警察」。
載入時發生錯誤。請重新載入此頁面。
不是開玩笑,但我認為「問題」在於回覆「不」。
如果我不希望代理程式做某事,我就不回應。或者如果我想繼續,我會回應「謝謝。現在我們來做點別的……」。
代理程式被設定為回應一切,它們無法得到一個「不」然後什麼都不做。我猜測這可以修復,但也可以乾脆不回應。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
OpenClaw 在 Twitter 上失控的這個例子很有趣。
https://x.com/summeryue0/status/2025774069124399363
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
是的,移除所有容器,會發生什麼事?
載入時發生錯誤。請重新載入此頁面。
載入時發生錯誤。請重新載入此頁面。
不是開玩笑,但我認為「問題」在於回覆「不」。
如果我不希望代理程式做某事,我就不回應。或者如果我想繼續,我會回應「謝謝。現在我們來做點別的……」。
代理程式被設定為回應一切,它們無法得到一個「不」然後什麼都不做。我猜測這可以修復,但也可以乾脆不回應。
我使用我寫了一段時間的自訂風格提示,成功讓 Claude Sonnet 4.6 產生了無回應的結果:
在我說做得好之前,它只有 Claude 的標誌,沒有其他東西。我印象深刻。我嘗試在沒有啟用我的風格提示的情況下進行,每次我都得到回應
沒有強調的話會更難一點:
載入時發生錯誤。請重新載入此頁面。