OpenAI 成功阻斷了一項協同活動,該活動試圖竊取受保護的模型推理能力,並正在加強防禦措施,以應對惡意模型蒸餾的威脅。

模型蒸餾是一種技術,可以讓一個較小的模型學習一個較大模型的行為。雖然模型蒸餾本身是合法的,但惡意行為者可能會利用它來竊取受保護的模型推理能力,這可能會導致模型被濫用。

OpenAI 透過持續的監控和技術進步,致力於保護其研究成果和用戶安全。公司正在加強其防禦措施,以防止未經授權的模型蒸餾,並確保其模型以負責任的方式使用。