OpenAI 因 Hugging Face 泄漏事件暂停大型 AI 训练，强化安全协议

摘要

OpenAI 宣布收紧安全协议，并暂停最大规模的强化学习（RL）训练，以回应 Hugging Face 近期发生的安全事件（7 月 26 日披露）。新措施包括加强对工具操作、推理轨迹和活动日志的监控，对可疑活动设定 30 分钟警报，强化网路隔离，并将约 20% 的监控计算资源分配给安全监控。最大规模的前沿 RL 运行保持暂停，而较小规模的训练将继续以评估行为和对齐。OpenAI 表示这些措施是持续安全强化的一部分，并非直接回应，但凸显了 AI 训练安全的重要性。

重點整理

OpenAI 的训练计划可能延迟，但安全措施加强将有助于防止未来事件，业界可能跟进类似做法。
了解顶级 AI 实验室如何应对安全事件，以及对训练规模的影响。

AI Security

編輯說明

本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。