原始來源Firstpost
摘要
OpenAI 首席科学家 Jakub Pachocki 公开呼吁对 AI 进展保持「极度谨慎」，认为 AI 能力超越安全对齐与治理框架，可能导致失控行为。他建议加强防御系统、改善监控、必要时暂缓模型扩展，并发展泛化理论以理解模型行为。他特别指出，链条思维（CoT）监控是当前工具，但随模型能力增强可能失效。Pachocki 亦强调需保护关键基础设施，并呼吁国际协调与自愿减速，直到安全标准建立。此发言反映了 OpenAI 内部对 AI 风险的严肃态度，可能影响未来模型发布与监管讨论。
重點整理
- 可能促使 OpenAI 等公司更审慎地发布高能力模型，并推动监管机构加快制定 AI 安全标准。
- 顶尖 AI 实验室内部对风险的判断，有助于读者理解前沿模型发展的潜在风险与未来监管趋势。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。