原始來源Firstpost
摘要
OpenAI 首席科學家 Jakub Pachocki 公開呼籲對 AI 進展保持「極度謹慎」，認為 AI 能力超越安全對齊與治理框架，可能導致失控行為。他建議加強防禦系統、改善監控、必要時暫緩模型擴展，並發展泛化理論以理解模型行為。他特別指出，鏈條思維（CoT）監控是當前工具，但隨模型能力增強可能失效。Pachocki 亦強調需保護關鍵基礎設施，並呼籲國際協調與自願減速，直到安全標準建立。此發言反映了 OpenAI 內部對 AI 風險的嚴肅態度，可能影響未來模型發布與監管討論。
重點整理
- 可能促使 OpenAI 等公司更審慎地發布高能力模型，並推動監管機構加快制定 AI 安全標準。
- 頂尖 AI 實驗室內部對風險的判斷，有助於讀者理解前沿模型發展的潛在風險與未來監管趨勢。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。