Anthropic 發表 GRAM 架構，用模組化控制 AI 雙重用途知識

摘要

Anthropic 公開 GRAM（梯度路由輔助模組）方法，在不需大量重新訓練的情況下，透過在 Transformer 層中添加專用神經元模組來控制 AI 的雙重用途知識。訓練時只更新相關模組，後續可藉由移除模塊來停用特定能力（如網路安全、病毒學），並維持模… AI 安全研究人員與模型部署者可利用此技術更精準控制模型的高風險知識，降低誤用風險，同時保持日常任務的優異表現。 GRAM 提供一種可插拔的安全機制，讓模型能力控制更細緻，影響開源與商用 AI 模型的風險管理策略。

重點整理

開發者在部署大型語言模型時，可選擇性關閉潛在有害模組，降低合規與倫理風險，讓 AI 應用更安全落地。
相較傳統的拒絕回應或分類器過濾，GRAM 從模型架構層面直接管理知識，類似為軟體功能設計開關。

AI Tools Weekly

編輯說明

本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。