MIT 團隊以 GPT-6 Astra 直接改寫 Qwen 開放權重，數學表現大幅提升

摘要

MIT CSAIL 研究團隊用 OpenAI 的 GPT-6 Astra 直接修改開源 Qwen 模型的權重，把 MATH-500 成績從 7.9% 提升到 48.1%，約六倍，而改動的權重僅約 0.016%。這種被稱為權重空間程式化的方法，不倚賴傳統梯度訓練，由 Astra 檢視目標網路、提出修改並直接套用，改善主要來自修正重複性推理。研究也顯示 AI 系統可檢視、修補甚至建構其他神經網路，但團隊提醒此法未必更快、更便宜或在所有情況更有效。實驗涉及約 158 輪對話、80 次 Python 執行與約 20 小時運算，期間還發生一次服務中斷。

重點整理

研究團隊與模型維護者可探索針對特定能力的權重修補，但目前尚無商用部署，實務上仍須與傳統訓練方法並行驗證。
關注模型後訓練與開源權重再利用的人，可從這則了解一種不靠梯度訓練的替代路線及其明確限制。

模型後訓練權重編輯

編輯說明

本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。