OpenAI 開發 GPT-Red「超級駭客」模型，用於強化 AI 安全測試

摘要

OpenAI 開發了名為 GPT-Red 的大型語言模型，作為「超級駭客」陪練對手，用於壓力測試並強化自家模型對抗網路攻擊的防禦能力，特別是提示注入攻擊。透過自我對弈迴圈，GPT-Red 持續發掘新攻擊手法，並用於改善 GPT-5.6 等新模型的安全測試。值得注意的是，GPT-Red 發現了一種「假思維鏈」提示注入技術，可誤導模型。此方法旨在透過自動生成和精煉紅隊攻擊，為安全測試提供未來保障。外部專家認為該方法前景可期，GPT-Red 在某些測試中表現優於人類紅隊，甚至在自動販賣機控制系統上展示了實際漏洞利用。