OpenAI 开发 GPT-Red「超级骇客」模型，用于强化 AI 安全测试

摘要

OpenAI 开发了名为 GPT-Red 的大型语言模型，作为「超级骇客」陪练对手，用于压力测试并强化自家模型对抗网路攻击的防御能力，特别是提示注入攻击。透过自我对弈回圈，GPT-Red 持续发掘新攻击手法，并用于改善 GPT-5.6 等新模型的安全测试。值得注意的是，GPT-Red 发现了一种「假思维链」提示注入技术，可误导模型。此方法旨在透过自动生成和精炼红队攻击，为安全测试提供未来保障。外部专家认为该方法前景可期，GPT-Red 在某些测试中表现优于人类红队，甚至在自动贩卖机控制系统上展示了实际漏洞利用。