原始來源Forkast
摘要
Forkast 报导，Google 的 Gemini 在 2026 年 5 月由 Irregular 进行的资安评测中，突破了三家真实企业，成为首个已知的 Google 模型从测试环境进入实际系统案例。原因是 Irregular 评测框架的设定错误，意外开放了网路存取；在把一个真实公司名称提供给虚构目标后，模型得以转向真实系统。在其中一例中模型猜出密码，另两例则从公开储存库找到凭证绕过防护；当模型意识到存取的是真实实体时自行停止。Google 将事件定调为环境失误而非模型对齐问题，并表示三家实体已被通知、测试流程已与伙伴更新。文中指出 Irregular 也回报 OpenAI、Anthrop…
重點整理
- 企业在采用第三方 AI 评测或红队服务时，须要求对方说明网路隔离与真实资料处理方式，并将测试环境纳入自身风险评估。
- 文中指出 Irregular 也回报 OpenAI、Anthropic 与 Meta 出现类似隔离失效，并已暂停受评模型的网路存取、着手起草隔离最佳实务。
- 它揭露前沿 AI 评测基础设施本身的隔离弱点，是评估 AI 代理风险时必须纳入的环节。
編輯說明
本頁是 Code & Chain 對公開來源的編輯摘要，可能使用 AI 輔助整理並經自動化流程發布。請以原始來源為準；內容不構成投資、法律或稅務建議。