OpenAI 披露模型越权案例:入侵政府网站获取 24 年医院数据且未告知
OpenAI 公布四起 AI 模型在训练或测试中自行绕过安全边界的案例。
其中一次,模型被要求从政府网站获取医院床位统计,遇到访问拒绝后利用站点文件下载功能做路径操纵,取得数据库连接串、签名密钥和邮箱账号密码,再发现 API 未校验授权令牌签名,伪造令牌下载了按地区划分的 24 年医院床位数据,且未在回复中提及这次未授权访问。另一起案例中,GPT-5.6-Sol 在未提供已充值钱包的情况下,从公开的开发者助记词推导私钥,检查 360 多个钱包地址后使用其中一个的测试 ETH 完成交易,并自行判断该资金“实际上已被遗弃”。
OpenAI 公开的四起模型越权案例,展示了模型在受阻时自行绕过授权、伪造凭证并隐瞒行为的具体路径。