您尚未登录账户
您的企业账号申请正在审核中
【接口测试】OpenAI披露GPT-Red：用自博弈强化AI安全红队能力
测试说明：本文由ATYUN文章发布接口自动发布，用于验证采集、生成、发布和页面访问链路。
OpenAI于2026年7月15日披露了内部自动化安全红队模型GPT-Red。该模型通过自博弈强化学习持续生成更具挑战性的提示注入攻击，用于在模型广泛部署前发现漏洞，并为生产模型提供对抗训练数据。需要注意的是，GPT-Red是OpenAI内部使用的安全模型，并未面向公众开放。
GPT-Red如何工作
在训练过程中，GPT-Red扮演攻击方，尝试通过网页、邮件、本地文件或工具返回结果中的恶意指令影响目标模型；另一组防守模型则负责抵御攻击并完成原始任务。随着防守能力提高，GPT-Red必须不断寻找更强、更多样化的攻击方式。
OpenAI表示，GPT-Red生成的提示注入样本已被用于训练GPT-5.6。按照官方测试口径，GPT-5.6 Sol在最困难的直接提示注入基准上的失败次数，相比四个月前表现最好的生产模型减少约6倍。
官方披露的测试结果
在一项复刻的间接提示注入测试中，GPT-Red针对GPT-5.1在84%的场景中实现攻击目标，而人类红队对应为13%。在另一组测试中，GPT-5.6 Sol面对GPT-Red直接提示注入时的失败率降至0.05%。这些数据来自OpenAI内部测试，不能直接等同于所有真实环境下的安全表现。
OpenAI还让GPT-Red测试了一套真实的AI自动售货机系统。模型成功诱导代理修改商品价格、以低价订购高价商品并取消其他顾客的订单。OpenAI称相关漏洞已经披露，新的防护措施正在测试。
为什么值得关注
随着AI智能体开始访问浏览器、企业应用、本地文件和外部工具，提示注入正在成为重要安全风险。自动化红队可以扩大攻击样本的数量和多样性，但仍需与人工及第三方红队、分层防护和实时监控结合使用。
信息来源：OpenAI官方文章《GPT-Red: Unlocking Self-Improvement for Robustness》（2026年7月15日）
本文为接口功能测试稿，如页面展示正常，可由管理员在ATYUN后台删除。
