
北京时间 11 月 3 日凌晨,OpenAI 连发两篇安全相关的文章:一篇讲下一轮内部”安全冲刺”,一篇讲漏洞赏金计划改版。两件事是一套组合拳:用自家模型加外部研究者,抢在攻击者之前找到漏洞。
赏金表里列的示例,比如”一键接管账号””看到任意用户的聊天记录”,正是每个 ChatGPT 用户最怕遇到的事,所以值得花几分钟看明白。
发生了什么
安全冲刺:OpenAI 会把新的研究人员和安全伙伴拉进来,和内部团队一起用 OpenAI 的模型测试、加固系统。这次点名的合作方是安全公司 Cathedral。上一轮冲刺里,OpenAI 拿出 25% 的产品工程师专门找漏洞、修漏洞:用 Codex 排查问题,在隔离环境复现,再准备补丁交给人审核。
赏金改版有这几个要点:
- 奖励整体上调:中危、高危、严重三档的奖励区间中位数,平均提高到原来的四倍以上。
- 核心产品严重漏洞最高 3 万美元:ChatGPT、Codex、API 平台的严重漏洞基础奖励最高 3 万美元;”特殊严重”仍最高 10 万美元,叠加奖励后最高约 17.2 万美元。
- 质量加成:附带可靠概念验证、说清利用条件和影响的报告,可拿质量倍数。
- 忠诚度分级:新增 5 档忠诚度奖励,长期合作的研究者奖励逐级递增。
- 重点活动:新功能上线时开短期活动,设专门奖金池。
- 追溯补发:未发奖的报告按新标准算;公告前 30 天内已发奖的,可补差额。
11 月 20 日到 21 日,OpenAI 安全团队还会到奥克兰的 PROMPT2PWN 活动现场,让研究者当面测试。
赏金表透露了什么
OpenAI 给了几个示意性的换算例子:
- 中危:ChatGPT 里只读成员能往 Project 上传文件,旧奖励约 750 美元,新算法约 2415 美元。
- 严重:ChatGPT 一键接管账号,旧奖励约 6500 美元,叠加后约 5.16 万美元。
- 特殊严重:能查看任意 ChatGPT 用户的聊天消息,旧奖励 10 万美元,叠加后约 17.2 万美元。
比数字更有意思的是,OpenAI 等于公开了它最在意的风险点:Project 权限边界、文件访问、账号接管、聊天记录隔离。ChatGPT 正从个人聊天变成团队协作工具,Project、共享文件、成员权限越多,攻击面就越大,奖励往这几处倾斜很合理。
和以前比,变在哪
OpenAI 的说法是,传统网络防御单靠自己已经不够,行业里的多起事件说明威胁出现得很快,需要持续的”发现—修复”循环。我看有三点变化:
防守方大规模用 AI。 让四分之一的产品工程师用 Codex 挖洞、复现、写补丁,OpenAI 管这套做法叫 Defense Factory,找漏洞变成了流水线。
赏金和内部 AI 互补。 模型能扫到的漏洞,攻击者也能用模型扫到。提高赏金等于承认内部测试必然有遗漏,要靠独立研究者补位,这比单纯说”我们很安全”实在。
安全能力对外输出。 OpenAI 会把最强模型提供给 Daybreak 项目客户,并承诺六个月内拿出 10 亿美元补贴,给守护关键服务和数字基础设施的一线防御者使用,还会公开上一轮冲刺的架构经验和一份防御者方案蓝图。
对国内用户意味着什么
普通 ChatGPT 用户:使用方式不会变,但长期是好事。赏金越高,越多研究者愿意把漏洞报给 OpenAI,而不是拿去利用。平台在修,个人这边的防护也别省:
- 开启两步验证,别让一个密码决定账号安危。
- 不在来路不明的网站、插件里登录账号,账号接管常常从一个可疑链接开始。
- 管好 Project 和共享文件的权限,敏感资料别随手放进共享空间。
- 别用多人共享的账号,既容易串数据,也最容易被风控。
想要一个只属于自己、能开两步验证的稳定账号,可以从这里开通:
开发者和安全研究者:这是实打实的机会,几点提醒:
- 看清范围再动手,只在规则允许的范围内用自己的账号测试,不碰别人的数据。
- 报告质量决定奖金,复现步骤、利用条件、影响写清楚,比报一个”疑似问题”值钱得多。
- 盯紧新功能活动,新功能刚上线问题最多,还有倍数加成。
- 之前交过报告的回头看看,可能补到差额。
几点判断
第一,AI 公司的安全竞争进入新阶段:攻击方用模型批量找漏洞,防守方也得用模型,还要用更高的赏金把白帽拉到自己这边。
第二,Codex 在 OpenAI 内部承担的活越来越重。对开发者也是个参考:代码审计、漏洞复现可以先让它跑一遍,再由人把关。
第三,赏金高不等于没漏洞。奖励越高的地方,往往越可能出问题。账号和权限,还是要自己先管好。
信息来源
- OpenAI:Preparing our next security sprint to harden OpenAI
- OpenAI:Rewarding defenders with bigger bug bounties
- best2ai 条目:Preparing our next security sprint to harden OpenAI
- best2ai 条目:Rewarding defenders with bigger bug bounties
OKAI66 为独立第三方服务平台,非 OpenAI/xAI 官方网站。
更多每日 AI 热点见 best2ai.com