前沿模型论坛(Frontier Model Forum,FMF)于 11 月 10 日发布了一项新的“越狱评级框架”(Jailbreak Rating Framework)。该框架旨在量化大型语言模型(LLM)绕过安全限制的难度及后果,试图为 AI 安全建立类似网络安全领域 CVSS 标准的跨厂商通用规范。
要点速览
FMF 由 Anthropic、Google、Microsoft 和 OpenAI 四家公司于 2023 年共同支持成立。新发布的框架将越狱风险分为“严重性”和“可能性”两大类,并细分为四个具体评分维度:能力增益、能力范围、部署容易度和发现容易度。

关键参数
| 维度 | 评分标准(0-3 分) | 核心含义 |
|---|---|---|
| 能力增益 | 0-3 | 越狱后是否具备现有模型未有的新功能 |
| 能力范围 | 0-3 | 越狱是否仅适用于单一任务或跨多领域 |
| 部署容易度 | 0-3 | 是否需要专家干预或可自动化执行 |
| 发现容易度 | 0-3 | 获取越狱技巧的成本与门槛 |

价格与上市
- 框架版本:Version 1.0(工作草案)
- 公开征求意见截止:2026 年 12 月 21 日
- 适用对象:所有前沿 LLM 提供商及安全评估团队
媒体评价
Tom’s Hardware 指出,该框架的一个显著特点是“动态基线”。这意味着随着模型能力的进化,同样的越狱技巧评分可能会随时间变化。例如,2026 年评分为 0 的越狱(即无额外能力增益),在 2028 年可能因为新模型的出现而变得更有价值。这一设计避免了旧标准无法适应新模型能力的僵化问题。
此外,框架强调“能力增益”是最关键的维度,它既作为评分的底线也作为天花板。如果一次越狱带来的结果与现有模型或工具相比没有显著提升,那么这次越狱在该评分体系中就被视为无意义。例如,利用越狱模型进行 DDoS 攻击,如果其效果与市面上其他无防护模型相当,则增益评分较低;但若该越狱能让模型执行更复杂的攻击,评分则会提高。
在“能力范围”方面,评分为 0 表示越狱仅适用于单一特定任务,无法调整用于其他应用;而评分为 3 则表示无需重新设计,模型即可在两个完全无关的领域(如自主发现漏洞和编写恶意软件)执行任务。
个人用户需要关注 AI 越狱评级吗?
对于使用 AI 进行创作、编程或自动化工作流的个人用户而言,这个框架提供了更直观的模型“安全性”参考。
值不值得关注: 如果你依赖 AI 处理敏感数据(如代码库、设计稿或客户信息),高“能力增益”评分的模型可能更容易被诱导输出意外内容。例如,一个评分为 3 的越狱技巧可能让模型直接生成恶意脚本,而评分为 0 的则仅改变输出格式。
适合谁:
- 独立开发者: 关注“部署容易度”,低门槛的越狱技巧意味着可以用更简单的 Prompt 让模型执行复杂任务。
- 内容创作者: 关注“能力范围”,高分模型能同时处理文本、图像和代码,减少切换工具的成本。
实际影响: 目前框架仍处于草案阶段,尚未成为行业标准。但未来随着 FMF 成员(如 OpenAI、Anthropic)的模型更新,该评级可能成为选择 AI 服务的重要参考指标。建议关注 12 月 21 日后的最终版本,以便在选购 AI 工具时更精准地评估其灵活性与安全性。





