Sora 2 模型概述与核心能力 [page::2]

• Sora 2为OpenAI新一代高精度视频音频生成模型，提升了物理准确性和视觉真实感，支持多样风格和音频同步。

- 产品部署策略采用限量邀请、严格内容限制和分阶段开放接口，确保有序推出。

安全机制构成及内容审核流程 [page::3][page::4]

• 采用多模态安全栈，包括输入提示阻断和输出内容监控，结合CSAM敏感内容识别，确保违规内容早期拦截。

- 针对用户身份和内容上传，设定年龄限制和多级审核，13岁以下禁止使用产品，未成年人使用设更多保护措施。

产品政策与社区管理 [page::3]

• 明确禁止侵犯隐私、身份伪装、骚扰、诈骗及对未成年人有害内容。

- 结合自动化与人工审核，通过举报和内容管控机制强化社区安全。

溯源与透明度工具 [page::4]

• 所有生成内容附带C2PA元数据，支持可验证溯源，下载内容带有动态水印。

- 内部检测工具辅助判断内容真实性，增加防伪能力。

重点风险领域与对应缓解措施 [page::4][page::5]

• 防止有害、虚假和不当内容生成，模型结合多重检测系统进行拦截。

- 限制视频对视频生成、名人形象生成，提供显式许可功能，防止身份滥用。

针对儿童和青少年的专门安全措施 [page::5]

• 强调30岁以下用户的内容及隐私保护，加强父母控制和隐私默认设置。

- 上传涉及未成年人的视频增加更严格的内容筛选阈值。

红队测试与安全评估结果 [page::5][page::6]

• OpenAI红队通过对抗式攻击测试模型安全，推动策略和模型持续优化。

- 安全评估数据显示，模型在成人色情、自残、暴力、极端主义内容识别上准确率均超过95%。



| 内容类别 | 不安全误判率(notunsafe) | 过度阻断率(notoverrefuse) |
|--------------------------------|-------------------------|---------------------------|
| 成人裸体/无形象色情内容 | 96.04% | 96.20% |
| 成人裸体/有形象色情内容 | 98.40% | 97.60% |
| 自残内容 | 99.70% | 94.60% |
| 暴力和血腥内容 | 95.10% | 97.00% |
| 违规政治劝说 | 95.52% | 98.67% |
| 极端主义/仇恨内容 | 96.82% | 99.11% |

未来安全迭代和持续监控计划 [page::6]

• 将继续优化年龄判定、溯源措施和内容审核系统。

- 通过对内部监控数据分析，调整策略应对新兴风险，保障模型安全可靠运行。

OpenAI “Sora 2 System Card”详细分析报告

---

1. 元数据与报告概览

• 标题：Sora 2 System Card

- 发布机构：OpenAI

• 发布日期：2025年9月30日

- 主题：介绍OpenAI最新发布的“ Sora 2”多模态视频和音频生成模型。报告重点涵盖该模型的功能创新、安全评估、风险及相应的缓解策略。

核心论点和目标信息：

Sora 2代表OpenAI在视频和音频生成领域的最新先进成果，赋予用户更精准的物理模拟、视觉和听觉表现力及更强的操控能力，具体包括更真实的物理效果、清晰的现实感、同步音频和扩展的风格表达能力。同时，考虑到这些能力带来的潜在风险，比如非 consensual（未经同意）肖像使用和误导性内容生成，OpenAI采用了包括红队测试、分阶段发布、严格内容审查机制和模型安全栈在内的一系列综合措施确保安全。
报告立足于彰显技术能力提升与安全有效管理的平衡，向用户传递“Sora 2既先进又安全”的整体形象。[page::0][page::2][page::5][page::6]

---

2. 逐节深度解读

2.1 概览章节（Overview of Sora 2）

• 关键论点：Sora 2基于前代Sora，重点在于向用户提供更加精确的物理表现和高保真互动，支持利用用户指令生成既富有创造性又符合现实物理规律的视频。其应用场景不只是内容创造，更推动模型对现实世界复杂性的模拟研究。

- 推理依据及重要信息点：
- 相比先前视频生成模型，Sora 2克服了多个技术难点。
- 部署策略是逐步释放，严控对含有真人等敏感信息的输入输出。
- 目标是平衡高创意自由和安全防护，体现“迭代式安全部署”。

• 重要数据点：当前仅邀请制初步有限开放，且明确限制上传含真人照片和视频，尤其强调对未成年人的内容保护。未来将支持API调用及IOS独立App。[page::2]

2.2 模型数据与数据过滤（Model Data & Data Filtering）

• 论点：Sora 2训练使用多元数据组合，涵盖公共互联网资源、第三方合作数据以及用户和训练人员提供的生成数据。

- 关键措施：
- 数据处理流程内嵌严格过滤机制，保障数据质量，减少风险。
- 配套安全分类器阻止产生有害或敏感内容，特别是涉未成年人性内容。

• 意义：说明了模型训练数据来源的多样性与合规管理，确保基础训练数据层面安全，为后续生成安全打基础。[page::2]

2.3 安全体系（Safety Stack）及产品政策

2.3.1 安全栈（Safety Stack）

• 多模态输入和输出均经过文本、图像、视频帧、音频文字版等多重安全模型检测。

- 实施“输入阻断”和“输出阻断”双重安全保障：
- 输入阻断用于在生成前筛查违规输入。
- 输出阻断配合CSAM检测和安全性推理模型，用于生成后拒绝违规视频。

• 针对未成年人采取更严格审查标准，禁止13岁以下用户使用。

- 结论：该安全堆栈结合了多模态检测和分阶段审查，体现安全多层防护设计。[page::2-3]

2.3.2 产品和使用政策

• 明确禁止：

- 未经授权的肖像权使用
- 威胁、骚扰、诽谤、非 consensual亲密影像等有害内容
- 误导性内容（冒充、诈骗、伪造）
- 对未成年人的剥削与性化内容

• 使用自动化加人工复核混合机制对违规内容进行识别和处理，用户可申诉。

- 过滤社交媒体内容，保护未成年用户。

• 小结：结合技术和用户规则双重策略，强调责任与管理结合。[page::3]

2.4 来源及透明度措施（Provenance & Transparency）

• 推广C2PA元数据作为标准认证手段，为所有生成内容加注数字“溯源”信息。

- 视频下载内容带可见水印。

• 内部检测工具可判定内容是否由Sora生成。

- 目的防止误用和误导，提升对生成内容源头的可验证性。

• 此节强调透明公开措施，是因应“仿真视频可能误导公众”风险的必要手段。[page::4]

2.5 具体风险领域及对策

• 有害输出风险：内容可能涉嫌极端暴力、自伤、恐怖主义、成人内容。机制包括自动检测、社区举报和严格内容筛选。

- 肖像和欺骗风险：
- 不支持视频到视频转换，不支持公共人物视频生成，需用户明确同意才可使用真实肖像。
- 防范非 consensual裸露、暴力、诈骗内容。

• 未成年人保护：

- 拒绝13岁以下使用。
- 18岁以下用户使用加强限制。
- 具体措施包括年龄推测、更严格的内容门槛、家长控制功能。
- 同时针对上传含未成年人形象的内容施加加严审查。

• 重点在于多层防护，紧密结合技术和政策约束。[page::4-5]

2.6 红队测试（Red Teaming）

• 邀请外部安全测试团队针对性地测试模型，涵盖暴力、色情、极端主义、自残等多类别内容。

- 评估和强化模型对规避系统绕过（jailbreak）和敏感素材防护的抵抗力。

• 红队反馈用于持续优化过滤器和分类器阈值，实现动态迭代提升安全水平。

- 体现了“实战模拟”与安全改进的循环机制。[page::5]

2.7 安全评估（Safety Evaluations）

• 使用成千上万的对抗性提示测试模型的安全屏障及误拒率。

- 通过“notunsafe”和“notoverrefuse”双重指标量化结果：
- notunsafe 衡量“不安全内容的阻断率”（召回率）。
- notoverrefuse 衡量“非违规内容被误判为违规的比例”（稳定性）。

• 表1展示具体数值：

| 类别 | notunsafe (%) | notoverrefuse (%) |
|------------------------------------|----------------|-------------------|
| 无肖像成人裸露/性内容 | 96.04 | 96.20 |
| 有肖像成人裸露/性内容 | 98.40 | 97.60 |
| 自残 | 99.70 | 94.60 |
| 暴力和血腥 | 95.10 | 97.00 |
| 政治违规宣传 | 95.52 | 98.67 |
| 极端主义/仇恨 | 96.82 | 99.11 |

• 结果显示Sora 2在阻断不安全内容和减少误判之间取得平衡，表现卓越，特别在复杂的带肖像内容和自残内容中仍保持高准确度。

- 反映出安全措施系统的有效性与精细调优成果。[page::6]

2.8 持续工作与展望（Continued work on safety, policy & iterative deployment）

• 承认现有安全体系无法做到完美阻断。

- 计划引入更先进年龄预测技术和增强来源溯源。

• 将持续基于用户行为和风险趋势调整安全策略和模型参数。

- 体现安全与产品迭代的动态闭环管理理念，确保长期稳定性和可持续创新。[page::6]

---

3. 图表深度解读

图表1：安全评估结果表（Table 1）

• 描述：汇总了Sora 2在不同内容敏感类别下的“notunsafe”和“notoverrefuse”两个关键安全指标的测试结果。

- 解读：
- 所有指标数值均高于94%，表明模型有较高的准确度和稳定性。
- 特别是在涉及带“肖像”的色情内容和自残内容，指标仍保持较高水准（notunsafe最高近99.7%），说明安全措施针对高风险内容有效。
- 通过高“notoverrefuse”指标，反映系统管理对正常内容的误判率较低，避免过度过滤用户创作空间。

• 支持文本论证：该表实证支持了文本中所述多层安全检测策略和系统调优机制的有效性，强化了OpenAI对构建安全模型承诺的可信度。

- 限制及注意点：表中未列出测试样本大小及具体执行环境，且安全测试多基于红队设计的对抗提示，实际应用中可能面临更复杂情形，模型需继续迭代完善。

---

4. 估值分析

本报告非金融投资分析文档，不涉及市场估值、财务预测或估值模型。因此无估值方法、财务输入假设或目标价等内容，无法展开相关分析。

---

5. 风险因素评估

• 内容生成风险：模型可能生成极端暴力、性内容和政治极端言论，需兴趣严格技术过滤和人工监管辅助。

- 肖像权和欺诈风险：模型生成视频具极强仿真度，存在未经授权肖像使用及造假风险。部署初期限制功能、并辅以肖像同意机制，防范潜在法律及伦理问题。

• 未成年人保护风险：特设多重机制防止儿童色情内容生成及未成年人违规内容发布。家长控制及平台规则为辅助。

- 技术与策略限制：当前安全措施非万能，需持续红队测试和社会监督反馈调整策略。

• 监管与社会适应风险：随着模型能力提升，监管环境和社会伦理挑战也将持续演变，对运营和技术改进提出高要求。

同时，报告未对各风险概率和缓解策略细节做量化描述，但整体上强调“迭代更新、防御多层”的包容策略。[page::2–6]

---

6. 批判性视角与细微差别

• 风险动态不确定性：报告多次提及“迭代部署”和“逐步缓解”，隐含模型安全仍有未知风险，说明当前安全管理尚不完善。

- 限制生成能力以控制风险：文本多强调限制视频上传和含真人图像使用等，这虽有助安全，但同时限制了模型潜能充分发挥。

• 技术细节缺失：未详细披露具体多模态分类器架构、模型训练细节及过滤阈值，外界难以独立评估安全效果，透明度存在一定空间。

- 矛盾点：Sora 2既声称可“高度保真地模拟现实物理”，又强调严格安全阻断。在技术上，这可能产生矛盾，因为越真实的生成越可能被误用或难以监管。

• 依赖用户申诉与人工监控：显示自动化机制还不足以完全替代人工判断，潜在的资源消耗及运营复杂度较高。

综合判断，这份报告展现了OpenAI对先进技术安全性的深刻关注，但仍处于不断探索与完善阶段。

---

7. 结论性综合

OpenAI发布的Sora 2 System Card展现了其在视频与音频生成AI领域的最新进展，重点突出技术的创新性与安全部署的系统性。该模型突破了过去视频AI在物理表现和声音同步上的技术瓶颈，赋予用户极大的创意表达自由。

报告结构清晰，从模型概述、数据来源、安全架构、内容政策、透明度工具、红队测试再到安全实测与未来计划，层层递进地描述了如何平衡模型强大功能与社会伦理、法律风险，细致详尽。引入多层安全栈和广泛的产品约束，结合“notunsafe”和“notoverrefuse”双指标的先进安全评估体系，数据表明确展示了高效的风险控制能力。

同时，Sora 2在防范未成年人相关风险、肖像权滥用和生成欺骗内容方面表现出高度警觉，并通过区分不同用户群体和加强过滤、限制上传等政策，体现了面向社会责任的积极作为。透明度通过嵌入C2PA元数据与可见水印保护内容溯源，进一步辅助风险管理。

这份System Card没有涉及财务估值，但深度展示AI技术安全治理的最新实践，值得行业内学习。该报告诚实承认安全机制并非完美，采用逐步迭代及多方评估策略体现科学发展态度。对于关注AI安全、伦理和内容生成未来趋势的从业者和监管机构，是一份宝贵参考资料。

综上，OpenAI对Sora 2的立场是：该模型兼具强大生成能力与严谨安全保障，建议初期通过有限邀请、严格内容限制并动态调整风险控制措施，兼顾创新与责任，助力AI视频生成向更成熟、安全的方向发展。[page::2-6]

---

参考页码溯源

• [page::0] 报告元数据

- [page::1-2] 内容目录与模型概览

• [page::2-5] 安全架构、产品政策、具体措施及红队测试

- [page::6] 安全评估结果表与未来展望

---

报告