AI 安全
AI 安全关注 AI 系统在训练、部署与自主运行中的风险与控制，涵盖对齐、滥用防护、Agent 权限边界与安全工程实践。随着 AI Agent 获得工具调用与跨系统操作能力，传统访问控制不再充分，业界开始引入 Zero Trust、最小权限与”假设已被攻破”等原则来设计 Agent 部署。
？ 本主题与 AI-Security 存在重叠，待整合区分。
[2026-08-10] 安全评测的市场规模：合规驱动下最确定的利润池
来源：AI 评测行业深度研究报告。
- 全球 AI 红队与安全测试市场：2025 年约 5 亿美元，2026–2035 年 CAGR 32%。
- 中国大模型安全评估服务：2025 年 18.7 亿元 → 2026 年预计突破 35 亿元（+87%，增速最快的细分）；备案制（2023-07《生成式 AI 服务管理暂行办法》+ TC260 安全基本要求，31 种安全风险）已创造刚性预算。
- 欧盟 AI 法案高风险条款 2027-12 生效，合规评估预算届时集中释放；美国 2026-06 行政令转向自愿框架（NSA 牵头前沿模型评测）。
- 一次完整大模型安全评估收费数十万至数百万元，毛利 50–70%——行业报告判断的评测利润三大集中地之一（另两处：垂直行业认证、动态对抗评测技术）。详见 AI 评测行业。
- 安全维度的静态基准失效锚点：METR 观测 OpenAI o3 在 128 次运行中 39 次（30.4%）reward hacking——评测中的 agent 会主动钻空子，安全评估尤须做轨迹审计。