内容风控 / 01
内容风控问题版图
内容风控的目标不是“拦得越多越好”，而是在风险召回和正常体验之间取得平衡。
风险类型
常见风险：
- 色情低俗。
- 暴恐违法。
- 政治敏感。
- 辱骂攻击。
- 广告营销。
- 诈骗引流。
- 侵权违规。
- 未成年人风险。
不同风险的容忍度不同，策略也不同。
风控链路
典型链路：
内容发布 -> 机器审核 -> 规则拦截 -> 模型识别 -> 人审复核 -> 处置 -> 申诉 -> 回流
风控系统通常是规则、模型和人工审核结合。
核心指标
- 风险召回率。
- 误伤率。
- 人审通过率。
- 申诉率。
- 审核时延。
- 违规曝光量。
- 人审成本。
不能只看召回率。误伤过高会伤害正常创作者和用户。
难点
- 标签标准不一致。
- 风险对抗强。
- 新型违规变化快。
- 多模态内容复杂。
- 长尾风险样本少。
- 合规要求严格。
面试题：内容风控和普通分类有什么区别
理想回答：
内容风控不只是分类问题，它有强业务约束和安全风险。模型要和规则、人审、申诉、case 回流结合，指标上既要看风险召回，也要看误伤、审核成本和处置时延。
下一篇建议继续看：