内容风控 / 02
规则系统与模型系统协同
风控系统很少只靠模型。规则和模型各有优势，成熟系统通常二者协同。
规则的优势
规则适合：
- 明确违规词。
- 黑名单。
- 高置信风险。
- 合规红线。
- 运营临时策略。
规则优点是可解释、上线快、可控。缺点是覆盖有限，容易被对抗。
模型的优势
模型适合：
- 语义变体。
- 模糊风险。
- 多特征组合。
- 图像和文本理解。
- 长尾泛化。
模型优点是泛化强，缺点是解释性和稳定性相对弱。
协同方式
常见链路：
- 高危规则直接拦截。
- 模型给风险分。
- 中间分数进入人审。
- 低风险自动放行。
- 人审结果回流训练。
阈值设计很关键。高阈值减少误伤但漏放风险，低阈值提高召回但增加人审和误伤。
人审闭环
人审不是兜底苦力，而是标签和策略闭环的一部分。
需要记录：
- 人审结论。
- 审核员一致性。
- 申诉结果。
- 规则命中原因。
- 模型分数。
- case 类型。
面试题：规则和模型冲突怎么办
理想回答：
要看风险等级和规则置信度。高危合规规则优先级最高；模型高分但规则未命中，可以进入人审或灰度拦截；规则命中但申诉高，要回查规则误伤。最终通过 case 回流不断调整规则、阈值和模型。
下一篇建议继续看：