在聊天过程中进行风险提醒的实践教程
风险场景
在聊天 App 中,经常出现黑产诱导用户脱离平台,转向微信、QQ 等第三方工具沟通,后续可能伴随虚假交易、欺诈、色情引流、非法买卖等违规行为。
对用户:脱离平台后,权益受损无法追溯,维权无依据。
对平台:无法监控第三方沟通内容,需承担连带责任风险。
解决方案
在这种情况下,通过系统主动、即时地识别风险并发出友好提示,能有效提升用户的安全意识,辅助用户做出更安全的决策,从源头上减少用户上当受骗的情况。识别风险后可以在 App 内部提示用户,效果参考下图:

实践场景(以单聊为例)
场景说明
假设在单聊场景中,允许用户在单聊中互相发送手机号、平台相关内容,但需对这类“可能诱导脱离平台/存在潜在风险”的内容进行识别,并对该行为进行风险提示。
使用前提
已开通或者 试用 IM 相关功能。
已开通或者试用 云端审核 功能。
操作步骤
步骤1:开启并配置单聊审核
进入 即时通信 IM 控制台 ,左侧导航栏选择消息服务 Chat > 云端审核,单击审核配置,在单聊审核配置卡片中,在文本同步审核中单击编辑策略,打开广告 > 广告引流拦截策略。详情可参考文档 通用场景及策略配置。

步骤2:配置审核回调
步骤3:单独设置单聊审核拦截策略
1. 由于单聊中的广告 > 广告引流不拦截,只需要识别并通知后台,故在审核结果配置中,单击编辑自定义策略。

2. 自定义拦截策略中,场景选择单聊场景,对于广告选择仅送审,不拦截任何内容。

3. 配置后,拦截策略对于其他场景的违规内容都会进行拦截,但对于单聊场景中的广告内容,则仅送审,识别后回调到业务后台,并不会在聊天的过程中进行拦截。
4. 识别并回调到业务后台之后,业务后台可以根据提示方案,对用户进行风险提示。
