实践教程

最近更新时间:2025-10-21 11:42:02

我的收藏

在聊天过程中进行风险提醒的实践教程

风险场景​

在聊天 App 中,经常出现黑产诱导用户脱离平台,转向微信、QQ 等第三方工具沟通,后续可能伴随虚假交易、欺诈、色情引流、非法买卖等违规行为。​
对用户:脱离平台后,权益受损无法追溯,维权无依据。​
对平台:无法监控第三方沟通内容,需承担连带责任风险。

解决方案

在这种情况下,通过系统主动、即时地识别风险并发出友好提示,能有效提升用户的安全意识,辅助用户做出更安全的决策,从源头上减少用户上当受骗的情况。识别风险后可以在 App 内部提示用户,效果参考下图:
该图仅供参考
该图仅供参考


实践场景(以单聊为例)

场景说明

假设在单聊场景中,允许用户在单聊中互相发送手机号、平台相关内容,但需对这类“可能诱导脱离平台/存在潜在风险”的内容进行识别,并对该行为进行风险提示。

使用前提

已开通或者 试用 IM 相关功能。
已开通或者试用 云端审核 功能。

操作步骤

步骤1:开启并配置单聊审核

进入 即时通信 IM 控制台 ,左侧导航栏选择消息服务 Chat > 云端审核,单击审核配置,在单聊审核配置卡片中,在文本同步审核中单击编辑策略,打开广告 > 广告引流拦截策略。详情可参考文档 通用场景及策略配置
控制台场景配置界面
控制台场景配置界面


步骤2:配置审核回调

配置审核回调接收地址,当收到文本审核中有相关违规信息,可以通过回调将信息通知到业务后台。具体配置方法可参见文档 返回审核结果配置

步骤3:单独设置单聊审核拦截策略

1. 由于单聊中的广告 > 广告引流不拦截,只需要识别并通知后台,故在审核结果配置中,单击编辑自定义策略

2. 自定义拦截策略中,场景选择单聊场景,对于广告选择仅送审,不拦截任何内容

3. 配置后,拦截策略对于其他场景的违规内容都会进行拦截,但对于单聊场景中的广告内容,则仅送审,识别后回调到业务后台,并不会在聊天的过程中进行拦截。
4. 识别并回调到业务后台之后,业务后台可以根据提示方案,对用户进行风险提示。


提示方案

通过 单发单聊消息 可以在群聊中对用户进行风险提示。类似的,群聊中可以用 在群组中发送系统通知 进行群聊系统通知。