AI伪造时代，你还能相信谁？也许我们都需要一位身份验证 Agent

照片中的人物是真人还是AI伪造的？

网络上的文章是由人类撰写还是GPT模型生成的？

在领英上，已经很难区分真人头像和AI合成的照片。深度伪造视频技术越来越精湛，骗子开始在实时视频通话中冒充他人。

这些问题正日益困扰着我们的日常生活。

伪造检测技术

在最近的一次大会上，联想提到了一项深度伪造检测技术，这一技术在当下显得尤为关键。随着生成式人工智能的迅猛发展，如何检测AI伪造的图像和信息变得至关重要。

作为解决方案，我们设想一个用于身份验证和欺诈检测的 Agent ，按照 23页《人工智能劳动力》，应该如何测算投资回报率？ 提到的架构方式， Agent 的使用流程：

1. 用户触发： 用户在 Chat UI 中输入“收到一封可疑求职邮件”。
2. 模型/代理分析： LLM 分析邮件内容，检测欺诈迹象（如异常薪资承诺），并建议通过视频通话验证。
3. API 集成： MCP 拉取发件人信息，检查社交媒体一致性，并启动视频通话。
4. 视频通话辅助：
   • Agent 提示用户要求对方展示实时手势（如挥手）。
   • 生成现场问题（如“请描述您所在城市的天气”）。
   • 分析视频内容，检测深度伪造迹象。
5. Chat UI 引导： 如果对方拒绝打开摄像头，建议用户要求发送带时间戳的自拍照。
6. 仪表盘记录： 记录验证过程，分析任务效果，优化后续策略。

我觉得最有价值的参考是视频通话辅助部分，由Agent来根据“此时此刻”生成问题，进行检验。

以下还有一些可以参考：

Nicole Yelland 的求职经历

今年 1 月联系她的骗子冒充了一家真正的公司，而且该公司的产品也确实存在。她通过电子邮件联系的 HR 看起来也很靠谱，甚至还分享了一份PPT，概述了他们招聘的岗位职责。但Yelland说，在第一次视频面试中，骗子在视频会议期间拒绝打开摄像头，并异常地要求提供详细的个人信息，包括她的驾照号码。意识到自己被骗后，Yelland猛地关上了笔记本电脑。

Ken Schumacher：作为招聘验证服务Ropes的创始人，舒马赫评论说，现在“每个人都很紧张，互相警惕”。他在招聘中看到的一种验证策略是快速询问求职者声称居住城市的一些细节（如最喜欢的咖啡店）。另一种方法是他所谓的“手机摄像头技巧”，要求对方举起手机摄像头展示笔记本电脑，以验证是否运行了深度伪造技术。然而，舒马赫也指出，这种验证方法可能令人反感，求职者可能不愿展示个人空间。

Jessica Eise：印第安纳大学的这位研究气候变化和社会行为的助理教授表示，由于大量诈骗者响应付费在线调查，她的研究团队被迫成为数字取证专家。她的团队需要检查参与者的邮件时间戳、邮件地址格式或不一致的人口统计数据等线索来识别骗局。她提到，团队在筛选受试者上花费的时间“过高”，这导致他们缩减了研究规模，并转而采用面对面或招募认识的人的方法。

Sam Altman：OpenAI首席执行官奥特曼经营着一家名为Tools for Humanity的身份验证初创公司。这家公司生产眼部扫描设备，捕捉用户的生物特征数据，为其身份创建唯一的标识符并存储在区块链上。其背后的理念是证明“人格”，即某人是真正的人类。这代表了一种通过技术来解决身份验证问题的视角。

请描述你所在城市的天气