我以前看到一张图,第一反应通常是:图都拍出来了,这事大概率是真的。
现在这个习惯得改了。
这两天有个新闻,比很多 AI 模型发布更值得普通人关注。国家反诈中心 App 上线了“AI 内容鉴定”功能,可以检测图片、视频、文本、音频里是否有 AI 生成痕迹。
如果只是多了一个检测工具,其实没那么值得写。
真正值得写的是,它背后出现了一个非常日常的场景:
有人用 AI 伪造“问题商品图”,申请仅退款。
以前电商售后里,拍照几乎就是默认动作。杯子裂了,拍一张;果苗枯了,拍一张;衣架断了,拍一张;商品发霉,拍一张。
一张图发过去,平台和商家就会进入判断流程。
但现在问题变了。
如果这张图压根不是拍出来的,而是 AI 生成的呢?
据媒体报道,近期有商家反映,买家用 AI 伪造“问题商品”图片申请仅退款。
IT 之家引用央视报道提到,一个种植户卖出的果苗,被买家附上一张叶片枯黄的图片申请退款。商家根据经验判断,两天内带盆发货的果苗不太可能枯黄成那样,叶片状态也不符合真实失水规律。但平台介入后,仍然依据图片很快批准了仅退款。
类似情况还出现在衣架、杯子、发霉商品等场景里。
这件事表面看,是有人钻平台规则漏洞。
更深一层看,是“图片作为证据”的地位开始松动了。
过去,一张图片天然带有一种可信感。它像是现实留下的痕迹。我们会默认它比文字更可靠,比口头描述更接近事实。
AI 生成图片普及以后,这个默认前提变弱了。
一张图只能说明:有人拿出了一张看起来像证据的图片。
它到底是不是证据,还要重新判断。
这句话听起来有点绕,但它会变得越来越重要。
这不是国内平台单独遇到的问题。
最近 OpenAI 和 Google 也在做一件相关的事:让 AI 生成图片更容易被识别来源。
OpenAI 在 5 月 19 日发布内容溯源更新,宣布通过与 Google 合作,把 SynthID 这种隐形水印加入 OpenAI 生成的图片。同时,OpenAI 也支持 C2PA 内容凭证,用来记录图片由谁生成、是否被编辑。
Google 也在把 SynthID 检测推向更多产品和云服务,并提到 OpenAI、Kakao、ElevenLabs 等公司会把 SynthID 带到更多 AI 生成内容里。
这说明大厂已经意识到同一个问题:
当 AI 可以批量制造真实感,内容世界需要补一层“出处系统”。
以前我们问:这张图像不像真的?
以后我们更要问:这张图从哪里来?有没有凭证?有没有水印?有没有其他证据能印证?
但技术只能补一部分。
SynthID、C2PA、AI 鉴定工具都有价值,可图片一旦被截图、压缩、转发、二次编辑,溯源信号可能变弱。真实图片也可能因为修图、压缩、平台处理被误判。
所以技术能帮我们降低判断成本,不能替我们承担判断责任。
很多人看到“仅退款”,可能觉得这是商家、平台和买家之间的事。
我不这么看。
售后只是一个入口。真正被改变的,是我们日常生活里的证据系统。
今天是商品坏图。
明天可能是聊天截图、转账截图、合同截图、事故现场图、小区群纠纷图、工作群里的对比图。
只要一个场景依赖“图片作为证据”,AI 假图就可能进入。
它会带来几个连锁反应。
诚实的人举证成本会变高。假图变多,真正遇到问题的人也会被怀疑。
平台的自动化裁决会变脆弱。过去看图、套规则、快速处理,效率很高。但当图片本身不可靠,效率越高,误判可能也越快。
普通人的判断会更容易被真实感带走。很多 AI 图不需要完美,只要足够像,就能让人先相信、先愤怒、先站队。
这才是 AI 假图更隐蔽的影响。
它不只是骗钱,也在训练我们更轻易地相信“看起来像真的东西”。
普通人不可能每张图都做专业鉴定,也没必要把自己训练成图像取证专家。
更现实的办法,是给自己补一套轻量的证据习惯。
先问来源。
这张图是谁拍的?什么时候拍的?从哪里转来的?有没有原始文件?如果一张图已经在多个群里转了好几手,还没有清楚来源,它先只能算线索,不能直接当结论。
再看链条。
真正可靠的证据,通常不会只有一个孤立瞬间。比如售后场景里,开箱视频、物流时间、包装状态、商品连续画面,比单独一张“坏了”的图更可信。
继续找反证。
不要只问“这张图像不像真的”,还要问“它哪里不合理”。植物叶片状态、物体断裂痕迹、光照方向、文字细节、背景结构,都可能暴露问题。
然后用工具初筛。
遇到高风险内容,可以用 AI 内容鉴定工具、平台申诉工具或其他可信检测渠道做初步判断。但工具结果要和场景经验、其他证据放在一起看。
最后,慢一点下结论。
很多假内容真正利用的关键,是人的反应速度。它希望你马上相信、马上转发、马上付款、马上站队。
慢一点,本身就是一种防御。
AI 让图片变便宜,也让信任变贵。
过去,“有图”很重要。
现在,“图从哪里来、怎么生成、是否可追溯、能否被其他证据印证”更重要。
未来可靠的证据,可能会从一张孤立的图片,升级成一组可追溯的材料:原始文件、拍摄时间、设备信息、连续视频、平台记录、第三方鉴定、前后过程。
这也是 Human3.0 里我一直想强调的边界:
事实、检索、比对、初筛,可以交给 AI。
判断、责任和取舍,要留在人这里。
以后再看到一张截图、一张售后图、一张“现场证据”,先别急着相信。
先问一句:
这张图,真的能承担它正在承担的结论吗?
如果答案不确定,就先把它放回“待验证”的位置。
这不是多疑。
这是 AI 时代必要的认知卫生。
你最近有没有遇到过让你怀疑“这图是不是 AI 做的”的场景?
欢迎在评论区聊聊。这个问题以后可能会越来越日常。