RAG系统的“反欺骗”评估框架：如何测试AI对商家SEO投毒的免疫力？

在购物决策场景中，商家通过SEO投毒（如关键词堆砌、虚假评价、参数篡改、链接农场等）污染检索结果，试图操控AI推荐。单一RAG系统依赖固定检索源，投毒内容易通过，导致推荐结果被操控。多AI聚合系统虽然通过多个模型交叉验证降低风险，但若所有模型都依赖同一污染源，聚合可能放大错误。因此，评估各模型对投毒内容的免疫力，是构建鲁棒聚合系统的关键前提。