• 图像隐写指令：CT扫描图中嵌入代码，诱导医疗模型误诊 • RAG文档篡改：污染知识库内容，操控招聘模型推荐错误候选人

最近，科技圈里“大模型备案”成了高频词。不少企业和开发者提到这个过程，第一反应都是“太烧脑了”。到底这个备案难在哪儿？为什么需要如此严格的审核？今天我们就来捋一...

可解释人工智能（XAI）方法被视作调试和信任统计与深度学习模型、解释其预测的重要工具。然而，对抗机器学习（AdvML）的最新进展揭示了最先进解释方法的局限性和脆...

随着Agentic AI协议的演进，AI系统正从单体模型向多代理协作生态转型。今天我将深度解析四大核心协议的技术特性与应用场景，希望能帮助到各位。

南京大学 & 美团联合团队发表了一篇 NAACL 2024 论文《A Wolf in Sheep’s Clothing: Generalized Nested ...

前言：Human-in-the-Loop（HIL）是一种AI系统设计模式，它允许人类在AI Agent的决策过程中介入并提供反馈或决策。在HIL系统中，AI A...

在过去的18个月里，LangChain无疑成为AI工程领域的耀眼明星——GitHub星标爆炸性增长、开发者峰会座无虚席、各种基于LangChain的创业公司如雨...