这种做法在低风险场景里够用,但一旦真的出事,你会发现它什么都没解决——确认框弹出来的时候人不在,操作超时了怎么办?人点了"同意"但看到的是三分钟前的快照,怎么办...
本文是「架构实战·第二季」第十八篇。前面讲了怎么让 LLM 跑得"快"和"省",本篇讲怎么让它"安全"。
本文是「架构实战·第二季」第十七篇。前面我们讲了 LLM 应用的"能跑",本篇讲"跑得便宜"。
服务端系列新篇,聊故障传播的经典话题:雪崩。一个下游服务变慢,拖垮调用方线程池,调用方再拖垮它的上游——级联故障像多米诺。这篇把防雪崩的手段按层次讲清楚,重点讲...
在科研智能体的系统设计中,黑盒化的生成过程与严苛的学术审查要求之间始终存在结构性张力。随着大模型在数据处理与内容生成中的渗透,如何用技术手段界定系统的干预边界,...
说到"给 Agent 加沙箱",多数人想的是"让它跑在容器里"。但沙箱只解决了一个边界,还有两个常被漏掉。
以上都是「非常终一致」。业务真的要求强一致(库存扣减、余额)时,正确答案不是把缓存修到强一致(等于放弃缓存的性能意义),而是架构分流:
本文是「架构实战·第二季」第十六篇。上一篇讲了推理框架,本篇讲怎么把 LLM 推理服务跑到 K8s 上。
本文是「架构实战·第二季」第十五篇。从这一篇开始,我们进入 LLM 工程化篇——怎么把模型跑得"又便宜又快"。
环境温湿度监测是工业物联网、智慧档案库房、数据中心动环系统最基础的感知节点。过去十几年,RS485总线+Modbus RTU凭借单品成本优势,成为中小型项目主流...
最近我们公司在推AI Coding工具,不管产品还是研发、测试 人手一个账号 用来提升自身的工作效率。大家挖掘其中的用法 一段时间后确实有部分人反馈非常好用,研...
本文是「架构实战·第二季」第十四篇。前面我们讲的 RAG、Prompt、Agent 等都是"不动模型"的方案,本篇进入"动模型"——Fine-tuning。
本文是「架构实战·第二季」第十三篇。前面我们讲的几乎都是文本 LLM 应用,本篇跳出纯文本,进入图文音视频的多模态世界。
本文是「架构实战·第二季」第十二篇。从这一篇开始,我们进入 LLM 应用最性感的赛道——AI 编程。
本文是「架构实战·第二季」第十一篇。上一篇我们讲了对话系统,本篇聚焦 LLM 应用中的"硬骨头"——文档处理。
OWASP Agentic AI Top 10 将"记忆与上下文投毒"列为 ASI06 后,AI 记忆安全的讨论重点发生了变化:问题不再只发生在单次对话里。记忆...
一个人的公司,最大的敌人往往不是竞争,而是三个月后的自己看不懂三个月前的代码。这篇文章聊聊我在单人体量下做技术选型、控制复杂度、管理技术债务的一些判断。