首页
学习
活动
专区
圈层
工具
发布

#架构

人在回路(HITL)的架构:审批闸门、异步回调与超时降级

Archive

这种做法在低风险场景里够用,但一旦真的出事,你会发现它什么都没解决——确认框弹出来的时候人不在,操作超时了怎么办?人点了"同意"但看到的是三分钟前的快照,怎么办...

1600

【架构实战】LLM安全防护:提示注入与越狱的防御

紫风

本文是「架构实战·第二季」第十八篇。前面讲了怎么让 LLM 跑得"快"和"省",本篇讲怎么让它"安全"。

2700

【架构实战】LLM成本控制:Token预算、缓存与模型选型

紫风

本文是「架构实战·第二季」第十七篇。前面我们讲了 LLM 应用的"能跑",本篇讲"跑得便宜"。

1400

服务雪崩的防治:从线程池隔离到舱壁模式

码林拾遗

服务端系列新篇,聊故障传播的经典话题:雪崩。一个下游服务变慢,拖垮调用方线程池,调用方再拖垮它的上游——级联故障像多米诺。这篇把防雪崩的手段按层次讲清楚,重点讲...

900

架构方案总览:如何以工程机制实现学术规范下的 AI 使用声明与分级披露

用户6808650

在科研智能体的系统设计中,黑盒化的生成过程与严苛的学术审查要求之间始终存在结构性张力。随着大模型在数据处理与内容生成中的渗透,如何用技术手段界定系统的干预边界,...

2910

Agent 沙箱与凭据代理:最小权限、执行隔离与密钥不出域

Archive

说到"给 Agent 加沙箱",多数人想的是"让它跑在容器里"。但沙箱只解决了一个边界,还有两个常被漏掉。

6521

缓存一致性:从更新兜底到多级防线的工程实践

码林拾遗

以上都是「非常终一致」。业务真的要求强一致(库存扣减、余额)时,正确答案不是把缓存修到强一致(等于放弃缓存的性能意义),而是架构分流:

7810

【架构实战】LLM GPU资源调度:Kubernetes上的推理服务部署

紫风

本文是「架构实战·第二季」第十六篇。上一篇讲了推理框架,本篇讲怎么把 LLM 推理服务跑到 K8s 上。

5410

【架构实战】LLM推理优化:vLLM、TGI与TensorRT-LLM部署

紫风

本文是「架构实战·第二季」第十五篇。从这一篇开始,我们进入 LLM 工程化篇——怎么把模型跑得"又便宜又快"。

5310

物联网传感网络设计:基于 TCP/IP 的 RJ45 温湿度变送器组网架构

盛世宏博科技

环境温湿度监测是工业物联网、智慧档案库房、数据中心动环系统最基础的感知节点。过去十几年,RS485总线+Modbus RTU凭借单品成本优势,成为中小型项目主流...

5410

别卷"AI能做的事",去练"AI做不了的事"

码农的日常

最近我们公司在推AI Coding工具,不管产品还是研发、测试 人手一个账号 用来提升自身的工作效率。大家挖掘其中的用法 一段时间后确实有部分人反馈非常好用,研...

7620

【架构实战】LLM Fine-tuning:领域模型微调与小样本训练

紫风

本文是「架构实战·第二季」第十四篇。前面我们讲的 RAG、Prompt、Agent 等都是"不动模型"的方案,本篇进入"动模型"——Fine-tuning。

9810

【架构实战】多模态应用:图文音视频统一处理架构

紫风

本文是「架构实战·第二季」第十三篇。前面我们讲的几乎都是文本 LLM 应用,本篇跳出纯文本,进入图文音视频的多模态世界。

12610

【架构实战】AI代码助手:CodeAgent在研发流程中的落地

紫风

本文是「架构实战·第二季」第十二篇。从这一篇开始,我们进入 LLM 应用最性感的赛道——AI 编程。

12410

【架构实战】LLM文档处理:长文本切片与结构化抽取

紫风

本文是「架构实战·第二季」第十一篇。上一篇我们讲了对话系统,本篇聚焦 LLM 应用中的"硬骨头"——文档处理。

11010

把记忆当作不可信数据,OWASP ASI06正在重塑智能体安全架构

用户6808650

OWASP Agentic AI Top 10 将"记忆与上下文投毒"列为 ASI06 后,AI 记忆安全的讨论重点发生了变化:问题不再只发生在单次对话里。记忆...

12210

一人公司的工程决策:独立开发者如何做技术选型与复杂度管理

OPC创业圈

一个人的公司,最大的敌人往往不是竞争,而是三个月后的自己看不懂三个月前的代码。这篇文章聊聊我在单人体量下做技术选型、控制复杂度、管理技术债务的一些判断。

10910
领券