把Agent留在个人电脑里跑,就像在温室里养花,API密钥塞环境变量里,坏了手动重启。但要让Agent上云、变成真正的生产力工具,这套玩法会死得很惨。
真正的云原生Agent基建,硬骨头根本不是AI,而是最传统的系统工程。
最容易踩坑的是更新冲突。用户需要自己的运行环境(比如装好的包)绝对稳定,而平台又需要一天发布好几次。如果混在一起,平台一更新,用户的环境就崩了。解决办法是学操作系统:把用户环境冻结成只读镜像,平台代码在启动时热插拔替换,互不干扰。
安全更是重灾区。由于大模型极易被提示词劫持,你必须默认Agent所在的沙箱随时会被攻破。绝对不要把密钥塞进沙箱,而是要在沙箱外设一个API代理,由平台在主机端附加Token。哪怕Agent被黑,黑客也只能拿到一个几分钟就过期的临时凭证,根本碰不到主密钥。
说白了,未来的Agent就是一个带自然语言接口的云函数。
x.com/intuitiveml/status/2062699747224568212