首页
学习
活动
专区
圈层
工具
发布

#LLM

ARTS 0927: 单栈逐层展开嵌套字符串、包管理器与 Agent 沙箱本质同源与单次前向传播复刻极速决策模型

leikooo

每周完成一个 ARTS: 至少做一个 leetcode 的算法题、阅读并点评至少一篇英文技术文章、学习至少一个技术技巧、分享一篇有观点和思考的技术文章。(也就是...

600

Jev 能否用于银行风控?从规则引擎到语义决策层

夫子

在银行和消费金融领域,Blaze、Drools 等规则引擎已经使用多年。无论贷前授信、贷中风险监控,还是贷后逾期管理,本质上都存在大量“根据客户状态进行判断,再...

4710

一文看懂 RAGFlow 四层存储:元数据、对象、检索、缓存如何协作

AI-Frontiers

原文:​https://mp.weixin.qq.com/s/nJWQiXoSGbzqgk8uhPj2zQ

5510

Jev 是什么?怎么用,怎么跟大模型配合?

阿卡姆街道办主任

为什么 Jev 没法含糊?因为它根本不写字。普通大模型是一个字一个字往外蹦的,所以要好几秒,也可能蹦废话。Jev 只算一遍,然后只看那几个选项对应的字母(A、B...

10611

大语言模型压缩:剪枝、蒸馏与量化

用户11836455

显存(HBM)容量有限且带宽受限(memory-bound)——很多情况下不是算不过来,而是“把权重从显存搬到计算单元”这一步被带宽卡住。推理时显存主要被两块吃...

13011

推理一体机的账怎么算:什么规模值得从云上转到专属

用户12773860

推理一体机最近在社区里的声量明显变大——软硬一体的打包方案,号称「买断式 AI 算力」。作为管过推理成本的人,我的建议是把情绪放一边,这笔账其实结构很清晰,三个...

9310

Jev 和 JSON 模式 / 结构化输出有什么区别?为什么它不是"更小的 LLM"

克劳德2048

所以"更小的 LLM"这个说法从两头都不成立:架构不同、训练目标不同、输出形态也不同。它和 LLM 是并列的两类模型,而不是同一条技术路线上的大小之分。

15110

如何对API中转站模型进行检测|大语言模型真实性检测方案

用户3995900

作者:一名在大模型落地踩坑无数的后端架构狗 首发:腾讯云开发者社区 在线体验:https://model-check.org 开源地址:GitHub...

14410

AI Agent 真正干活的 Harness 到底是啥,原来就这 7 个子系统?

蛋先生DX

腾讯 | 前端研发 (已认证)

温馨提示:另有配套视频版,附带图解演示,观感不同,欢迎到各大视频平台搜索同名标题或【蛋先生说识】

41933

智能文档抽取系统,依靠OCR 视觉能力与大模型语义理解的融合,让机器不再仅仅识别文字,而是真正读懂合同内容

中科逸视OCR

一份企业合同,看着是几页纸,背后藏着合作主体、金额、履约周期、违约责任等几十项关键信息。在很多企业里,法务、采购人员依旧要逐字翻阅、复制粘贴、手动录入台账。遇上...

9810

Computer Use 怎么实现:从 Tool 协议到本地进程控制

磊叔的技术博客

Computer Use 解决的是 Agent 与现有软件之间最后一段执行连接,传统 Agent 依赖 API、MCP、CLI、数据库或其他结构化接口,这些接口...

20663

LLM 应用对不上账?大概率是漏记了这三种「失败但计费」的请求

用户12773860

凡是接了大模型 API 的团队,月底对账大概率经历过这种事:内部统计的调用量、token 数,和上游账单对不齐。差个百分之几都算正常的,差的多的能到两成。

13312

90%的AI团队都踩过这5个坑!2026大模型备案与合规通关全指南(附核心清单)

众森企服

随着生成式人工智能技术在各行业的爆发式渗透,AI 对话、智能创作、虚拟数字人等产品如雨后春笋般涌现。然而,合规准入已成为所有 AIGC 团队必须跨越的第一道“硬...

18310

Jev:当 AI 不再生成 Token,而是直接做决策

猿人谷

甚至只是判断一个操作“危险不危险”,很多 Agent 框架也会专门再调用一次 LLM。

42230
领券