首页
学习
活动
专区
圈层
工具
发布

#LLM

Claude 长上下文应用的 token 与并发治理:一份可执行的度量方案

用户12696949

模型接入之后,第二个阶段的问题往往不是能不能用,而是 “账单不可预测、高峰不可承受”。这两件事看起来分属成本与稳定性,实际同源:都没有把 token 与并发当成...

300

兼容 Anthropic Messages API 的网关层差异:协议对齐的四个校验点

用户12696949

把 Claude 接入生产环境,很多人默认 “只要 base_url 换了、key 换了就能跑”,实际联调时却会遇到一批沉默型故障:请求成功返回、状态码 200...

500

企业大模型调用成本为什么降不下来:多模型聚合计费与成本优化实战

伊云

摘要:企业大模型调用成本降不下来,多数问题不在模型单价,而在计费口径、调用结构与采购方式。本文拆解三类成本根源,给出从账单核算、调用优化到聚合计费选型的完整路径...

4400

如何监测品牌在 AI 引擎中的曝光度:拆成 5 个数按周算,被引率翻倍的 4 周里,提及率只多 0.9 个点(附 pandas)

Nancy看AI搜索

监测品牌在 AI 引擎中的曝光度,要固定一组题,每天发给每家 AI 问一遍,一条回答记一行,再按周算五个数:提及率、前三率、声量份额、正面占比、被引率。前四个管...

3210

大模型微调 vs RAG vs 提示词工程:什么场景该花这笔钱?(含 LoRA 实战要点)

用户12876805

团队做大模型应用,最常被问到的问题之一是:到底要不要微调?有人一上来就想拿业务数据把模型“训一遍”,也有人觉得写好提示词就够了。这篇文章把微调到底在做什么、和 ...

11310

GEO 优化服务商怎么选:从 AI 检索链路反推的 7 项验收标准

用户10253450

打开 https://你的域名/robots.txt,检查这几个 UA 是否被显式放行:

10410

解密Prompt系列73. 爆改对话框:揭秘 Intelligent UI 的动态界面魔法

风雨中的小七

这是一篇迟到了大半年的分享。年初写到一半就扔进了抽屉,直到上个月 OpenAI 发布 Intelligent UI,才让我把它重新翻出来

14510

面试官让你把 LLM、RAG、Agent、MCP 串起来讲清楚,90% 的 Java 工程师当场露馅

Rain的Java大神之路

说句扎心的:LLM、RAG、Agent、MCP、向量、余弦相似度……这些词你个个都听过,但面试官让你“串起来讲一遍”的时候,是不是瞬间就卡壳了?

15910

Hunyuan Hy4 Official Release Imminent: 6 Entry Points to Experience Tencent's Flagship LLM First

gavin1024

Hy4 preview has been open-sourced for two months and ranked #1 globally in token...

42450

搭建一个自动生成测试数据的AI智能体:测试团队解放实录

编程小白狼

我刻意没有让LLM直接"编造"SQL——它编的SQL容易出错且不可控。而是让LLM只做"意图到模板参数"的转换,具体SQL由预置模板+参数填充完成。这样90%的...

14810

如何分析 DeepSeek 对不同品牌的回答?连问 26 天、965 条回答:问「怎么做」53% 不点品牌,排第一最多的名字别家只有 8%(附 pandas)

Nancy看AI搜索

分析 DeepSeek 对不同品牌的回答可以分五步:先按问法把题分成「有哪些」「哪家好」「怎么做」三类,再把每条回答拆成一张按出现先后排好的品牌名单,逐个名字算...

13010

Astra改Qwen小模型的权重,数学成绩涨了6倍

果果玩AI

他们干了件挺野的事:让 GPT-6 Astra 去读另一个模型的原始权重,就是那一堆数字,然后让它直接上手改。不训练,也不用梯度,纯靠看。

19620

Tool-Use Agent 如何扩训练数据:拆解工具、任务与环境状态的 Scaling Law

七牛开发者

训练 Tool-Use Agent 需要大量包含工具调用和状态变化的交互数据,但这类轨迹在互联网语料中并不常见,因此近年的一个主要方向是用 LLM 合成训练数据...

14310

为什么本地化执行仍是亚太制造商的制胜关键

中杯可乐多加冰

导语过去几周,SAP、Oracle、金蝶、用友几乎同时把「智能体」写进了 ERP 的下一站。但对亚太地区的制造商与贸易公司而言,问题从来不是要不要上 AI,而是...

15310
领券