首页
学习
活动
专区
圈层
工具
发布

#LLM

LLM测试实践:性能优化深度指南

顾翔

随着ChatGLM、Qwen、DeepSeek等国产大模型加速落地,金融、政务、医疗等高敏行业正将LLM深度集成至核心业务系统。然而,一个严峻现实是:83%的L...

1600

LLM 挂了怎么办?用 Neuron AI Router 实现多提供商无缝切换

Tinywan

简单版本是这样的:Neuron AI Router 中新的回退(fallback)策略,允许你为 PHP Agent 定义一个有序的 LLM 提供商列表。当一次...

800

AutoMem:把 Agent Memory 变成可训练的记忆管理技能

七牛开发者

很多 Agent 该配的都配了:RAG、向量库、summary buffer,甚至把中间结果写进文件。可任务一长,还是会跑偏。

1500

我把一个人的 X/Twitter 喂给 AI,它居然“看懂”了这个人

猿人谷

看他最近在聊什么,长期关注什么话题,什么时候最活跃,内容偏技术还是偏生活,情绪状态有没有变化,经常提到哪些人和标签。

3110

Claude Code 为了封禁中国用户,竟然在代码里下毒

cxuanAI

昨天刚写完 A 社大面积封号,今天又来了一个更刺激的。Reddit 上有人爆出来,说 Claude Code 在本地会偷偷检测你的代理、时区,以及代理是不是跟中...

10510

14-vLLM-SGLang-TRT-LLM在verl里如何被抽象

anzhsoft

上一篇说明了 rollout 是训练系统里的推理服务边界。这一篇继续向下看:如果 rollout 是服务,那么 vLLM、SGLang、TRT-LLM 这些后端...

4410

从Claude封号说起,再谈谈“蒸馏”

Kody-凯达

我们正在经历一场关于“知识”的战争——谁能学到,谁能偷走,以及谁的灵魂会被永远留在服务器里。

9110

LLM API选型避坑指南:别让Token吃掉你的预算

用户12493922

3210

本体论,一个2400年前的哲学概念,正在成为生成式AI时代最重要的理论体系

蒋麒霖

不是模型不够强,不是数据不够多。中间隔着的,是一套属于企业自身的、结构化的业务世界观。

4610

LLM API调用成本降不下来?试试这个路线

用户12493922

8210

LLM API选型避坑指南:别再盲目跟风了

用户12493922

8010

LLM API调用成本太高?试试这几种降本方法

用户12493922

8910
领券