首页
学习
活动
专区
圈层
工具
发布
首页标签大模型部署

#大模型部署

腾讯云大模型 Token Plan,Hy Token Plan Hy4 正式版上线了

用户10991945

2026年的开发者社区正在经历一场静默的范式转移。过去两年,我们见证了大语言模型从"尝鲜玩具"到"生产力核心"的完整蜕变。但随之而来的,是一个越来越尖锐的矛盾:...

2700

语义断层、权限断层与数据出库:外挂向量库的三个结构性盲区

这个DBA有点耶

搭过RAG的兄弟应该都经历过这种时刻:向量检索明明返回了Top-K最相似的文档,大模型基于这些文档生成的回答,业务方一看就说“口径错了”。

2000

大模型 Agent 的三个状态断层:计划漂移、记忆污染与恢复非幂等

IT大佬 jzit-top

把大模型接进智能体,表面上只是"多了一个会调工具的 LLM",但真正改变工程性质的,是系统从此有了跨轮次的状态。普通 LLM 应用是无状态的:一次请求、一次响应...

2300

AI 大模型周榜:综合榜前五迎来新面孔,智能体、生图、视频三榜同现国产新模型

用户12520612

8 月 3 日消息,Arena(arena.ai)平台 AI 大模型 2026 年第 31 周排行榜发布,本期统计周期为 2026 年 7 月 27 日至 8 ...

7600

国产多模态大模型对比:图文、音频、视频能力全盘点

用户12520612

摘要:多模态大模型能同时处理图像、音频、视频与文本,是 AI 应用从「文字助手」升级为「感知助手」的前提。本文按图像理解、音频语音、视频理解、文档解析、OCR、...

2800

从官方直连迁移到AI大模型API聚合平台,要改什么?

用户12884556

很多团队评估统一管理多个大模型API时,先担心的是迁移会不会影响线上业务:是否要重写调用代码,流式输出会不会失效,提示词与错误处理能否复用。大模型API聚合平台...

3300

企业选AI聚合平台要看哪些指标:接口兼容、稳定性与成本控制的评估清单

伊云

摘要:企业选型AI聚合平台,宣传页上的指标不能直接采信,需要一套可自行验证的评估清单。本文按接口兼容性、稳定性、成本透明度、企业管理能力四类指标,逐项给出合格参...

3600

语料标注规则:第一版不用写全,但必须能跑起来

AI备案指南当当

关于这份材料,容易读到的是"合格的规则应该包含哪十项""常见缺陷有哪六种"这类清单式文章。它们对改稿有用,对起步没用。

3300

第2章 千里之行,始于足下 — 初识大语言模型

怕浪猫

你是不是也经历过这样的时刻:打开ChatGPT,问它一个技术问题,它滔滔不绝地给你写了一大段代码,你复制粘贴运行,报错了。你再问它,它说"抱歉,让我修正一下",...

4400

LLM大模型工程师入门实战 — 课程导学

怕浪猫

2023年,一个叫ChatGPT的产品让全世界重新认识了AI。2024年,大模型已经渗透到搜索、办公、编程、设计等每一个角落。2026年的今天,大模型工程师成了...

2500

小模型优先:多模型路由的降本工程实践

码林拾遗

推理成本优化系列。前面的篇目讲了单个能力的账,这篇讲架构层的省钱术:多模型路由——让每个请求去它「够用的最便宜模型」,而不是全部涌向旗舰。这套实践帮我们在不降体...

12510

大模型部署怎么做?从环境准备到推理服务上线的完整路径

克劳德2048

摘要: 大模型部署有三条路径:裸机自建、预置环境部署、直接调用 API。腾讯云高性能应用服务 HAI(Tencent Cloud HAI)交付即插即用的应用环境...

17110

设备管理工业大模型为重资产企业规模化落地设备管理AI应用筑牢合规底座

用户12721668

近日,广东中设智控科技股份有限公司设备管理工业大模型正式通过国家生成式人工智能服务备案,备案信息由广东省互联网信息办公室对外公示。作为聚焦设备资产全生命周期管理...

9010

新闻查询API实践:舆情、行业情报、大模型时效性数据接入方案

探数API小喇叭

一些品牌公关、舆情监测、行业情报等需要抓取实时新闻进行分析的行业,可靠的新闻来源是很重要的。

13510

一个不懂代码的老板,用 AI 做了一套报价系统:我坚持的三条架构铁律

用户12751392

11610

语料标注规则:其他五份材料的依据都在这里

AI备案指南当当

这份材料已经被讨论过几个层面:它是什么(材料定位)、原料从哪来(上游状态)、句子怎么写(文本结构)、发布后怎么维持(生命周期)。这四个层面都成立,但它们都把它当...

11710

企业大模型API网关调用成本为什么降不下来:多模型聚合计费与成本优化实战

伊云

摘要:企业大模型调用成本降不下来,多数问题不在模型单价,而在计费口径、调用结构与采购方式。本文拆解三类成本根源,给出从账单核算、调用优化到聚合计费选型的完整路径...

11720
领券