半吊子全栈工匠

腾讯云

开发者社区

文档建议反馈控制台

首页

文章/答案/技术大牛

发布

LV1

发表了文章 9天前2025-04-14 11:02:51

从零构建大模型之Transformer公式解读

【引】收到图灵寄来的两本书《大模型应用开发极简入门》和《从零构建大模型》，重新点燃了自己深入理解大模型内部机制的热情，不能只知其然而不知其所以然，于是重温大模型...

半吊子全栈工匠 9天前2025-04-14 11:02:51

连接、模型、网络、编码、函数

发表了文章 16天前2025-04-07 10:33:05

从Service Mesh 到 Agentic Mesh

Mesh 是一种网络技术，其核心特点是节点之间可以动态互联，通过多跳路由实现数据的高效传输。Mesh 网络中的每个节点既能发送/接收数据，也能为其他节点转发数据...

半吊子全栈工匠 16天前2025-04-07 10:33:05

service、服务、模型、系统、mesh

发表了文章 23天前2025-03-31 19:21:30

大模型应用的能力分级

对大模型应用的能力分级就像给学生打分一样，能让我们更清楚它的本事有多大。能力分级能帮我们设定目标，知道AI现在能干什么，未来还要学什么。有了统一的分级方式，大家...

半吊子全栈工匠 23天前2025-03-31 19:21:31

自动化、工具、模型、数据、系统

发表了文章 30天前2025-03-24 19:09:18

来了！10个构建Agent的大模型应用框架

随着生成式人工智能（GenAI）的蓬勃发展，基于大型模型的应用已经悄然融入我们的日常工作和生活，它们在诸多领域中显著提升了生产力和工作效率。为了更便捷地构建这些...

半吊子全栈工匠 30天前2025-03-24 19:09:18

模型、agent、开发、开发者、框架

发表了文章 2025-03-172025-03-17 16:31:36

AI 驱动的数据分析：Data Agent

数据曾被誉为新的石油，但这种说法正在演变。随着人工智能的兴起，算力已经成为企业推动创新和成功的关键资源。生成式人工智能所涉及到知识工作和创造性工作的领域，如果...

半吊子全栈工匠 2025-03-172025-03-17 16:31:36

人工智能、数据分析、agent、data、数据

发表了文章 2025-03-102025-03-10 12:49:10

LLM运行框架对比：ollama与vllm浅析

开源的LLM已经成为程序员、爱好者和希望在日常工作中使用生成式AI并保持隐私的用户的最佳选择，对于企业的私有化部署而言也是如此。这些模型提供了优秀的性能，有时在...

半吊子全栈工匠 2025-03-102025-03-10 12:49:11

性能、LLM、部署、框架、模型

发表了文章 2025-03-032025-03-03 14:50:59

架构设计过程中的10点体会

在软件工程领域，任何脱离实际业务需求的架构设计都是一种不负责任的行为，甚至可以称之为"技术层面的形式主义"。这种设计倾向往往表现为过度追求技术新颖性、盲目采用复...

半吊子全栈工匠 2025-03-032025-03-03 14:50:59

架构设计、产品、架构、解决方案、敏捷

发表了文章 2025-02-252025-02-25 09:28:32

解读DeepSeek-R1

DeepSeek-R1 并不是从零开始训练的。它从一个比较强大LLM （DeepSeek-V3-base）开始，进而成为一个推理大模型。为了做到这一点，使用了强...

半吊子全栈工匠 2025-02-252025-02-25 09:28:32

模型、数据、系统、性能、DeepSeek

发表了文章 2025-02-102025-02-10 21:34:55

DeepSeek 到底用了多少GPU呢？

【引子】近来，大家一直在谈论 DeepSeek R1，即 671B 的参数巨兽。如果得到这样的一个大模型，到底花费了600 万美元还是2.48 亿美元呢？到底用...

半吊子全栈工匠 2025-02-102025-02-10 21:34:56

DeepSeek、人工智能、缓存、gpu、模型

发表了文章 2025-01-202025-01-20 20:14:53

性能优化之动态加载

在过去近三十年的职业生涯里，有几年专注于运行时环境的开发与实现。在runtime中，动态加载技术是其中的基石之一。动态加载技术是指在系统运行过程中，根据需要把程...

半吊子全栈工匠 2025-01-202025-01-20 20:14:53

性能优化、插件、程序、函数、系统

发表了文章 2025-01-132025-01-13 16:08:17

性能约定：API 限速

速率限制是一种关键的控制机制，用于管理 API 的请求流，非常类似于调节器。速率限制不仅仅是控制请求的总数，它还关系到如何以及在哪里应用这些限制。根据 API ...

半吊子全栈工匠 2025-01-132025-01-13 16:08:17

流量、日志、性能、api、管理

发表了文章 2025-01-072025-01-07 14:19:54

微秒级高性能网络初探

如果我们的预期是将网络延时从10ms 降低到1ms，那么应该先分析这些时延的具体构成，很有可能瓶颈并不是网络传输；如果目标是将网络延时降低到微秒级或者百微秒级，...

半吊子全栈工匠 2025-01-072025-01-07 14:19:55

协议、队列、高性能、数据、网络

发表了文章 2024-12-242024-12-24 20:55:56

大模型应用的10个架构挑战

ChatGPT 从正式发布到拥有1亿用户仅仅用了5天的时间，基于大型语言模型（简称大模型，或基础模型）的应用给软件行业乃至整个社会带来巨大的影响。作为一名软件系

半吊子全栈工匠 2024-12-252024-12-25 14:52:55

腾讯云架构师技术同盟

发表了文章 2024-12-232024-12-23 15:17:12

大模型应用系列：从MLOps到LLMOps

【引子】在IT领域中，DevOps 是软件工程效能的重要方法论以及工具集，在人工智能领域同样如此。

半吊子全栈工匠 2024-12-232024-12-23 15:17:13

模型、数据、性能、机器学习、部署

发表了文章 2024-12-192024-12-19 15:27:04

WEB语义化的新探索：浅析LLMs.txt

【引】有人迷恋使用大模型生成各种有趣的内容，有人沉醉于大模型相关技术的探索，没有对错，只在于你的乐趣所在。

半吊子全栈工匠 2024-12-192024-12-19 15:27:04

web、工具、人工智能、网站、txt

发表了文章 2024-12-092024-12-09 13:14:08

浅析面向场景的大模型应用框架选择

【引】人们经常用“具体问题具体分析”来适应不确定性，工匠的思维是对问题进行分类，然后尝试是否存在通用的解法，可能不是最优的解，但肯定是一个可用的解。对于大模型...

半吊子全栈工匠 2024-12-092024-12-09 13:14:08

数据、缓存、安全、框架、模型

发表了文章 2024-12-022024-12-02 19:59:06

解读小模型——SLM

【引】如果希望从文献途径了解一个新的领域，该领域的相关survey 论文可能是一个较好的切入点，对于日新月异的AI领域尤其如此。”Small Language ...

半吊子全栈工匠 2024-12-022024-12-02 19:59:06

神经网络、函数、模型、数据、网络

发表了文章 2024-11-252024-11-25 13:34:10

解读GraphRAG

RAG 结合了大型语言模型和信息检索模型的力量，允许它们用从大量文本数据中提取的相关事实和细节来补充生成的响应。事实证明，这种方法在提高模型输出的实际准确性和总...

半吊子全栈工匠 2024-11-252024-11-25 13:34:10

知识图谱、模型、数据、搜索、系统

发表了文章 2024-11-182024-11-18 20:33:34

初探Ranking系统的离在线满意度评估

【引子】在上周发布了《大模型应用系列：从Ranking到Reranking》之后，有AI 产品经理问我，如何评估Ranking 系统的性能呢？再进一步，如何...

半吊子全栈工匠 2024-11-182024-11-18 20:33:35

性能、ranking、数据、搜索、系统

发表了文章 2024-11-112024-11-11 19:31:14

大模型应用系列：从Ranking到Reranking

【引子】Ranking 和Reranking又是一个NLP 处理中的传统技术，那么在大模型应用中又起到怎样的作用呢？

半吊子全栈工匠 2024-11-112024-11-11 19:31:14

排序、搜索、系统、ranking、模型

12 3 4 5 6 7 8...18 下一页

个人简介

诺谛智能 | 首席架构师
半吊子全栈工匠
人工智能嵌入式 python 数据库 linux
北京邮电大学 | 无线通信
http://blog.csdn.net/wireless_com
北京
加入社区时间：2018-08-15

个人成就

获得 907 次赞同
文章被阅读 458.4K 次
文章获得 1 次首页推荐

关注了：1关注者：87