LLM 解码很慢，因为生成一个 token 需要每次都从 GPU 内存中加载全部模型权重。700 亿参数的模型意味着 140GB 权重，每一个 token 都要...

过去两年，HBM（高带宽内存）伴随GPU训练集群的爆发式增长，一度被视为存储行业的"皇冠明珠"。SK海力士、三星等巨头纷纷将产能向HBM倾斜，资本市场也对这条赛...

近年来，AI服务器快速从DDR4内存平台升级到DDR5内存平台。例如基于英特尔Xeon 6、AMD Turin以及最新AI GPU平台的新一代服务器，都已经全面...

简化设计：通过将预验证的LPDDR5X内存直接集成在封装内，AMD免去了客户在板级进行高速内存布线的复杂工作，据称可节省数月的开发时间和验证成本，并降低因高速信...

动态统一内存模式下，LLM可正常加载到统一内存，并能使用GPU 算力，无需再手动分配内存大小。同时，统一内存分配硬限制解除后，LLM模型、Embedding模型...

安装完成后MetaDB的内存分配依然是100%，我的目标仍然是将ocp_monitor的内存配置调整到默认的8G。

要理解 CPU 物理核心如何操作数据，需先厘清其配套存储体系的设计规则与分工，原内容中的部分细节需修正补充，具体如下：

Bidfins 同时对接雅虎代拍、煤炉自动代拍、乐天多套日本 API，恶意爬虫、高频扫描频繁触发日方风控封禁账号。基于腾讯云 API 网关 + EdgeOne ...

在初探GPU：统一内存是什么中，针对统一内存，我提到过一款笔记本，那就是使用AMD AI MAX+ 395的ROG 幻X 2025。国庆节前，我也去ROG门店提...

另一方面，肯定有人会问了如果主备库的硬件资源相同，备库部分 PDB 使用了更多的内存资源会出现问题么，其实这就是多租户的另一个优势，灾备库可以通过关闭没有读写分...

到现在我们已经看到了在CPU上普遍使用的DDR内存，在GPU上使用的GDDR、HBM显存，以及在CPU、GPU均可使用的LPDDR内存，不同的类型的内存有不同优...

之前写过不少关于数据库使用的硬件的文章，主要集中在CPU、内存、磁盘和网络，但是随着AI时代的来临，似乎还有一块硬件没有怎么去写，那就是算力的核心GPU。

解码（Decode，逐个生成 Token）则是内存带宽密集型的。为了生成每一个新 Token，GPU 必须把整个 KV 缓存从高带宽内存（HBM）中重新读一遍；...

但很多同学在配置内存监控大盘时，经常选错指标，用了 container_memory_usage_bytes。这个指标包含了 Cached 缓存内存。在 Lin...

左边是 CubeAttn-X（x_alt 变体）：4 层里 CubeAttn（线性注意力，O(LD)）和标准 Softmax（O(L²D)）交替排列。右边是 标...

判断系统支撑能力的QPS（Queries Per Second）"优秀"阈值没有统一标准，需结合具体场景综合评估。以下是分场景的详细标准和分析框架：

Shell脚本是Linux运维自动化的基础工具，语法简单、无需编译，能快速完成文件处理、系统监控、批量运维等工作。本文整理10个行业高频经典Shell脚本，全部...

libvips 非常快且内存占用极低。vips-php-bench 仓库将 php-vips 与 imagick 和 gd 进行测试。在笔记本电脑上测试结果显示...

fastjson 在解码时用速度换内存（yyjson 的两阶段解析器会同时持有文档和 zval 树），峰值内存约为 ext/json 的 1.7x。