首页
学习
活动
专区
圈层
工具
发布

#内存

【DGX Spark新手避坑指南】——从SSID消失到内存爆满,高频问题解决方案全解析!

GPUS Lady

本QA同样适用于NVIDIA GB10其他平台 Q:我在设备模式下设置DGX Spark时,能连接SSID却无法打开重定向网页(http://spark-xxx...

600

内存和硬盘的价格似乎在疯涨?聊聊三星DDR5断供事件

IT运维技术圈

跟渠道商吃饭听到几个消息。说有些老板凑局囤积了大量的机械硬盘,规模达几个亿,囤货周期已超两个月,预期过年前价格继续上涨。这种在传统硬件市场的投机行为,恰恰映射出...

1000

服务器500错误又来了?别慌!这份排查指南让你秒变故障终结者

悠悠12138

如果可用内存很少,或者swap使用率很高,那很可能就是内存不足导致的问题。我遇到过好几次因为内存不足导致的500错误,特别是在流量突然增大的时候。

700

彻底理解 unique_ptr

早起的鸟儿有虫吃

通过考研,面试 进入行业公司,然后直接瞬间进入数据库,os ai 行业 然后再开发相关项目。

1400

AI大模型破局:内存压缩与高速互连新战场

数据存储前沿技术

通过在每个内存通道上实时地、硬件加速地执行无损压缩和解压缩,该方案在处理器核心完全无感知的情况下,为系统带来了有效内存容量和有效内存带宽的双重巨大提升,从而直接...

2100

UHI互连技术:重塑数据中心存储架构

数据存储前沿技术

“Server on a Chip” (SoC) 的理念是将传统服务器主板上的多个独立关键组件——例如中央处理器(CPU)、内存控制器、网络接口卡(NIC)、R...

2000

Samsung:RAG场景下的大容量SSD和CXL-DRAM方案

数据存储前沿技术

随着AI和ML技术的快速发展,RAG(检索增强生成)已成为增强大型语言模型能力的关键技术。然而,随着数据量的爆炸式增长,RAG系统面临着严峻的存储性能瓶颈和内存...

1000

DDR5内存纠错革新:RAIDDR如何平衡成本与可靠性

数据存储前沿技术

微软Azure团队提出的RAIDDR技术,正试图打破这一僵局。这项创新方案通过将部分纠错计算从内存条转移到主机控制器,实现了硬件精简与可靠性提升的双重目标。RA...

1000

Bill Gervasi :存储架构的能效革命

数据存储前沿技术

幻灯片揭示了在内存子系统中一个比CPU缓存行更深层次、更严重的效率问题。它表明,为了获取极少量的数据,整个内存系统在内部“空转”了大量的能量和带宽,这为提出颠覆...

1600

【合集】Samsung:Agentic AI 时代的内存变革

数据存储前沿技术

当前AI基础设施正遭遇"内存墙"困境:HBM带宽充足但容量有限,MRDIMM/CMM-D容量巨大但带宽不足。这种矛盾在长上下文推理场景下尤为突出,KV缓存的爆炸...

1600

Agentic AI 时代的内存(3)-KVCache卸载与PNM、PIM

数据存储前沿技术

面对这一困境,业界正在探索全新的内存架构解决方案。近内存处理(PNM/PIM)技术通过将计算移近数据,从根本上改变了传统的数据移动范式,为解决大模型推理的内存瓶...

1000

Agentic AI 时代的内存(2)-从HBM到分层存储架构

数据存储前沿技术

随着大模型参数量的指数级增长和RAG(检索增强生成)技术的广泛应用,AI系统对内存的需求已经达到了TB级甚至数十TB级的规模。这种复杂的记忆架构不仅对存储容量提...

1100

Agentic AI 时代的内存(1)-从HBM谈起

数据存储前沿技术

在人工智能飞速发展的今天,智能体AI(Agentic AI)正面临着前所未有的内存挑战。您是否曾思考过,一个能够进行复杂推理和决策的AI系统,其"记忆"系统是如...

900

大模型本地部署,vLLM 睡眠模式来了

Ai学习的老章

多模型服务的挑战: 你有两个大语言模型,每个都能单独运行在GPU上,但无法同时加载。传统方案迫使您在两个不理想的选择中权衡:

1000

大模型KV缓存,形象理解

Ai学习的老章

模型的权重和对话的历史 token 都必须放在显存里才能快速处理。但在朴素的解码中,每生成一个新 token,厨师(GPU)就得折回储藏室(内存)再拿一遍同样的...

1000

Tomcat 性能优化策略

老周聊架构

在bin/catalina.sh的脚本中 , 只是选这个CMS垃圾收集器做测试,追加如下配置 :

1200

【C语言】动态内存管理(详解版)

用户11915063

功能:有时会我们发现过去申请的空间太小了,有时候我们又会觉得申请的空间过大了,那为了合理的使用内存,我们一定会对内存的大小做灵活的调整。那 realloc 函数...

1700

条件渲染的「状态保留」难题,React 19.2终于给出了官方答案

前端达人

上周的技术分享会上,一位同事抱怨了一个老生常谈的问题:他们的中后台系统有个复杂的筛选面板,用户填了一堆条件后切换到其他Tab,回来发现表单数据全没了。

2200

bam文件转fastq的一些小tips

生信菜鸟团

samtools bam2fq(现多写作 samtools fastq)在大多数场景下 I/O 密集、计算量低,单线程即可跑满磁盘带宽,再增加线程也不会明显提速...

3010

GWAS分析要不要进行LD质控?

邓飞

有小伙伴在群里面问,GWAS分析要不要进行LD质控,我觉得问题很好,这里介绍一下。

3710
领券