首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

#nvidia

揭秘 NVIDIA Dynamo:分布式AI推理的高效引擎

数据存储前沿技术

随着生成式AI模型规模的爆炸式增长,企业面临推理成本激增、分布式部署复杂度高、资源利用率低等挑战。传统推理框架在跨多节点扩展时,常因KV缓存重复计算、GPU负载...

7810

NVIDIA万亿AI数据中心革命

数据存储前沿技术

人工智能正以前所未有的速度重塑技术格局,而数据中心作为算力的核心载体,正经历一场价值万亿美元的颠覆性变革。NVIDIA凭借其GPU加速计算的先发优势,构建了从芯...

8610

DeepSeek之后,在GTC大会上NVIDIA将重点放在推理上

云云众生s

GTC 大会 NVIDIA 聚焦 AI 推理!发布 Blackwell Ultra、Vera Rubin 等加速器,性能飙升。开源 Dynamo 框架加速 AI...

6210

【重磅突破】NVIDIA新作MambaVision:颠覆视觉任务的超高效混合模型来了!

AI浩

https://arxiv.org/pdf/2407.08083 在AI视觉领域,Transformer和CNN的"神仙打架"持续多年,而NVIDIA实验室最新...

20610

什么是cuDNN?如何安装CUDA和cuDNN

CloudStudio

cuDNN 是什么?为什么要安装 cuDNN ?本文将介绍nvidia硬件和驱动(包含 nvidia driver ), cuda 工具包( cuda tool...

35900

NVIDIA Isaac Sim安装疑难杂症攻克记:两周问题总汇与实战攻略

GPUS Lady

NVIDIA机器人技术练气群已经成立两周有余,我们始终致力于将这个群聊打造成为一个ISAAC开发者们自由交流、分享经验以及进行技术实操的活跃平台。近两周来,群内...

20100

机器人风起云涌!海外两大独角兽先后巨额融资

算力之光

近日,人形机器人领域的领先者Figure AI计划以395亿美元的估值获得15亿美元融资,是去年融资6.75亿美元时所获得的26亿美元估值的15倍。此外,Fig...

6100

Nvidia Ingest 让从文档中提取结构化信息更简单

深度学习与Python

Nvidia Ingest 是一种新的微服务,旨在处理文档内容并将元数据提取到明确定义的 JSON 模式中。Ingest 能够处理 PDF、Word 和 Pow...

9300

NVIDIA:GPU作为数据访问引擎的计算架构设计

数据存储前沿技术

GPU 不仅仅是一个计算怪兽,它也变成了一个细粒度的数据访问引擎。使用 O(100K) 线程来加速计算或 IO。

17210

NVIDIA PTX指令集大揭秘:非CUDA替代品,而是底层控制语言

GPUS Lady

最近,DeepSeek采用了NVIDIA PTX指令集(Parallel Thread Execution ISA)来提升执行效能。然而,这一举动却导致了一些新...

1.6K30

有容乃大,刚刚NVIDIA NIM集成DeepSeek,正式上线

GPUS Lady

这个春节真是热闹非凡,大家还沉浸在节日的喜悦中,并热议着DeepSeek如何在美国股市掀起波澜,让NVIDIA股票在一夜之间下跌了17%。当大家纷纷揣测“这下梁...

30110

NVIDIA Blackwell RTX GPU与CUDA 12.8框架更新指南

GPUS Lady

随着NVIDIA Blackwell RTX GPU的发布,为了确保应用程序与这些新一代GPU的兼容性和最佳性能,应用开发者必须更新到最新的AI框架。NVIDI...

98810

NVIDIA推出Launchables:为AI开发者量身打造的一键式GPU环境!

GPUS Lady

NVIDIA目前正在积极扩展在build.nvidia.com上可即时使用的Launchables,随着新的NIM微服务以及其他NVIDIA软件、SDK和库的发...

9910

NVIDIA GPUs H100 vs A100,该如何选?

Luga Lee

Hello folks,我是 Luga,今天我们来聊一下人工智能应用场景 - 构建高效、灵活的计算架构的 GPU 资源动态调度。

51610

今日起,NVIDIA Jetson Orin NANO和Orin NX模组也可以升级成Super模式

GPUS Lady

昨晚,NVIDIA在其论坛上公布了JetPack 6.2版本,意味着NVIDIA Jetson Orin NANO和Orin NX模组也可以升级成Super模式

81610

安装 NVIDIA driver

1AI

在列表中,有 driver xxx 后方出现 recommended,为推荐的版本,使用下面命令安装此推荐版本

10010

一文读懂 NVIDIA A100 GPU

Luga Lee

Hello folks,我是 Luga,今天我们来聊一下人工智能应用场景 - 构建高效、灵活的计算架构的 GPU 底座 - NVIDIA A100 。

24600

该需要多少 NVIDIA CUDA Cores ?

Luga Lee

Hello folks,我是 Luga,今天我们来聊一下人工智能应用场景 - 构建高效、灵活的计算架构的 GPU 资源的核心基础设施-CUDA 核心(...

13710

一文读懂 NVIDIA GPU Core

Luga Lee

Hello folks,我是 Luga,今天我们来聊一下人工智能(AI)生态领域相关的底座技术 - NVIDIA GPU Core。

20910
领券