- 综合排序
- 最热优先
- 最新优先
- 来自专栏Java项目实战
【玩转 GPU】英伟达GPU架构演变
图片一、GPU架构发展历史 1999年,英伟达发布第一代GPU架构GeForce 256,标志着GPU时代的开始。 因此，GPU作为一种专门用于图形处理和运算的显卡，成为了性能升级的关键部分。英伟达是一家全球领先的GPU制造商，英伟达显卡作为目前最流行的显卡之一，广泛应用于游戏、数据分析、深度学习、虚拟现实等领域。 随后,英伟达推出了GeForce系列显卡产品,在PC游戏和其他图形应用中获得主流地位。2006年,英伟达推出第一代CUDA架构GPU,可以用于通用数据并行计算,开启了GPU计算时代。 可以看出,英伟达显卡在GPU应用和体系结构上不断创新,推动着整个GPU技术发展。二、运行原理 英伟达显卡属于并行结构的高性能计算设备。 六、多模态构成 英伟达GPU通过流处理器、张量核心和RT核心实现了多模态设计,可以支持多种工作负载:1) 流处理器用于支持传统的图形渲染和通用GPU计算,代表了英伟达GPU的渲染和计算能力。
13.3K50编辑于 2023-06-08 - 来自专栏CVer
英伟达的这款GPU太强了！
那么本文就带大家看看这一波刷屏的 Hopper 架构和首款产品 H100 GPU 究竟有多强！ 据了解，NVIDIA H100 将于 2022 年第三季度起开始供货，也期待能尽快上手实测一波~ 图1 NVIDIA H100 GPU 首款 Hopper 架构 GPU：H100 NVIDIA 每代 4nm 工艺） Transformer Engine 第二代 MIG：多实例 GPU（Multi-Instance GPU） NVIDIA 机密计算（Confidential Computing） 第四代 NVLink 全新 DPX 指令 NVIDIA H100 GPU 硬件上的参数太炸裂，比如有：英伟达定制的台积电4nm工艺、单芯片设计、800 亿个晶体管、132 组 SM、16896 个 CUDA H100 GPU 中特别加入了 FP8 Tensor Core 来加速 AI 训练和推理。
1.8K20编辑于 2022-06-13 - 来自专栏DearXuan的博客文章
python调用英伟达GPU加速方法
调用GPU的本质其实是调用CUDA的dll 如果你对CUDA编程不熟悉，可以参考CUDA并行编程概述 生成CUDA dll 调用显卡的方法是调用CUDA的dll，因此首先要使用CUDA生成dll 下面是示例
1.7K30编辑于 2022-02-21 - 来自专栏专知
英伟达GTC大会：迄今最强GPU发布
【导读】当地时间3月27日，英伟达在美国圣克拉的 GTC 大会上推出多款产品。英伟达CEO黄仁勋在会上推出多款产品，包括新一代Quadro GV100卡显、医疗图像处理的超级电脑CLARA。 我们知道，随着近年来AI技术火爆，GPU价格也是水涨船高，虽然各大巨头也有推出对应的AI芯片，但是英伟达的低位仍难以动摇，此次大会也着实带给观众不少震撼，下面我们来一一解读。 ▌Quadro GV100卡显 ---- 英伟达新推出的这款QuadroGV100GPU，使用RTX技术进行实时光线追踪，这将为动画产业提供一种更有效的3D图形和场景制作方法。 ▌迄今最大GPU：DGX-2 ---- DGX-2是这次英伟达演讲的重点产品，DGX-2 是首款能够提供每秒两千万亿次浮点运算能力的单点服务器，它有16个VoltaGPU，具有 300 台服务器的深度学习处理能力 300万美元，英伟达的售价只是1/8的花费。
89160发布于 2018-04-08 - 来自专栏人工智能快报
谷歌开放TPU应对英伟达GPU挑战
尽管谷歌目前没有直接向客户销售TPU芯片，但它们的可用性对英伟达（Nvidia）仍是一个挑战，英伟达的GPU目前是世界上使用最多的AI加速器。 甚至Google也使用了大量的英伟达GPU来提供加速的云计算服务。然而，如果研究人员像预期的那样从GPU切换到TPUs，这将减少Google对英伟达的依赖。 在机器学习训练中，云TPU的性能（180比120TFLOPS）比Nvidia最好的GPU Tesla V100的内存容量（64GB比16GB）高4倍。
1K80发布于 2018-03-30 - 来自专栏纯洁的微笑
英伟达、AMD恐断供高端GPU！
结果看到的是： 8月31日，全球两大 GPU 厂商 NVIDIA 和 AMD 均证实，已收到美国政府通知，即刻停止向中国出口旗下高端 AI 芯片。 图：英伟达向SEC提交的文件 NVIDIA（英伟达）8 月 31 日向美国证券交易委员会(SEC)提交的一份文件披露，美国政府于 8 月 26 日通知该公司，未来若要出口 A100 和 H100 芯片至中国 此次管制涉及英伟达 A100 和即将出货的 H100 两款芯片，以及英伟达未来推出的峰值性能等同或超过 A100 的其他芯片。 英伟达应用这些高性能 GPU 芯片的系统级产品，也均在美国政府新的管制范围内。 英伟达 A100 芯片 目前看，咱们民用系列 RTX 这些显卡不受影响，对游戏佬还好。 受此影响，8月31日，英伟达股价下跌 2.42% ，收报 150.94 美元/股；盘后交易中，英伟达股价继续下跌 6.56%。
77220编辑于 2022-09-06 - 来自专栏AI科技大本营的专栏
GPU对决TPU，英伟达能否守住领先地位？
在多年的耕耘之后，英伟达的凭借着先发优势和快速迭代在AI时代迅速崛起。如今，英伟达的GPU几乎垄断了AI芯片市场，着实让人眼红。 那么类似TPU这种的专用芯片真的能对英伟达的GPU产生威胁吗？ 奇怪的是，这两家公司生产的新芯片都没有被广泛地使用，这或许表明TPU的实际表现并不如GPU。 TPU之所以没能超越GPU，英伟达的GPU架构进化得非常快是其中的一个重要原因。 英伟达的K40是最先应用于深度学习的首批GPU之一，它每秒执行100万次运算需要使用1400个晶体管。 在过去几年间，英伟达将其GPU 的架构性能提升了大概10倍，这就是TPU到现在还无法替代GPU的主要原因。 软件很重要 就算初创公司在深度学习硬件上可能占有优势，但是在软件上英伟达依旧遥遥领先。
1.3K100发布于 2018-04-27 - 来自专栏计算机视觉战队
英伟达A100 Tensor Core GPU架构深度讲解
该A100 GPU包括一个革命性的新的“Multi-Instance GPU”(或MIG)虚拟化和GPU分区能力，特别有利于云服务提供商(CSP)。 当配置为MIG操作时，A100允许CSP提高其GPU服务器的利用率，提供多达7倍的GPU实例，而不需要额外的成本。鲁棒的故障隔离允许客户安全可靠地划分单个A100 GPU。 NVIDIA A100 GPU是第一个Elastic GPU体系结构，能够使用NVLink、NVSwitch和InfiniBand扩展到巨型GPU，或扩展到支持多个独立用户的MIG，每GPU实例同时实现伟大的性能和最低的成本 由于每个GPU和交换机有更多的链路，新的NVLink提供了更高的GPU-GPU通信带宽，并改进了错误检测和恢复功能。 在大型多GPU集群和单GPU、多租户环境（如MIG配置）中尤其如此。A100 Tensor Core GPU包括新技术，用于改进错误/故障属性、隔离和遏制。
3.8K31发布于 2020-07-14 - 来自专栏大语言模型，算力共享
英伟达A100 GPU的核心数，Tesla系列
目录GeForce RTX 什么意思英伟达A100 GPU的核心数A100概述NVIDIA GPUGeForce系列（消费级）Quadro系列（专业级）Tesla系列（数据中心和AI）AMD GPURadeon 系列（消费级）注意GeForce RTX 什么意思GeForce RTX是英伟达（NVIDIA）公司旗下的一个高端显卡系列。 其中，“GeForce”是英伟达推出的显卡品牌，广泛应用于游戏、图形设计、视频编辑等多个领域，以其出色的图形处理能力和性能而著称。 英伟达A100 GPU的核心数相当可观，具体来说，它拥有6912个CUDA核心。这些CUDA核心使得A100在高性能计算和人工智能任务中表现出色。 总的来说，英伟达A100 GPU以其强大的核心数量、先进的架构和高速的内存，成为了高性能计算和人工智能领域的佼佼者。
1.5K20编辑于 2024-07-31 - 来自专栏量子位
英伟达版ChatGPT来了，PC端部署，很GPU
金磊 发自 凹非寺 量子位 | 公众号 QbitAI 英伟达推出了自家版本的ChatGPT，名字很有GPU的味道—— Chat With RTX。 英伟达的这款AI聊天机器人和目前主流的“选手”有所不同。 它并非是在网页或APP中运行，而是需要下载安装到个人电脑中。 英伟达版ChatGPT 首先，值得一提的是，Chat With RTX并非是英伟达自己搞了个大语言模型（LLM）。 不然就会出现各种各样的悲剧了： 不过实测被吐槽 The Verge在英伟达发布Chat With RTX之后，立即展开了一波实测。 不过结论却是大跌眼镜。 那么你会pick英伟达版的ChatGPT吗？
53810编辑于 2024-02-22 - 来自专栏新智元
Google Colab现已支持英伟达T4 GPU
之前只提供英伟达Tesla K80，现在已经支持TPU了！英伟达T4 GPU耗能仅为70瓦，是面向现有数据中心基础设施而设计的，可加速AI训练和推理、机器学习、数据分析和虚拟桌面。 运行命令 ! GPU的型号正是Tesla K80，可以在上面轻松地跑Keras、Tensorflow、Pytorch等框架；最近新增加的TPU是英伟达T4，可以在更广阔的天地大有作为了。 免费用GPU 在笔记本设置中，确保硬件加速选择了GPU。 = '/device:GPU:0': raise SystemError('GPU device not found') print('Found GPU at: {}'.format(device_name )) 顺利的话会出现： Found GPU at: /device:GPU:0 不顺利的话： 谷歌允许你一次最多持续使用12小时的免费 GPU。
5.1K80发布于 2019-05-14 - 来自专栏深度学习自然语言处理
英伟达、AMD断供高端GPU！
结果看到的是： 8月31日，全球两大 GPU 厂商 NVIDIA 和 AMD 均证实，已收到美国政府通知，即刻停止向中国出口旗下高端 AI 芯片。 图：英伟达向SEC提交的文件 NVIDIA（英伟达）8 月 31 日向美国证券交易委员会(SEC)提交的一份文件披露，美国政府于 8 月 26 日通知该公司，未来若要出口 A100 和 H100 芯片至中国 此次管制涉及英伟达 A100 和即将出货的 H100 两款芯片，以及英伟达未来推出的峰值性能等同或超过 A100 的其他芯片。 英伟达应用这些高性能 GPU 芯片的系统级产品，也均在美国政府新的管制范围内。 英伟达 A100 芯片 目前看，咱们民用系列 RTX 这些显卡不受影响，对游戏佬还好。 受此影响，8月31日，英伟达股价下跌 2.42% ，收报 150.94 美元/股；盘后交易中，英伟达股价继续下跌 6.56%。
1.2K20编辑于 2022-09-02 - 来自专栏AI科技评论
微软为什么要用英伟达的GPU来支持CNTK？
今天下午，在北京举行的GTC CHINA 2016(GPU技术大会)中，英伟达深度学习研究院对CNTK中图像识别功能进行了简单介绍。 首先，我们来了解下CNTK。 在微软最新发布的CNTK1.7版本中，CNTK已经支持英伟达的最新的深度神经网络资料库cuDNN5.1。 其实在Facebook、百度等巨头的人工智能研究中，经常用到英伟达的GPU。 Facebook的Big Sur服务器是围绕本来为图片处理而开发的大功率处理器——GPU来设计的。 每8个GPU就配置一台Big Sur服务器，Facebook使用的正是擅长于图像识别的英伟达制造的GPU。 百度将把英伟达的GPU应用到其无人驾驶系统的车载电脑中。
1K30发布于 2018-03-07 - 来自专栏IT技术订阅
英伟达Blackwell GPU技术特点性能优势及行业应用
2.2 架构设计 多芯片模块 (MCM) 设计：Blackwell GPU 采用了 MCM 设计，即由两个紧密耦合的芯片组成，通过 10 TB/s 的片间互联连接成一个统一的 GPU。 NVHyperFUSE 接口：NVHyperFUSE 接口提供高达 10 TB/s 的带宽，极大地减少了 GPU 之间的通信延迟，使得多 GPU 系统中的数据传输更为流畅。 三、Blackwell GPU 的性能优势 3.1 高算力 AI 性能：Blackwell B200 GPU 提供了高达 20 petaflops 的 FP4 算力，这一数字不仅令人震惊，更是在 AI 四、Blackwell GPU 的应用前景 4.1 企业级应用 大规模部署：NVIDIA 对 Blackwell GPU 的市场前景充满信心，期望企业能够大量采购并将其应用于更大规模的设计中。 五、结论 NVIDIA Blackwell GPU 的发布标志着 AI 和 HPC 领域的一个重要里程碑。通过一系列的技术创新，Blackwell GPU 实现了前所未有的计算性能、能效和灵活性。
1K10编辑于 2024-11-23 - 来自专栏AI科技评论
英伟达 GTC 大会携万亿参数 GPU「炸裂」 AI 行业
英伟达指出，新 Blackwell 架构 GPU 组成的 GB200，将提供 4 倍于 Hopper 的训练性能，大模型参数达到了万亿级别。这意味着同样的计算能力，科技厂商所需的芯片数量会减少。 NVIDIA NIM 由英伟达的加速计算库和生成式 AI 模型构建，支持行业标准 API，因此易于连接，可在英伟达庞大的 CUDA 安装基础上工作，针对新 GPU 进行重新优化，并不断扫描安全漏洞和漏洞 通过英伟达的种种做法，我们也不禁感慨，英伟达在AI行业的地位已有目共睹。 甚至有业内人士用了AI时代的思科以及AI时代的Wintel来形容。 （思科在网络设备和协议标准化方面曾起到了至关重要的作用，而英伟达通过其GPU和AI平台推动了AI计算基础设施的发展，为数据中心、云端和边缘计算提供了关键的硬件支持。） 而对于国内GPU厂商而言，套用某GPU从业者的话则是：英伟达牛逼惯了，大概率会被制裁，国内的GPU公司则更加要好做产品，从能卖掉的做起来。
31310编辑于 2024-03-25 - 来自专栏GPUS开发者
英伟达机器学习5大网红GPU卡
小编结合工作中客户咨询的经验，总结出英伟达5大热门机器学习用ＧＰＵ卡。 英伟达号称Tesla M40 GPU 加速器是全球快的深度学习训练加速器，专为显著缩短训练时间而定制。 同样采用了完整的麦克斯韦架构大核心GM200，3072个CUDA核心，单精度浮点计算7TFlops，12GB显存，再加上同时发布的英伟达DIGITS深度学习GPU训练系统的加持，更是让数据科学家和研究人员如虎添翼 而本月英伟达最新的cuDNN5开放下载，可以在单一NVIDIA Pascal GPU上最高实现44%的训练速度提升，这使得GTX1080充满了期待。 英伟达声称将推动深度学习和HPC应用性能跨越式发展：其中，全新的Pascal架构实现了巨大的性能飞跃，半精度指令为深度学习提供了超过 21 Teraflops 的峰值性能；NVLink 将CPU与GPU
10.9K50发布于 2018-03-30 - 来自专栏腾讯大讲堂的专栏
英伟达 GPU 十年架构演进史
计算用的硬件也在加速从 CPU 到 GPU 等迁移。本文试图整理从英伟达 2010 年开始，到 2020 年这十年间的架构演进历史。 而在 GPU 中，也存在类似的多级高速缓存结构。只是相比 CPU，GPU 将更多的晶体管用于数值计算，而不是缓存和流控（Flow Control）。 可以在上面右图看到，GPU 的 Core 数量要远远多余 CPU，但是有得必有失，可以看到 GPU 的 Cache 和 Control 要远远少于 CPU，这使得 GPU 的单 Core 的自由度要远远低于 随着单 GPU 的计算能力越来越难以应对深度学习对算力的需求，人们自然而然开始用多个 GPU 去解决问题。从单机多 GPU 到多机多 GPU，这当中对 GPU 互连的带宽的需求也越来越多。 最后一个比较重要的特性就是 MIG(Multi-Instance GPU)了，虽然业界的计算规模确实越来越大，但也存在不少的任务因为其特性导致无法用满 GPU 导致资源浪费，所以存在需求在一个 GPU
4.8K52发布于 2021-10-20 - 来自专栏新智元
【永久免费使用谷歌GPU】英伟达可能要发布专用于挖矿的GPU
另一方面，面对免费GPU，英伟达并无畏惧，还有消息传出，3月份GTC大会该公司会发布一条挖矿专线。 ? 训练模型，无疑是机器学习中最耗费时间和成本最高的部分。 从上面图中可以看出，英伟达GTX1080显卡性能优越，而在这个月，英伟达可能要发布针对挖矿专用的显卡，代号可能是Turing（图灵）。 这一消息最先被路透社报道，英伟达将在今年的GTC大会上推出两款新的GPU系列，其中一款专注于游戏（Ampere），另一款专注于挖矿（Turing） 不过，路透社没有明说这是英伟达的新的架构，还是新产品线 “图灵”是有原因的，因为现在挖矿业务已经让英伟达赚了不少钱。从2017年底开始，一直有传言称加密货币挖掘极大推动了英伟达GPU价格的增长，甚至一度让多款GPU断货。 在英伟达2018财年第四季度财报分析师电话会上，首席财务官Colette Kress在分析师电话会议上说，加密货币挖掘（俗称“挖矿”）让公司在第四财季期间稳定销售图形处理器（GPU）。
3.8K70发布于 2018-03-12 - 来自专栏华章科技
从英伟达 vs ATI的芯片大战看GPU前世今生
01 第一代、第二代GPU 1998年英伟达宣布GPU的研发成功，是计算机显示的历史性突破。 1998年的晚些时候，英伟达发布了TNT2。这一款GPU对TNT的缺点进行了全面修正。TNT2给了3Dfx致命一击。最后，3Dfx的知识产权在2000年被英伟达买断。 ▲图25-1 英伟达的GPU：Geforce256 在发布Geforce256时，英伟达首创了图形处理器一词GPU（GrapgicProcess Unit）。 S3、SIS等厂商无力与英伟达和ATI竞争，淡出了显卡市场。英伟达的产品细分策略也让ATI应对乏力。ATI并没有成功地挑战英伟达的霸主地位，但它选择了GPU之路，避免了和其他厂商相同的命运。 英伟达后来发布的FX5950在功耗远超9800XT的情况下，性能仍落后于9800XT。这一年，ATI在GPU领域里领先于英伟达。 2002年末到2003年，第四代GPU即GPGPU出现了。
2.9K850发布于 2020-02-20 - 来自专栏机器之心
英伟达让GPU挖矿效率减半，显卡却未必更好抢
虽然英伟达通过 BIOS、驱动和硬件握手的限制方式看起来很全面，却只选择限制了虚拟货币行列中热度、价格排第二的以太坊，这未免让人感到奇怪。 这样看来，英伟达选择限制以太坊挖矿自有他的道理。但这不禁也让人思考：限制「挖矿」是否仅仅是英伟达的一种公关行为，更多是为了照顾玩家情绪的考虑。 为什么不把所有挖矿算法都限了呢 ? 可能也是考虑到这一点，英伟达将限制的范围定得非常窄。 虽然英伟达施加的限制非常有限，但部分 AI 领域的研究者还是担心：这一限制会影响深度学习「炼丹」性能吗？ 新专用挖矿芯片似乎不太给力 当然，在限制挖矿的同时，英伟达也给出了「疏导」措施，推出了专门用于以太坊挖矿的 GPU——CMP HX。 在这轮挖矿高潮出现之前，英伟达安培架构的 GPU 已经供不应求，短期内这一问题可能无法缓解。
1.7K20发布于 2021-03-15
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号