发布

GPUS开发者

专注NVIDIA Jetson产品开发。
专栏成员
1141
文章
1918725
阅读量
213
订阅数
高盛观点:中国低成本AI模型或推动全球AI应用提速
DeepSeek为代表的中国公司已成功开发出成本远低于现有产品的先进生成式人工智能(AI)模型。高盛研究部认为,这一突破可能促进AI技术的更快采用,并对全球经济增长产生更大影响。
GPUS Lady
2025-03-03
950
微软发布Phi系列新成员:Phi-4-multimodal与Phi-4-mini,引领小型语言模型新潮流
本周,微软宣布推出Phi家族的最新成员——Phi-4-multimodal和Phi-4-mini,这两款小型语言模型(SLMs)旨在为开发者提供先进的AI能力,开启智能应用的新篇章。
GPUS Lady
2025-02-28
1620
NVIDIA PTX指令集大揭秘:非CUDA替代品,而是底层控制语言
最近,DeepSeek采用了NVIDIA PTX指令集(Parallel Thread Execution ISA)来提升执行效能。然而,这一举动却导致了一些新闻媒体错误地传递了信息,声称PTX将取代CUDA,甚至可以用PTX来绕过CUDA。实际上,PTX是NVIDIA GPU最底层的控制语言,正因为它非常接近硬件层,对于大部分开发者来说学习门槛较高,所以才有了CUDA来简化开发过程。
GPUS Lady
2025-02-07
1.3K0
有容乃大,刚刚NVIDIA NIM集成DeepSeek,正式上线
这个春节真是热闹非凡,大家还沉浸在节日的喜悦中,并热议着DeepSeek如何在美国股市掀起波澜,让NVIDIA股票在一夜之间下跌了17%。当大家纷纷揣测“这下梁子可结大了”的时候,NVIDIA却迅速做出了反应,在NVIDIA NIM上集成了DeepSeek R1版本。这一系列事件无疑为这个蛇年春节增添了几分不同寻常的科技色彩。
GPUS Lady
2025-02-04
2800
NVIDIA Blackwell RTX GPU与CUDA 12.8框架更新指南
随着NVIDIA Blackwell RTX GPU的发布,为了确保应用程序与这些新一代GPU的兼容性和最佳性能,应用开发者必须更新到最新的AI框架。NVIDIA专门发布了一个指南,详细介绍与NVIDIA Blackwell RTX GPU兼容所需的核心软件库更新,特别是CUDA 12.8的相关信息。
GPUS Lady
2025-02-04
5310
NVIDIA推出Launchables:为AI开发者量身打造的一键式GPU环境!
NVIDIA推出的Launchables功能,这是一个旨在简化AI开发流程、加速实验和部署的一键式部署GPU开发环境。NVIDIA通过提供预配置的GPU计算环境,使开发者能够快速启动参考工作流程并开始构建,从而降低了AI开发的复杂性和时间成本。
GPUS Lady
2025-01-22
950
今日起,NVIDIA Jetson Orin NANO和Orin NX模组也可以升级成Super模式
昨晚,NVIDIA在其论坛上公布了JetPack 6.2版本,意味着NVIDIA Jetson Orin NANO和Orin NX模组也可以升级成Super模式
GPUS Lady
2025-01-19
5620
关于NVIDIA Jetson Orin 产品升级到Super,不得不说的几个问题
01、没有所谓新的名为"Super"的Jetson Orin NANO开发套件。硬件没有任何变化,产品包装也没有任何变化。
GPUS Lady
2025-01-07
4070
旧版NVIDIA Jetson Orin NANO开发套件如何摇身一变成为Super开发板?
昨天NVIDIA发布了SUPER Jetson Orin NANO开发套件(NVIDIA推出超频版Jetson Orin NANO开发套件,性能更强价格五折),小编我在群里一直被追问:
GPUS Lady
2024-12-20
3641
在Jetson上玩转大模型Day17:NanoLLM开发平台(6):AI Agent功能
虽然大语音模型为AI开启新的纪元,但是我们只能将这些模型视为AI能量的供应源,与我们所需要的流程类应用还有段差距,因为再厉害的大语音模型也都有各自擅长的部分,要搭建一个完整的应用,需要更多配套的组件共同完成任务。
GPUS Lady
2024-12-19
1400
DeepStream 7.1 重磅升级:全新Python支持引领AI开发新潮流(文末有干货)
NVIDIA近日推出了DeepStream SDK 7.1,这是一款专为NVIDIA GPU和Jetson平台设计的多媒体与AI推理引擎开发工具。该版本在性能优化、功能扩展和开发者友好性方面进行了重要升级,尤其在Python开发支持方面带来了全新体验。
GPUS Lady
2024-12-06
2180
揭秘SmolVLM——小巧高效的视觉语言模型
随着人工智能(AI)技术的飞速发展,视觉语言模型(Vision Language Model, VLM)正在逐渐改变我们与世界交互的方式。无论是自动驾驶、图像搜索还是智能家居,这些应用都离不开VLM的强大支持。然而,传统的VLM往往依赖大规模计算资源,难以部署在本地设备上。而SmolVLM的诞生,则打破了这一局面!
GPUS Lady
2024-12-05
2500
为什么英伟达的Thor芯片是电动汽车领域的游戏规则改变者?
电动汽车(EV)领域正在经历一场变革性的转变,而英伟达的最新Thor芯片正站在这场革命的最前沿。随着上汽集团、吉利汽车、比亚迪和理想汽车等主要中国汽车制造商计划在2025年至2026年间采用Thor驱动的平台,这一技术飞跃的势头不容小觑。Thor不仅承诺在性能上取得突破性进展,还将在智能系统的无缝集成方面实现革新,重新定义电动汽车体验。
GPUS Lady
2024-12-05
3090
在Jetson上玩转大模型Day16:NanoLLM开发平台(5):视觉数据库分析助手
前面使用NanoLLM的vision.video功能来分析视频或摄像头画面,是一种非常轻便的方法,但是互动性不足,主要是演示视频处理的能力。 为了让大家更进一步感受到NonoLLM库的强大,本文要使用一个集成多模态大模型并加上浏览器互动界面的nano_llm.agents.video_query智能体,不仅可以显示输入源的相关信息,还能动态调整输出token的数量,如下截屏的Max Tokens所示:
GPUS Lady
2024-12-05
1590
TensorRT-LLM:开启Jetson平台上大语言模型推理的新篇章
TensorRT-LLM for Jetson是针对Jetson平台优化的高性能大语言模型(LLM)推理库,专为Jetson AGX Orin等高性能计算设备设计。该库集成了先进的量化技术、注意力核函数以及分页键值(KV)缓存,旨在提供高效的LLM推理性能。
GPUS Lady
2024-11-28
2090
在Jetson上玩转大模型Day15:NanoLLM开发平台(4):视觉分析助手
这里可以看出,在终端模式下显示中文的能力不完整,因此会出现乱码。其次系统会识别我们prompt的语种,并用相同语种来做回应,还挺智能的。 现在我们将第二个promt改成“What information in the picture ?”,跑出来的结果如下截屏,回答的非常正确:“1.黄色标志,黑色字体,写着“禁止出口私家路”。图2:一条两边都是草的弯弯曲曲的路。”
GPUS Lady
2024-11-27
970
NVIDIA推出Fugatto:生成式AI在音乐制作领域的应用与突破
在音乐和声音创作领域,技术与创意的结合一直是艺术家和开发者们追求的目标。然而,现有的AI模型往往局限于特定的任务,无法灵活应对多样化的创作需求。为了打破这一局限,NVIDIA推出了一款名为Fugatto的生成式AI模型,它如同一把瑞士军刀,让用户仅凭文本就能精准控制音频输出。
GPUS Lady
2024-11-27
1680
NVIDIA JetPack 6.1:为边缘AI与机器人开发赋能的全新升级
NVIDIA JetPack作为专为满足边缘AI和机器人开发者日益增长需求而量身定制的尖端软件,自推出以来便不断进化,通过每一次的版本更新,都带来了性能的提升、新功能的引入以及现有工具的优化,旨在为用户创造更大的价值。这意味着,通过升级到最新版本的JetPack,您现有的基于Jetson Orin的产品将能够体验到性能上的显著优化。
GPUS Lady
2024-11-25
2830
在Jetson上玩转大模型Day14:NanoLLM开发平台(3):多模态语音助手
上一篇文章里,我们使用NanoLLM所提供的nano_llm.agents.web_chat智能体,调用Llama-3-8B-Instruct模型,并修改ASR与TTS调用的档来支持中文的输入与输出,非常轻松地搭建Llamaspeak语音助手。
GPUS Lady
2024-11-22
1410
英伟达财报再超预期,展现强劲增长潜力与AI未来愿景
英伟达(NVIDIA)最新发布的季度财报再次超越市场预估,彰显出公司在全球运算领域的持续领先地位和不可阻挡的增长动力。尽管股价在盘后交易中因市场的高期望而出现短暂回调,但这并未掩盖英伟达在营收、产品创新以及市场前景方面的出色表现。
GPUS Lady
2024-11-22
770
点击加载更多
社区活动
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档