Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >微软OpenAI联手围剿英伟达,首款自研AI芯片下月发布!

微软OpenAI联手围剿英伟达,首款自研AI芯片下月发布!

作者头像
新智元
发布于 2023-10-08 11:28:13
发布于 2023-10-08 11:28:13
2590
举报
文章被收录于专栏:新智元新智元
新智元报道

编辑:好困 润

【新智元导读】一家独大的英伟达,把微软和OpenAI都逼得亲自下场造芯片了。也许AI芯片大战才刚刚拉开帷幕。

微软自研AI芯片,11月上线!

知名外媒The Information独家爆料称,微软计划在下个月举行的年度开发者大会上,推出首款人工智能芯片。

同时,OpenAI也在招聘能够帮助其评估和设计AI硬件的人员。

业内有一种说法,「卖H100比向沙漠里快要渴死的人卖水还要容易」。

不论是为了走出算力枯竭,更高效,低成本地开发自己的模型,还是为了摆脱被「利润率高达1000%」的H100盘剥。

微软和OpenAI都在尝试「变硬」,努力戒掉对于英伟达的GPU依赖。

但是,根据业内人士爆料,英伟达对于已经推出自己芯片的公司,比如谷歌和亚马逊,会控制GPU的供给。

所以「芯片自研」的道路,是一个风险和收益都很高的选择,毕竟谁也不想未来被黄老板在GPU供给上进一步「卡脖子」。

微软自研AI芯片,追赶谷歌亚马逊

与英伟达的GPU类似,微软的芯片也是专为数据中心服务器设计,可用于训练和运行诸如ChatGPT这类的大语言模型。

目前,不管是为云客户提供先进的LLM支持,还是为自家的生产力应用提供AI功能,微软都需要依靠英伟达的GPU提供算力的加持。

而这款从2019年便开始研发的全新芯片,显然可以极大地减轻微软对英伟达GPU的依赖。

据知情人士称,微软和OpenAI组成的联合团队,现在已经在对其进行测试了。

相比起早早入局的竞争对手,微软直到2019年才开始AI芯片的研发。

也是同年,微软宣布将向OpenAI投资10亿美元,并要求他们必须使用微软的Azure云服务器

然而,当微软开始与OpenAI进行更紧密地合作时发现,依靠购买GPU来支持这家初创公司、Azure客户以及自家产品的成本,实在是太高了。

据知情人士透露,在开发Athena期间,微软为了满足OpenAI的需求,已经向英伟达订购了至少数十万块GPU。

早在,今年4月,就有消息透露了这款代号为Athena的芯片的存在。

据称,微软希望这款代号为Athena(雅典娜)芯片,能与一直供不应求的英伟达H100 GPU相媲美。

目前,亚马逊和谷歌已将人工智能芯片作为其云业务营销战略的重要组成部分。

其中,亚马逊在对Anthropic的投资中规定,对方需要使用亚马逊的AI芯片,即Trainium和Inferentia。同时,谷歌云也表示,Midjourney和 Character AI等客户使用了自研的TPU。

微软虽然还在讨论是否要向Azure云客户提供自研芯片,但该芯片在开发者大会上的首次亮相,可能预示着微软正在寻求吸引未来云客户的兴趣。

可以肯定的是,微软将借着Athena的推出,极大缩短与另外两家巨头的距离——谷歌和亚马逊早已在自家的云服务器上大规模采用了自研的芯片。

此外,为了摆脱英伟达的「卡脖子」,微软还在与AMD密切合作,开发即将推出的人工智能芯片MI300X。

不过,微软和其他云服务提供商普遍表示,自己并没有停止从英伟达购买GPU的打算。

但如果他们能说服云客户更多地使用自研芯片,那么从长远来看,这可以极大地节省开支。同时,也能帮助他们在与英伟达的谈判中获得更多筹码。

OpenAI:这两家,我都不想要

对于OpenAI来说,能同时减少对微软和英伟达芯片的依赖,显然是最好的。

据OpenAI网站上的几则招聘信息显示,公司正在招聘能够帮助其评估和共同设计AI硬件的人员。

路透社也报道,OpenAI正在计划下场生产自己的AI芯片。

此前,CEO Sam Altman曾将获得更多AI芯片作为公司的首要任务。

一方面,OpenAI所需的GPU十分短缺,另外,运行这些硬件时产生的成本「令人瞠目结舌」。

如果算力成本一直居高不下,长远来看于整个AI行业来说可能并不是一个好消息。

毕竟如果掘金的「铲子」卖的比金子本身都贵,那么还会有人去做挖金子的人吗?

根据Stacy Rasgon的分析,ChatGPT每次查询大约需要4美分。如果ChatGPT的查询量增长到谷歌搜索规模的十分之一,那么就将需要价值约481亿美元的GPU,并且每年需要价值约160亿美元的芯片来维持运行。

目前还不清楚OpenAI是否会推进定制芯片的计划。

据业内资深人士分析,这将是一项投资巨大的战略举措,其中每年的成本可能高达数亿美元。而且,即使OpenAI将资源投入到这项任务中,也不能保证成功。

除了完全的自研之外,还有一种选择是像亚马逊在2015年收购Annapurna Labs那样,收购一家芯片公司。

据一位知情人士透露,OpenAI已经考虑过这条路,并对潜在的收购目标进行了尽职调查。

但即使OpenAI继续推进定制芯片计划(包括收购),这项工作也可能需要数年时间。在此期间,OpenAI还是将依赖于英伟达和AMD等GPU供应商。

因为就算强如苹果,在2007年收购了P.A. Semi和Intristy,到2010年推出第一款芯片A4,也经历了3年的时间。

而OpenAI,自己本身都还是一家初创公司,这个过程也许走得会更加艰难。

而且英伟达GPU最重要的护城河,就是它基于CUDA的软硬件生态的积累。

OpenAI不但要能设计出性能上不落后的硬件,还要在软硬件协同方面赶超CUDA,绝对不是一件容易的事情。

但是,另一方面,OpenAI做芯片也有自己独特的优势。

OpenAI要做的芯片,不需要向其他巨头推出的芯片一样,服务于整个AI行业。

他只需满足自己对模型训练的理解和需求,为自己定制化的设计一款AI芯片。

这和谷歌、亚马逊这种将自己的AI芯片放在云端提供给第三方使用的芯片会有很大的不同,因为几乎不用考虑兼容性的问题。

这样就能在设计层面让芯片能更高效地执行Transformer模型和相关的软件栈。

而且,OpenAI在模型训练方面的领先优势和规划,能让它真正做到在未来把模型训练相关的硬件问题,用自己独家设计的芯片来解决。

不用担心自己的芯片在「满足自己需要」的性能上,相比与英伟达这样的行业巨头会有后发劣势。

都是成本的问题

设计自己的AI芯片,与英伟达直接「刚正面」如此之难,为什么巨头们还要纷纷下场?

最直接的原因就是,英伟达的GPU太贵了!

加上云提供商在中间还要再赚一笔。这样,包括OpenAI在内,使用英伟达GPU+云提供商的基础模型企业成本肯定居高不下。

有国外媒体算过这样一笔账:

现在,购买一个使用英伟达H100 GPU的人工智能训练集群,成本约为10亿美元,其FP16运算能力约为20 exaflops(还不包括对矩阵乘法的稀疏性支持)。而在云上租用三年,则会使成本增加2.5倍。

这些成本包括了集群节点的网络、计算和本地存储,但不包括任何外部高容量和高性能文件系统存储。

购买一个基于Hopper H100的八GPU节点可能需要花费近30万美元,其中还包括InfiniBand网络(网卡、电缆和交换机)的分摊费用。

同样的八GPU节点,在AWS上按需租用的价格为260万美元,预留三年的价格为110万美元,在微软Azure和谷歌云上的价格可能也差不多。

因此,如果OpenAI能够以低于50万美元的单价(包括所有成本)构建系统,那么它的成本将减少一半以上,同时还能掌握自己的「算力自由」。

将这些费用削减一半,在投入资源不变的情况下,OpenAI的模型规模就会扩大一倍;如果成本能够减少四分之三,则翻四倍。在模型规模每两到三个月翻倍的市场中,这一点非常重要。

所以长远来看,也许任何一个有野心的AI大模型公司,都不得不面对的一个最基本问题就是——如何尽可能的降低算力成本。

而摆脱「金铲子卖家」英伟达,使用自己的GPU,永远都是最有效的方法。

网友热议

对于OpenAI和微软下场造AI芯片的做法,一些网友似乎持不同的意见,认为AI芯片是一个「陷阱」。

逼得OpenAI等模型公司造硬件,一个最大的原因是其他芯片公司完全不给力,英伟达几乎没有竞争。

如果AI芯片是一个竞争充分的市场,OpenAI这类的公司就不会自己下场做AI芯片。

而有些想法更加激进的网友认为,大语言模型未来将集成到芯片当中,人类可以用自然语言和计算机直接对话。所以设计芯片是走到那一步的自然选择。

参考资料:

https://www.theinformation.com/articles/microsoft-to-debut-ai-chip-next-month-that-could-cut-nvidia-gpu-costs?rc=epv9gi

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2023-10-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 新智元 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
OpenAI造芯计划曝光!拟自研AI芯片,正在评估收购目标
自ChatGPT掀起最新AI趋势后,算力焦虑笼罩在各大AI厂商头上。无论是模型训练推理,还是API调用都需要算力作为支撑,有多少卡也成为衡量AI厂商实力如何的硬指标之一。
量子位
2023/10/08
2310
OpenAI造芯计划曝光!拟自研AI芯片,正在评估收购目标
谷歌向微软英特尔全面宣战!首款自研Arm CPU,最强大模型公测,AI视频对垒Sora
此外,谷歌的AI超算平台也进行了一系列重大升级——最强TPU v5p上线、升级软件存储,以及更灵活的消费模式,都让谷歌云在AI领域的竞争力进一步提升。
新智元
2024/04/12
1560
谷歌向微软英特尔全面宣战!首款自研Arm CPU,最强大模型公测,AI视频对垒Sora
OpenAI计划研发自己的AI芯片,已有收购目标
据路透社报道,OpenAI 正在考虑构建自己的人工智能芯片来为 ChatGPT 提供支持。与此同时,有消息称微软将在下个月的年度开发者大会上推出该公司首款专为人工智能设计的芯片。
机器之心
2023/10/08
2760
OpenAI计划研发自己的AI芯片,已有收购目标
Altman被曝芯片交易,成宫斗导火索?OpenAI怒甩5100万刀狂买AI芯片
Sam Altman今年5月份就在公开场合表示,现在OpenAI正在经历严重的算力短缺。不但OpenAI用户体验到的各种卡顿,延迟都是由于算力不够导致的,而且因为「芯片」短缺的问题,让OpenAI没法给用户提供更多的功能。
新智元
2023/12/05
1910
Altman被曝芯片交易,成宫斗导火索?OpenAI怒甩5100万刀狂买AI芯片
2万多亿美元,英伟达市值创新高,华尔街排第三
据路透社消息, 在戴尔发布乐观报告后,英伟达股市价值在周五收盘首次超过 2 万亿美元。重新点燃了华尔街由人工智能驱动的涨势。英伟达股价在戴尔发布乐观预测后上涨了 4%。
机器之心
2024/03/07
1290
2万多亿美元,英伟达市值创新高,华尔街排第三
3万个A100太贵,微软300人秘密自研AI芯片5年!台积电5nm,ChatGPT省钱约30%
---- 新智元报道   编辑:拉燕 【新智元导读】微软秘密自研5nm芯片5年,背后原因令人咋舌,外购芯片成本每年百亿。 为了训练ChatGPT,微软可谓下了足够多的血本。 ChatGPT消耗的总算力约为3640PF-days,假如每秒计算一千万亿次,需要计算3640天。 微软将3万多个英伟达A100芯片连起来,为OpenAI耗资数亿美元量身打造了超算。 要是这么耗下去,微软腰包恐怕也吃不消。 其实,取代英伟达芯片的计划,已经从2019年起,就开始在公司内部秘密展开了。 The Informatio
新智元
2023/05/09
3450
3万个A100太贵,微软300人秘密自研AI芯片5年!台积电5nm,ChatGPT省钱约30%
1000亿美元宇宙级豪赌!微软OpenAI打造星际之门AI超算,电力能耗惊人
据外媒The Information报道,微软和OpenAI正计划建设一个名为「星际之门」(Stargate)的特殊数据中心,为后者提供强大的计算支持。
新智元
2024/04/12
3430
1000亿美元宇宙级豪赌!微软OpenAI打造星际之门AI超算,电力能耗惊人
不堪忍受英伟达霸权,微软、OpenAI纷纷自研AI芯片
英伟达是当之无愧的“AI算力王者”,A100、H100系列芯片占据金字塔顶尖位置,是ChatGPT这样的大型语言模型背后的动力来源。
科技云报道
2023/10/16
3290
不堪忍受英伟达霸权,微软、OpenAI纷纷自研AI芯片
奥特曼筹数十亿美元建全球晶圆厂网络,自造AI芯片
据彭博社消息,OpenAI CEO 萨姆・奥特曼(Sam Altman)近日再次为一家人工智能芯片企业筹集了数十亿美元的资金,希望建立一个范围覆盖全球的晶圆厂「企业网络(network of factories)」,并计划与未具名的顶级芯片制造商合作。
机器之心
2024/01/23
1680
奥特曼筹数十亿美元建全球晶圆厂网络,自造AI芯片
英伟达独霸时代结束?ChatGPT引爆谷歌微软芯片大战,亚马逊也入局
---- 新智元报道   编辑:编辑部 【新智元导读】ChatGPT引爆了芯片界「百家争鸣」,谷歌、微软、亚马逊纷纷入局芯片大战,英伟达恐怕不再一家独大。 ChatGPT爆火之后,谷歌和微软两巨头的AI大战战火,已经烧到了新的领域——服务器芯片。 如今,AI和云计算都成了必争之地,而芯片,也成为降低成本、赢得商业客户的关键。 原本,亚马逊、微软、谷歌这类大厂,都是以软件而闻名的,而现在,它们纷纷斥资数十亿美元,用于芯片开发和生产。 各大科技巨头研发的AI芯片 ChatGPT爆火,大厂开启芯片争霸赛
新智元
2023/05/15
4380
英伟达独霸时代结束?ChatGPT引爆谷歌微软芯片大战,亚马逊也入局
中、美巨头自研芯片“围剿”英伟达
“芯事重重”是腾讯科技半导体产业研究策划,本期聚焦科技公司下场自研AI芯片的逻辑与挑战。
小腾资讯君
2024/08/02
1780
黑马Groq单挑英伟达,AI芯片要变天?
近一周来,大模型领域重磅产品接连推出:OpenAI发布“文字生视频”大模型Sora;Meta发布视频预测大模型 V-JEPA;谷歌发布大模型 Gemini 1.5 Pro,更毫无预兆地发布了开源模型Gemma......
科技云报道
2024/02/26
2810
黑马Groq单挑英伟达,AI芯片要变天?
GPT-5被5万张H100卡脖子!Altman急筹数十亿美元,欲取代英伟达建起AI芯片帝国
此前,据英国《金融时报》报道,OpenAI 正在开发一种新的AI模型,该模型将是 GPT-4 的「重大升级」,预计将于今年晚些时候发布。
新智元
2024/01/23
2160
GPT-5被5万张H100卡脖子!Altman急筹数十亿美元,欲取代英伟达建起AI芯片帝国
苹果豪赌!神秘AI项目曝光,宁死不用英伟达?自研芯片全家桶都要AI了
最近一轮AI之战,OpenAI、谷歌、微软都交卷了,现在,全世界的目光齐刷刷看向苹果。
新智元
2024/06/05
1320
苹果豪赌!神秘AI项目曝光,宁死不用英伟达?自研芯片全家桶都要AI了
百亿美元只是开胃菜!科技大厂天量撒钱狂升数据中心:英伟达「铲子梦」还能做多久?
而到了2024年,AI行业已经开始转向建设、升级底层的AI计算和数据中心(plumbing),沙特阿拉伯等国家也开始建造超级计算机来处理AI问题,几乎所有的大型科技企业都陷入了「消费狂潮」,投入了堪称「海量」的资金,有人预测,类似这样疯狂的建设工作可能还会持续数年。
新智元
2024/05/22
770
百亿美元只是开胃菜!科技大厂天量撒钱狂升数据中心:英伟达「铲子梦」还能做多久?
传OpenAI将自研AI芯片,并计划收购芯片公司
10月6日消息,据路透社援引知情人士的话指出,生成式AI领域的领头羊、ChatGPT开发商OpenAI正在探索AI芯片的可能性,并已评估潜在的收购目标,以加速自研芯片的研发。
芯智讯
2023/10/07
1710
传OpenAI将自研AI芯片,并计划收购芯片公司
比H100快20倍还更便宜!英伟达的“掘墓人”出现了?
6月27日消息,芯片初创公司Etched近日宣布推出了一款针对 Transformer架构专用的ASIC芯片 “Sohu”,并声称其在AI大语言模型(LLM)推理性能方面击败了英伟达(NVIDIA)最新的B200 GPU,AI性能达到了H100的20倍。这也意味着Sohu芯片将可以大幅降低现有AI数据中心的采购成本和安装成本。
芯智讯
2024/07/02
1270
比H100快20倍还更便宜!英伟达的“掘墓人”出现了?
微软「雅典娜」AI芯片项目曝光,已与OpenAI共同测试
机器之心报道 编辑:杜伟 雅典娜,希腊战争女神。微软以此命名,或许是对日益升温的 AI 军备竞赛的回应。 卷起来了!微软被曝正在研发自己的 AI 芯片。 当地时间周二,外媒 The Information 援引知情人士的消息称,微软正在开发自己的 AI 芯片,命名为「雅典娜」(Athena),旨在为 ChatGPT 等 AI 聊天机器人背后的大模型技术提供「动力」。 该芯片的研发最早可以追溯到2019年,目前至少有300名开发人员,并已由微软内部机器学习相关员工和 OpenAI 开发者组成的小团队进行测
机器之心
2023/04/21
3920
微软「雅典娜」AI芯片项目曝光,已与OpenAI共同测试
OpenAI豪赌7万亿,能买4个英伟达!奥特曼芯片帝国占全球GDP 10%,或引世界经济末日?
7万亿美元,是全球GDP的10%,大约是美国GDP的1/4,或者2/5个中国的GDP。
新智元
2024/02/26
1420
OpenAI豪赌7万亿,能买4个英伟达!奥特曼芯片帝国占全球GDP 10%,或引世界经济末日?
Meta第二代自研AI芯投产,摆脱英伟达依赖!为买H100小扎狂砸数百亿美元
据悉,新的芯片将被用于数据中心的推理(Inference)任务,并与英伟达等供应商的GPU一起协同工作。
新智元
2024/02/06
2600
Meta第二代自研AI芯投产,摆脱英伟达依赖!为买H100小扎狂砸数百亿美元
推荐阅读
OpenAI造芯计划曝光!拟自研AI芯片,正在评估收购目标
2310
谷歌向微软英特尔全面宣战!首款自研Arm CPU,最强大模型公测,AI视频对垒Sora
1560
OpenAI计划研发自己的AI芯片,已有收购目标
2760
Altman被曝芯片交易,成宫斗导火索?OpenAI怒甩5100万刀狂买AI芯片
1910
2万多亿美元,英伟达市值创新高,华尔街排第三
1290
3万个A100太贵,微软300人秘密自研AI芯片5年!台积电5nm,ChatGPT省钱约30%
3450
1000亿美元宇宙级豪赌!微软OpenAI打造星际之门AI超算,电力能耗惊人
3430
不堪忍受英伟达霸权,微软、OpenAI纷纷自研AI芯片
3290
奥特曼筹数十亿美元建全球晶圆厂网络,自造AI芯片
1680
英伟达独霸时代结束?ChatGPT引爆谷歌微软芯片大战,亚马逊也入局
4380
中、美巨头自研芯片“围剿”英伟达
1780
黑马Groq单挑英伟达,AI芯片要变天?
2810
GPT-5被5万张H100卡脖子!Altman急筹数十亿美元,欲取代英伟达建起AI芯片帝国
2160
苹果豪赌!神秘AI项目曝光,宁死不用英伟达?自研芯片全家桶都要AI了
1320
百亿美元只是开胃菜!科技大厂天量撒钱狂升数据中心:英伟达「铲子梦」还能做多久?
770
传OpenAI将自研AI芯片,并计划收购芯片公司
1710
比H100快20倍还更便宜!英伟达的“掘墓人”出现了?
1270
微软「雅典娜」AI芯片项目曝光,已与OpenAI共同测试
3920
OpenAI豪赌7万亿,能买4个英伟达!奥特曼芯片帝国占全球GDP 10%,或引世界经济末日?
1420
Meta第二代自研AI芯投产,摆脱英伟达依赖!为买H100小扎狂砸数百亿美元
2600
相关推荐
OpenAI造芯计划曝光!拟自研AI芯片,正在评估收购目标
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档