Cerebras公司的晶圆级引擎3(WSE-3)芯片包含4万亿个晶体管,有一天将为8 exaFLOP Condor Galaxy 3超级计算机提供算力。
当前,科学家们制造出了世界上最大的计算机芯片 —— 一个由4万亿个晶体管组成的庞然大物。其制造商表示,这种巨大的芯片有朝一日将被用于运行功能强大的人工智能(AI)超级计算机。
新的Wafer Scale Engine 3(WSE-3)是超级计算公司Cerebras的第三代平台,旨在为OpenAI的GPT-4和Anthropic的Claude 3 Opus等人工智能系统提供动力。
该芯片包含90万个AI核心,由一个8.5 × 8.5英寸(21.5 × 21.5厘米)的硅片组成,与2021年的前身WSE-2一样。
公司代表在一份新闻稿中表示,新芯片的功耗与上一代相同,但功能是上一代的两倍。相比之下,之前的芯片包含2.6万亿个晶体管和85万个人工智能核心,这意味着该公司大致遵守了摩尔定律,摩尔定律指出,计算机芯片中的晶体管数量大约每两年翻一番。
相比之下,目前用于训练人工智能模型的最强大的芯片之一是NVIDIA H200图形处理单元(GPU)。然而,NVIDIA的巨型GPU只有区区800亿个晶体管,比“Cerebras”少57倍。
该公司代表在3月13日发布的另一份声明中表示,WSE-3芯片有朝一日将用于为Condor Galaxy 3超级计算机提供动力,该计算机将总部设在德克萨斯州达拉斯。
正在建设中的“秃鹰银河3(Condor Galaxy 3)”超级计算机,将由64个由WSE-3芯片为动力的“Cerebras CS-3”人工智能系统“构建块”组成。当连接在一起并激活时,整个系统将产生8个exaFLOP的计算能力。
然后,当结合秃鹰银河1号和秃鹰银河2号系统时,整个网络将达到总共16个exaFLOP。
相比之下,目前世界上最强大的超级计算机是橡树岭国家实验室的“前沿”超级计算机,它的计算能力大约为1 exaFLOP。
公司代表表示,“秃鹰银河3”超级计算机将用于训练未来的人工智能系统,该系统将比GPT-4或谷歌的“双子座”大10倍。例如,据传言,GPT-4使用大约1.76万亿变量(称为参数)来训练系统;秃鹰银河3号可以处理大约24万亿个参数的人工智能系统。
如果朋友们喜欢,敬请关注“知新了了”!
领取专属 10元无门槛券
私享最新 技术干货