首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Ascend 随记 —— 昇 AI 的基本架构

AI全栈架构 1.1 昇AI全栈的四个大部分 应用使能层面,此层面通常包含用于部署模型的软硬件,例如API、SDK、部署平台,模型库等等。...昇计算语言接口 昇计算语言(Ascend Computing Language,AscendCL)接口是昇计算开放编程框架,是对低层昇计算服务接口的封装。...昇计算服务层 本层主要提供昇计算库,例如神经网络(Neural Network,NN)库、线性代数计算库(Basic Linear Algebra Subprograms,BLAS)等;昇计算调优引擎库...昇计算语言接口 AscendCL 3.1 AscendCL 简介 AscendCL(Ascend Computing Language,昇计算语言)是昇计算开放编程框架,是对底层昇计算服务接口的封装...Runtime 能力开放:处理基于stream的设备能力、内存、event等资源能力开发诉求,对app屏蔽底层实现。

2.2K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    初始昇CANN

    CANN异构计算架构在底层适配昇AI处理器,在上层对接昇AI应用和深度学习框架。...自下而上它分为昇计算基础层、昇计算执行层、昇计算编译层、昇计算服务层,还提出了昇计算语言AscendCL,包括算子开发、图开发和应用开发。...昇计算服务层(Ascend Computing Service Layer): 主要提供昇算子库AOL(Ascend Operator Library),通过神经网络(Neural Network,...昇计算语言(Ascend Computing Language,简称AscendCL):AscendCL接口是昇计算开放编程框架,是对底层昇计算服务接口的封装。...API,实现利用昇硬件计算资源、在昇CANN平台上进行深度学习推理计算、图形图像预处理、单算子加速计算等能力。

    16910

    科大飞发布星火一体机:鲲鹏CPU+昇GPU,算力达2.5PFlops!

    8月15日,科大飞在合肥举办了“飞星火认知大模型V2.0升级发布会”。在此次发布会上,科大飞与华为共同发布用于构建专属大模型的软硬件一体化设备“星火一体机”。...(星火一体机采用的昇芯片疑似为昇910。官网资料显示,昇910的FP16算力为320TFLOPS。)...值得注意的是,上个月,科大飞就宣布飞星火将与昇AI联合,打造基于中国自主创新的通用智能新底座。...一方面,飞星火认知大模型基于训练推理一体化设计,实现大模型稀疏化、低精度量化的技术突破,能高效适配昇AI,加速大模型的行业落地应用和迭代;另一方面,以昇AI为核心,软硬件协同优化,构建算力集中、性能优越...在当天的“飞星火认知大模型V2.0升级发布会”演讲中,刘庆峰更为细致地讲解道,“华为跟科大飞共同在昇AI的软硬件平台和软件的支撑工具上,把高算力AI芯片、高性能的算子库、多卡高速互联以及分布式存储结合起来

    3.7K10

    传鸿精密拿下99美元AirPods代工订单,股价一度暴涨30%

    报道称,下一代AirPods预期在2024下半年或2025上半年大量出货,包括目标定价99美元的平价版AirPods,以及新款耳罩式耳机AirPods Max,组装厂包括立与鸿。...供应链人士表示,在印度市场,鸿可望独家代工生产AirPods相关产品。...值得注意的是,鸿今年1月2日宣布并购德国车用元件设计制造厂PRETTL SWH集团,扩充电动车关键零组件。...这也意味着AirPods组装和鸿海的电动车事业/MIH联盟,将成为鸿未来几年两大成长动力。 该消息被曝光后,鸿在港股股价12日盘中一度飙高30%,收盘上涨17.2%,报港币2.25元。...编辑:芯智-林子 行业交流、合作请加微信:icsmart01 芯智官方交流群:221807116

    31920

    鸿海斥资1.86亿欧元收购德国车用元件厂

    1月3日消息,据中国台湾媒体“中央社”报道,鸿海旗下鸿精密科技(FIT)于3日宣布以 1.86 亿欧元(约 13.73 亿元人民币)100% 收购德国汽车线束厂 PRETTL SWH 集团,扩充电动车关键零组件实力...鸿表示,此次收购短期可为鸿带来约 3.5 亿欧元(约 25.83 亿元人民币)至 4 亿欧元(约 29.52 亿元人民币)的年营收贡献,未来有望创造更佳产品组合,提升鸿整体毛利率,并扩展鸿在电动车关键零组件的全球制造...据介绍,PRETTL SWH 集团旗下三大部门感测器部门、车用电源管理部门、连接器数据传输系统部门,分别对应鸿现有电动车策略发展方向“电源管理、车联网以及人机界面”。...编辑:芯智-林子 行业交流、合作请加微信:icsmart01 芯智官方交流群:221807116

    22440

    强强联合背后,国产大模型迎来“WIntel时刻”?

    比如,在此次科大飞1024开发者节上,科大飞推出了医疗大模型和讯飞晓医APP,为每个家庭提供健康助手,正是基于科大飞在智慧医疗行业的多年积累,科大飞的智医助理在2017年就以456分(合格线360...作为当前国产自主算力的代表作之一,华为昇平台凭借华为自研的达芬奇架构技术,实现了业界最佳性能与能效,支持云边端全栈全场景应用。...目前华为昇的AI集群已经全面升级,已经从最初的4000卡集群扩展到16000卡集群,是业界首个万卡集群,拥有更快的训练速度和30天以上的稳定训练周期。...早在今年7月份,就有报道介绍,在充分利用昇这样的国产化算力平台基础上,飞搭建了自研的火石平台。该平台突破了大模型数据的系数化,低精度的量化以及高效适配等问题,加速了AI大模型的落地。...在10月24日的开发者节上,科大飞更是宣布将联合昇AI打造算力底座“飞星一号”,进一步将双方的合作提升到一个新的高度。自主算力和自研平台的结合,对于国产大模型来说有着深远的意义。

    22730

    这几款机器人“引爆”了2015机器人世界杯现场

    Nao机器人采用atom处理器,现在正在进行中国本土化开发阶段,一批适合中国的APP将会出 现,大爆炸正在上海和nao机器人公司合作举办机器人编程大赛。 翻译强人~科大飞语音机器人“飞飞” ?...在开幕式上出尽风头的翻译机器人是来自科大飞的语音机器人“飞飞”,看起来憨态可掬,不过可不只是一个摆设,除了能听会说、能走会跳之外,还融入了科大飞国际领先的机器翻译技术,可同步进行中译英和英译中双向翻译...影三轴手持稳定器,内置陀螺仪自稳系统。可搭载智能手机或Gopro相机。增加头部追踪模块,实现拍摄智能追踪。...3000mAh LG进口可充电锂电池,12h超长续航;影创新的FOC驱动算法,电机控制精度高达±0.02°;3种拍摄模式,320°角度范围,景有形,摄无界。

    85570

    这么厉害?QLC闪存笑了!

    这种特性决定了傲天生就是在SDRAM和Flash甚至HDD之间做缓存的好料。 ? ? 目前傲一共三种形态,分别是U.2接口的闪存盘、标准PCIE接口的闪存卡、DIMM接口的内存条。...DIMM形态的产支持3种应用模式,一种是RAM Disk模式,通过内核中特殊的Block Driver将该内存空间虚拟成一个块设备来使用;另一种是应用自定义的APP Direct模式,该模式下,应用程序需要主动将傲的内存地址映射到自身地址空间中使用...而对于原本就低并发的应用而言,傲显然可以更加高效的提升业务性能。 傲的性能如此给力,但是容量方面目前还赶不上NAND Flash,目前3D堆叠的TLC闪存盘容量最高已经可达十几TB。...傲的超高性能,QLC固态盘的超大容量和不错的性能,这俩人面面相觑,不由得都笑了,干脆用傲来摊薄一下QLC的性能,QLC则摊薄一下傲的容量,一拍即合!看看下面是啥!Intel也是这么想的。 ?...该产品有三个型号,256GB QLC NAND存储器+16GB傲存储器,或者512GB QLC NAND+32GB傲,或者1024GB QLC+32GB傲

    1.6K20

    怎么向大模型要生产力,飞星火的“三问三答”

    飞星火认知大模型在“百模大战”中脱颖而出的背后,离不开昇AI和科大飞在算力底座上的联合突破。时间回到2023年4月,飞星火V1.0发布前夕。...接下来近一年的时间里,昇AI和科大飞针对大模型训练进行了一系列技术攻关,包括大模型底层算子库开发和优化、大模型算法迁移、超大规模集群智能化运维软件开发等等。...双方联合开发和优化了50多个大模型算子,其中科大飞基于昇自主开发自定义的关键算子就超过10个,最终让大模型的训练性能提升了3倍以上,和国外同类产品不相上下。...6个月后的飞开发者节上,双方向外界公布了一个新消息:首个支撑万亿参数大模型训练的国产算力平台“飞星一号”正式启用,基于昇AI基础软硬件平台和大容量交换机构建参数面无损ROCE组网,配置高空间的全闪和混闪并行文件系统...在智慧城市领域,湖北省利川市依托飞星火认知大模型和昇算力,构建了自主创新人工智能公共算力平台,驱动利川数字产业、智慧文旅、康养产业、智慧农业等领域全面发展。

    17710

    芯片界地震!国产GPU狂飙,英伟达霸权终结者?

    此外,刘庆峰还提到,华为的三个董事已经加入科大飞工作,专注于对标Nvidia的A100。...科大飞的飞星火认知大模型,已经与华为昇自主创新算力平台展开合作,这一强强联合使得他们能够基于自主的软硬件大模型生态发展能力跃升。此外,不仅科大飞,国内其他大模型厂商也已开始使用华为芯片。...这一旅程始于2018年,在上海的一场会议上,华为公布了自家首款AI处理器:昇310与昇910。这两款芯片的推出,标志着华为在全球AI硬件竞争中的正式入局。...昇310芯片,专注于边缘计算应用,以其低功耗设计服务于智能终端;而昇910则瞄准了数据中心和云计算的需求,力图在高性能AI计算市场占有一席之地。...华为的昇AI芯片系列,尤其是在百度、科大飞等大模型厂商的强大需求下,开始受到热捧。这些厂商不仅需求量大,而且对芯片的性能要求极高。

    48320

    突破极限!腾讯云高性能计算助力实现超大体系平面波精度第一性原理计算

    近日,腾讯量子实验室、腾讯云高性能计算产品团队、北京龙科技有限公司和盐城工学院石林教授团队联合攻关,成功实现了百万硅原子超大规模体系的平面波精度第一性原理计算。...该项工作由腾讯量子实验室牵头,基于龙公司的线性标度三维分块算法(LS3DF)以及腾讯云高性能计算集群产品完成。...为了解决计算复杂度高的问题,本次项目团队采用龙首席科学家汪林望博士开发的线性标度三维分块算法(LS3DF),并基于30台腾讯云 GPU 型高性能计算 HCCG5v 实例 (单台 HCCG5v 服务器配备...未来腾讯云高性能计算产品团队将与腾讯量子实验室和龙公司继续深入合作,为探索第一性原理计算多样化应用场景提供算力支持,共建高性能计算生态。

    1.1K60

    Ascend 随记 —— TensorFlow 模型迁移

    910 AI处理器是华为在2019年发布的人工智能(AI)专用的神经网络处理器,其算力高达256T,最新款算力高达310T,是业界主流处理器算力的2倍,基于昇910 AI处理器的昇系列硬件,比如...除了昇思MindSpore外,TensorFlow等其他深度学习框架下的模型并不能直接在昇910 AI处理器上训练,为了使其充分利用昇910 AI处理器的澎湃算力来提升训练性能,我们需要借助异构计算架构...CANN的Plugin适配层转换,使转换后的模型能够高效运行在昇910 AI处理器上。...通过迁移工具对原始脚本进行AST语法树扫描,可自动分析原生的TensorFlow API在昇AI处理器上的支持度,并将原始的TensorFlow训练脚本自动迁移成昇AI处理器支持的脚本,对于无法自动迁移的...下载和安装软件 软件网址:第三方框架适配-昇社区 (hiascend.com) 2.

    1.4K10
    领券