旷视天元（MegEngine）是一个深度学习框架，它主要包含训练和推理两方面内容。训练侧一般使用 Python 搭建网络；而推理侧考虑到产品性能的因素，一般使用 C++ 语言集成天元框架。无论在训练侧还是推理侧，天元都担负着将训练和推理的代码运行到各种计算后端上的任务。目前天元支持的计算后端有 CPU、GPU、ARM 和一些领域专用的加速器，覆盖了云、端、芯等各个场景。
在阿里的业务中，有广泛的算法应用场景，也沉淀了相关的算法应用平台和工具：基础的算法引擎部分，有成熟的召回和打分预估引擎、在线实时特征服务；推荐算法应用领域，有算法实验平台TPP（源于淘宝个性化平台），提供Serverless形式的算法实验平台，包括资源弹性伸缩，实验能力(代码在线发布、AB分流、动态配置)，监控管理（完善的监控报警、流控、降级)等能力，是算法在线应用的基石。
在这一篇文章中，我们结合 Rosetta 介绍如何定制化改造 TensorFlow 前后端相关组件，以集成 MPC 等隐私计算技术，同时保留对 TensorFlow 接口 API 的复用，从而实现我们上一篇文章中所强调的“系统易用性”。
☞当我们谈到一幅图像的求幂时，意味着每个像素均进行求幂操作； ☞当我们谈到一幅图像除以另一幅图像时，意味着在相应的像素之间进行相除。
随着深度学习的应用场景不断拓展，应用规模的不断扩大，模型推理服务的性能也受到越来越多重视。同样一个模型在同样的硬件上，专业的模型优化在同样的推理精度下可能会带来几倍甚至几十倍的性能提升。一般来说，使用专用推理框架比如TensorRT、OpenVINO等，推理性能会好于Tensorflow，Pytorch等深度学习框架，对模型的定制优化推理性能会好于直接使用专用推理框架。
CTR模型在互联网的搜索、推荐、广告等场景有着广泛的应用。近年来，随着深度神经网络的引入，CTR模型的推理对硬件算力的要求逐渐增加。本文介绍了美团在CTR模型优化的实践。通过分析模型结构特点，结合GPU硬件架构，我们设计了一系列流程对模型进行定制优化，达到了降低延迟、提高吞吐、节省成本的目标。
这篇文章介绍了Auto-Scheduler的一种方法Ansor，这种方法已经被继承到TVM中和AutoTVM一起来自动生成高性能的张量化程序。
随着深度学习技术的成熟和人工智能的发展，机器开始变得越来越“聪明”，越来越了解用户的喜好和习惯。
在先前的 Query Engine 源码解析中，我们介绍了 2.0 中 Query Engine 和 1.0 的主要变化和大体的结构：
在机器学习领域，清晰明了的数据预处理和表现优异的模型往往是数据科学家关注的重点，而实际生产中如何让模型落地、工程化也同样值得关注，工程化机器学习模型避不开的一个难点就是模型的推理（Inference / Serving）性能优化。
在今年的敏捷团队建设中，我通过Suite执行器实现了一键自动化单元测试。Juint除了Suite执行器还有哪些执行器呢？由此我的Runner探索之旅开始了！
专家系统(Mindstudio Advisor) 是用于聚焦模型和算子的性能调优Top问题，识别性能瓶颈，重点构建瓶颈分析、优化推荐模型，支撑开发效率提升的工具。专家系统当前已经支持针对推理、训练、算子场景的瓶颈分析模型，包括内部团队开发的模型&算子瓶颈分析和优化推荐知识库、针对onnx模型的自动调优知识库，以及基于生态开发者开发的生态知识库。
最近ZOMI这2/3周有幸被邀请去百度交流、去VIVO研究院交流、去MindSpore开源团队交流、去华为昇腾团队交流推理引擎。所以有些心得体会，恰好前不久又分享完《AI编译器》系列课程和《AI推理引擎》系列课程。
今天给大家介绍的是发表在arXiv上一项有关分子动力学内容的工作，文章标题为Operator Autoencoders: Learning Physical Operations on Encoded Molecular Graphs，作者分别是来自波特兰州立大学的Willis Hoke, 华盛顿大学的Daniel Shea以及美国兰利研究中心的Stephen Casey. 在这项工作中，作者开发了一个用于建立分子动力学模拟的时间序列体积数据图结构表示的流程。随后，作者训练了一个自编码器，以找到一个潜在空间的非线性映射。在该空间中，通过应用与自编码器串联训练的线性算子，可以预测未来的时间步长。同时，作者指出增加自编码器输出的维数可以提高物理时间步算子的精度。
以下面的 SQL 为例，我们来介绍下其在离线中和在实时中执行的区别，对比学习一下，大家就比较清楚了
总第492篇 2022年 第009篇 GPU等专用芯片以较低的成本提供海量算力，已经成为机器学习领域的核心利器，在人工智能时代发挥着越来越重要的作用。如何利用GPU这一利器赋能业务场景，是很多技术研发者都要面临的问题。本文分享了美团外卖搜索/推荐业务中模型预估的GPU架构设计及落地的过程，希望能对从事相关应用研发的同学有所帮助或启发。 1 前言 2 背景 3 外卖搜推场景下的精排模型 4 模型服务架构概览 5 GPU优化实践 5.1 系统优化 5.2 计算优化 5.3 基于DL编译器的自动优化 6 性能表
不过从我对文档的理解来看，感觉更像是添加的一种硬件后端（代理我想应该只是调用调用层面，不是底层实现，另外在Hexagon DSP的委托代理部分，文档坦言说Hexagon DSP的代理就是为了补充NNAPI，特别是针对那些NNAPI不可用DSP加速的、老旧驱动的设备，毕竟这些老旧设备也没有NNAPI这个东西，但有DSP硬件），交给模型的子图来去执行。比方原始模型的CPU执行Graph如上图。交给GPU的委托代理后，原Graph变为下面这样：
No.48期 计算子图同构 Mr. 王：我们再来看一个例子——计算子图同构。这个问题给定（节点有标签）数据图G和查询图P，找到G 中和P 同构的子图。这是一个经典的NP 完全问题。 小可：那求解岂不是很困难？ Mr. 王：在实际情况下，虽然数据图G 会比较大，可能有上G 个节点，但查询图P 一般会比较小，因为查询图一般是由查询需求表现出来的，查询需求往往没有那么大。 小可：如果依然利用Pregel 平台的思想来解决问题，要怎么做呢？ Mr. 王：考虑到Pregel 平台具有面向节点编程的思想，我们就要考虑
今天我记录使用myCobot320 M5跟FS820-E1深度相机进行一个无序抓取物体的分享。
目前，阻碍图神经网络在业界大规模应用的挑战之一是：图神经网络很难被扩展到 Twitter 的用户关注关系图这类大型图上。
作者：刘光聪 中兴通讯高级系统架构师，专注机器学习算法，分布式系统架构与优化。 原文：TensorFlow架构与设计 http://www.jianshu.com/p/a5574ebcdeab
图像边缘指的是图形周围像素灰度急剧变化的那些像素的集合，是图像最基本的特征。所谓图像边缘检测就是利用灰度值不连续的性质，以灰度突变为基础分割出目标区域，检测出符合边缘特性的边缘像素，完成图像处理。
随着机器学习和人工智能领域的持续发展，神经网络及其代表性的算法通过提升计算成本而实现了越来越高的准确度。量化（quantization）是一种以准确度为代价旨在降低计算成本的方法。为了在尽可能小地损失准确度的同时尽可能多地减少计算，研究者们已经提出了多种不同的量化方案。
成正比。孰大孰小一目了然。所以对平台、硬件厂商而言，不管你在上半场是失败者或是成功者，下半场都要打起精神，认真面对。
这是数据魔术师的第5篇算法干货文 ▲ 一 什么是遗传算法？ 遗传算法（Genetic Algorithm，简称GA）起源于对生物系统所进行的计算机模拟研究，是一种随机全局搜索优化方法，它模拟了自然选择和遗传中发生的复制、交叉(crossover)和变异(mutation)等现象，从任一初始种群（Population）出发，通过随机选择、交叉和变异操作，产生一群更适合环境的个体，使群体进化到搜索空间中越来越好的区域，这样一代一代不断繁衍进化，最后收敛到一群最适应环境的个体（Individual），从
在图结构存储和图计算的抽象上均良好的支持异构点、异构边类型的操作，并支持丰富的异构属性，可以很容易的在图学习算法中进行异构图的表征学习。
下面即是文章目录，也对应到了本文的结论，小伙伴可以先看结论快速了解博主期望本文能给小伙伴们带来什么帮助：
同图像灰度不同，边界处一般会有明显的边缘，利用此特征可以分割图像。需要说明的是：边缘和物体间的边界并不等同，边缘指的是图像中像素的值有突变的地方，而物体间的边界指的是现实场景中的存在于物体之间的边界。有可能有边缘的地方并非边界，也有可能边界的地方并无边缘，因为现实世界中的物体是三维的，而图像只具有二维信息，从三维到二维的投影成像不可避免的会丢失一部分信息；另外，成像过程中的光照和噪声也是不可避免的重要因素。正是因为这些原因，基于边缘的图像分割仍然是当前图像研究中的世界级难题，目前研究者正在试图在边缘提取中加入高层的语义信息。
本系列我们开始分析 TensorFlow 的分布式。之前在机器学习分布式这一系列分析之中，我们大多是以 PyTorch 为例，结合其他框架/库来穿插完成。但是缺少了 TensorFlow 就会觉得整个世界（系列）都是不完美的，不单单因为 TensorFlow 本身的影响力，更因为 TensorFlow 分布式有自己的鲜明特色，对于技术爱好者来说是一个巨大宝藏。
Apache TVM 是一个用于 CPU、GPU 和机器学习加速器的开源机器学习编译器框架。TVM 支持 TensorFlow、Pytorch、MXNet、ONNX 等几乎所有的主流框架，目标是优化机器学习模型让其高效运行在不同的硬件平台上。TVM 提供了深度学习模型编译、优化和部署的端到端解决方案，支持从模型定义到部署的全流程自动化。 近日，TVM 社区举办了 TVMCon2023 会议。会议上，腾讯 BlazerML 深度学习编译器团队发表了题为《TVM at Tencent》的演讲，主要介绍了 Bla
导语 机器学习领域最重要的两个问题是机器学习模型的生产（模型训练）和机器学习模型的部署（模型推理）。其中，模型的部署关注两个方面： 模型推理的性能问题：目标是通过计算图层面的优化，算子层面的优化等方式，在保证模型效果的前提之下，提升模型计算（模型推理）的性能。 模型部署的工程问题：主要着眼于对模型部署过程中的整个模型的生命周期进行管理，降低模型部署的工程量。 目前常见的推理优化框架有侧重于推理性能提升的 TensorRT、NVIDIA 基于 TensorRT 的 Triton、Tensorflow 社区的
Nebula Graph 本身提供了高性能的 OLTP 查询可以较好地实现各种实时的查询场景，同时它也提供了基于 Spark GraphX 的 nebula-algorithm 库以便支持实时的图算法，这里给 Nebula 点个赞，很不错！
边缘计算时代离我们越来越近，当前嵌入式设备的智能框架还是 TensorFlow Lite比较成熟，这里我准备用一系列免费课程和大家一起讨论下 TensorFlow Lite在移动设备上的应用，让我们的设备智能起来。
昇腾基于atals相关硬件产品，在底层创建CANN异构计算架构，支持Mindspore、tensorflow、pytorch、onnx、PP飞桨、计图等第三方框架，在应用使能层提供modelarts、HiAi service等平台来供开发者进行AI操作，来应用于智慧城市、制造、能源、医疗等行业。
（1）图像配准(Image registration)是将同一场景拍摄的不同图像进行对齐的技术，即找到图像之间的点对点映射关系，或者对某种感兴趣的特征建立关联。
由于博主已经本硕博连读，九月份即将开始研究生生涯，遂开启论文阅读这一系列博文，主要介绍一些文章的主要思想和创新点，可能会详细介绍一下模型，如果喜欢的话多多关注，另外其他系列也会不定时更新，记得来看~
引言 TensorFlow从15年10月开源至今，可谓是发展迅猛，从v0.5到如今的v2.0.0-alpha，经历了无数个功能特性的升级，性能、可用性、易用性等都在稳步提升。相对来说，对于我们工业界，大家可能更关注分布式TensorFlow的发展，本文尝试梳理下分布式TensorFlow从问世到现在经历过的变迁。 分布式TensorFlow运行时基本组件 用户基于TensorFlow-API编写好代码提交运行，整体架构如下图所示。 [ dist-tf ] Client 可以把它看成是TensorFlo
本文为GNN教程的DGL框架之大规模分布式训练，前面的文章中我们介绍了图神经网络框架DGL如何利用采样的技术缩小计算图的规模来通过mini-batch的方式训练模型，当图特别大的时候，非常多的batches需要被计算，因此运算时间又成了问题，一个容易想到解决方案是采用并行计算的技术，很多worker同时采样，计算并且更新梯度。这篇博文重点介绍DGL的并行计算框架。
近日，由 TiDB 社区主办，专属于全球开发者与技术爱好者的顶级挑战赛事——TiDB Hackathon 2020 比赛圆满落幕。今年是 TiDB Hackathon 第四次举办，参赛队伍规模创历届之最，共有 45 支来自全球各地的队伍报名，首次实现全球联动。经过 2 天时间的极限挑战， 大赛涌现出不少令人激动的项目。为了让更多朋友了解这些参赛团队背后的故事， 我们将开启 TiDB Hackathon 2020 优秀项目分享系列，本篇文章将介绍 TiGraph 团队赛前幕后的精彩故事。
图算法最早来源于图论和组合优化相关算法，在风控里面应用比较多的基本上都是传统的图算法或比较偏数学理论的算法，如最短路径发现，不同的账号和交易之间存在异常的最短路径，某些账号或设备存在异常的关联。另外，还有图的识别，比如洗钱，会涉及到异常的环路。
如果，你手中有一张256*256分辨率的图像，想让它降低为128*128分辨率，可以将源图像划分成2*2的子图像块，然后将2*2的子图像块的所有像素颜色均按照F(i,j)的颜色值进行设定，达到降低分辨率的目的。
现在我们了解了子图，也知道子图的重要性是可以衡量的。如此我们可以继续引入模块（motifs）的概念。
今天为大家带来斯坦福大学Jure Leskovec教授课题组发表在NeuIPS上的一篇论文。本文引入了一个框架GQE，以便在不完整的知识图谱上有效地对合取逻辑查询进行预测。在本文的方法中，作者在低维空间中对图节点进行嵌入，并在这个嵌入空间中将逻辑运算符表示为学习过的几何运算（例如平移、旋转）。本文通过在低维嵌入空间中执行逻辑运算，实现了线性时间复杂度的变量查询。
本文为GNN教程的系列干货。之前介绍了DGL这个框架，以及如何使用DGL编写一个GCN模型，用在学术数据集上，这样的模型是workable的。然而，现实生活中我们还会遇到非常庞大的图数据，庞大到邻接矩阵和特征矩阵不能同时塞进内存中，这时如何解决这样的问题呢？
机器之心原创 作者：思 全新的 MindSpore 1.5 来啦，这次它有了中文名：昇思。从 8 卡训练 600 亿参数模型，到发布电磁仿真、药物分子模拟等科学计算套件 MindScience，这次，昇思 MindSpore正探索深度学习框架的未来。 从去年 3 月份正式开源，现在经过 1 年半的完善、众多社区小伙伴提交的代码改进，MindSpore 也已步入成熟。那么我们对它的印象是什么样的呢？是好用的自动微分机制，还是超便捷的全自动并行训练，亦或是具有很强可读性的模型代码？ 现在，MindSpore 正
华为公司面向计算机视觉、自然语言处理、推荐系统、类机器人等领域量身打造了基于“达芬奇（DaVinci）架构”的昇腾（Ascend）AI处理器，开启了智能之旅。为提升用户开发效率和释放昇腾AI处理器澎湃算力，同步推出针对AI场景的异构计算架构CANN（Compute Architecture for Neural Networks），CANN通过提供多层次的编程接口，以全场景、低门槛、高性能的优势，支持用户快速构建基于Ascend平台的AI应用和业务。
Tensorflow是广泛使用的实现机器学习以及其它涉及大量数学运算的算法库之一。Tensorflow由Google开发，是GitHub上最受欢迎的机器学习库之一。Google几乎在所有应用程序中都使用Tensorflow来实现机器学习。 例如，如果您使用到了Google照片或Google语音搜索，那么您就间接使用了Tensorflow模型。它们在大型Google硬件集群上工作，在感知任务方面功能强大。
近年来，基于 Transformer、Large-kernel CNN 和 MLP 三种视觉主干网络在广泛的 CV 任务中取得了显著的成功，这要归功于它们在全局范围内的高效信息融合能力。
南加州大学的曾涵清博士在 ICLR 2020 上发表了论文《 GraphSAINT: Graph Sampling Based Inductive Learning Method》，我们邀请曾博士为我们带来关于“基于子图采样，在大规模图数据上实现高效、准确的图神经网络训练”的分享。分享视频为英文。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
