开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

一种计算大型负值矩阵sqrt的内存高效方法

是使用并行计算和分布式计算的技术。通过将矩阵分割成多个小块，然后在多个计算节点上并行计算每个小块的sqrt值，最后将结果合并得到整个矩阵的sqrt值。

这种方法的优势在于能够充分利用多个计算节点的计算能力，提高计算效率。同时，由于将矩阵分割成小块进行计算，可以减少内存占用，降低计算过程中的内存开销。

应用场景方面，这种方法适用于需要计算大型负值矩阵sqrt的场景，比如在科学计算、数据分析、图像处理等领域中。例如，在图像处理中，可以将图像表示为矩阵形式，然后使用该方法计算图像的sqrt值，以实现图像的增强或特征提取等操作。

腾讯云相关产品中，可以使用腾讯云的弹性计算服务（Elastic Compute Service，ECS）来部署并行计算节点，使用腾讯云的分布式计算服务（Tencent Distributed Compute Service，TDCS）来管理和调度计算任务。此外，腾讯云还提供了丰富的存储服务（如对象存储、文件存储）和网络通信服务（如私有网络、负载均衡），以支持大规模计算任务的数据存储和通信需求。

腾讯云弹性计算服务（ECS）产品介绍：https://cloud.tencent.com/product/cvm 腾讯云分布式计算服务（TDCS）产品介绍：https://cloud.tencent.com/product/tdcs 腾讯云对象存储（COS）产品介绍：https://cloud.tencent.com/product/cos 腾讯云文件存储（CFS）产品介绍：https://cloud.tencent.com/product/cfs 腾讯云私有网络（VPC）产品介绍：https://cloud.tencent.com/product/vpc 腾讯云负载均衡（CLB）产品介绍：https://cloud.tencent.com/product/clb

相关搜索:一种从距离矩阵生成dist对象的高效内存方法一种高效的大无符号整数内存分配方法计算具有复数的大型矩阵的欧几里德距离的最快方法是什么？找到一种高效地对DataFrame的某些列执行计算的方法有没有一种内存高效的方法来转换输入流编码？一种高效制作有内存约束h5py文件的方法计算外积矩阵二次型的一种有效方法有没有一种内存高效的方法来改变固有实现的行为？在R中的lubridate中处理大型数据集中日期的高效计算方法 python中计算大数据集相似度矩阵的一种有效方法有没有一种使用元组来迭代非常大的os.scandir()对象的高效内存的方法？有没有一种更有效的方法来迭代矩阵并在特定列上执行计算？寻找一种更快的方法来计算R中大型时间序列的条件反向累积和

相关搜索:

页面内容是否对你有帮助？

有帮助

没帮助

相关·内容

深度学习进阶篇7：Transformer模型长输入序列、广义注意力、FAVOR+快速注意力、蛋白质序列建模实操。

基于Transformer模型在众多领域已取得卓越成果，包括自然语言、图像甚至是音乐。然而，Transformer架构一直以来为人所诟病的是其注意力模块的低效，即长度二次依赖限制问题。随着输入序列长度的增加，注意力模块的问题也越来越突出，算力和内存消耗是输入序列长度的平方。

00

突破内存瓶颈 KCache | 不需要任何训练，适用于各种主流结构，提升 LLM 大型语言模型推理效率！

目前，像GPT-4（OpenAI，2023年）、PaLM 这样的大型语言模型在自然语言处理、总结、代码生成、问题回答等方面占据主导地位。然而，它们昂贵的在线推理成本对基于LLM的应用部署构成了重大障碍。在有限的计算资源下，如何尽可能最大化整个系统的吞吐量，并提高GPU集群的利用率变得越来越重要。

01

IceFormer | 加速 Transformer 模型即插即用，无需重新训练，更快的推理速度，CPU 上也能部署 LLM ！

的准确率。代码可在作者的项目网站https://yuzhenmao.github.io/IceFormer/上获取。

01

每日论文速递 | GaLore: 使用梯度低秩映射进行大模型 Memory-Efficient 全参训练

摘要：训练大型语言模型（LLMs）面临着显著的内存挑战，主要是由于权重和优化器状态的不断增大。常见的内存降低方法，如低秩适应（LoRA），在每一层中向冻结的预训练权重添加一个可训练的低秩矩阵，从而减少可训练参数和优化器状态。然而，这些方法通常在预训练和微调阶段的性能上都不如使用全秩权重训练，因为它们将参数搜索限制在低秩子空间中，改变了训练动态，并且可能需要全秩热启动。在这项工作中，我们提出了Gradient Low-Rank Projection（GaLore），一种允许全参数学习但比LoRA等常见低秩适应方法更节省内存的训练策略。我们的方法在优化器状态的内存使用上最多减少了65.5%，同时在使用C4数据集进行LLaMA 1B和7B架构的预训练以及在GLUE任务上对RoBERTa进行微调时，保持了效率和性能。我们的8位GaLore相较于BF16基准，将优化器内存进一步降低了82.5%，总训练内存降低了63.3%。值得注意的是，我们首次证明了在具有24GB内存的消费级GPU上（例如NVIDIA RTX 4090）进行7B模型的预训练是可行的，而无需模型并行、检查点策略或卸载策略。

01

北京大学提出 PTQ4ViT | 双均匀量化+Hessian引导度量，推进Transformer模型落地

自注意力模块是Transformer的基本构建块，用于捕捉全局信息。受到Transformer在自然语言处理（NLP）任务上的成功启发，研究人员将自注意力模块引入了计算机视觉。他们用自注意力模块替代了卷积神经网络（CNNs）中的卷积层，将这些网络称为视觉Transformer。视觉Transformer在许多计算机视觉任务上与CNNs相媲美，有巨大的潜力用于各种应用。

06

并行训练算法一锅炖: DDP, TP, PP, ZeRO

模型训练过程中涉及到的参数主要包含两大类，model data 和 non-model data，具体表示如下：

03

每日论文速递 | AutoLoRA:通过meta learning学习LoRA最优秩

摘要：在各种 NLP 任务中，大规模预训练和针对特定任务的微调取得了巨大成功。由于对大型预训练模型的所有参数进行微调会带来巨大的计算和内存挑战，人们开发出了几种高效的微调方法。其中，低秩适应（Low-rank adaptation，LoRA）在冻结的预训练权重基础上对低秩增量更新矩阵进行微调，已被证明特别有效。然而，LoRA 在所有层中统一分配秩，并依赖穷举搜索来找到最佳秩，这导致了高计算成本和次优的微调性能。为了解决这些局限性，我们引入了 AutoLoRA，这是一种基于元学习的框架，用于自动识别每个 LoRA 层的最佳等级。AutoLoRA 将低秩更新矩阵中的每个秩-1 矩阵与一个选择变量相关联，该选择变量决定是否应丢弃秩-1 矩阵。我们开发了一种基于元学习的方法来学习这些选择变量。通过对这些变量的值进行阈值化处理，确定最佳秩。我们在自然语言理解、生成和序列标注方面的综合实验证明了 AutoLoRA 的有效性。

01

综述 | 揭秘高效大型语言模型：技术、方法与应用展望

近年来，大型语言模型（LLMs）在自然语言处理领域取得了显著的进展，如GPT-series(GPT-3, GPT-4)、Google-series(Gemini, PaLM), Meta-series(LLAMA1&2), BLOOM, GLM等模型在各种任务中展现出惊人的能力。然而，随着模型规模的不断增大和参数数量的剧增，这些模型的成功往往伴随着巨大的计算和存储资源消耗，给其训练和推理带来了巨大挑战，也在很大程度上限制了它们的广泛应用。因此，研究如何提高LLMs的效率和资源利用，使其在保持高性能的同时降低资源需求，成为了当前领域的热点问题。

01

AffineQuant: 大语言模型的仿射变换量化

本文研究了大型语言模型（LLMs）在移动和边缘设备上的推理加速问题，这一问题在现实应用中具有重要意义。随着大型语言模型在多种任务中展现出卓越的性能，它们吸引了越来越多的关注。然而，这些模型通常需要庞大的计算资源，尤其是在训练和推理阶段。特别是在资源受限的移动和边缘设备上，模型的高效推理显得尤为重要。为此，研究者们寻求通过压缩技术，如量化，来减少模型的存储需求和计算负担。量化是一种有效的方法，通过将权重和激活映射到低比特表示来实现。

01

NumPy知识速记

由于NumPy提供了一个简单易用的C API，因此很容易将数据传递给由低级语言编写的外部库，外部库也能以NumPy数组的形式将数据返回给Python。这个功能使Python成为一种包装C/C++/Fortran历史代码库的选择，并使被包装库拥有一个动态的、易用的接口。

01

在消费级GPU调试LLM的三种方法：梯度检查点，LoRA和量化

LLM的问题就是权重参数太大，无法在我们本地消费级GPU上进行调试，所以我们将介绍3种在训练过程中减少内存消耗，节省大量时间的方法:梯度检查点，LoRA和量化。

06

每日论文速递 | Google提出PERL：将PEFT与RLHF结合起来

摘要：从人类反馈中强化学习（RLHF）已被证明是将预训练的大型语言模型（LLM）与人类偏好相匹配的有效方法。但是，使用 RLHF 训练模型的计算成本很高，而且整个过程也很复杂。在这项工作中，我们研究的 RLHF 是使用 Hu 等人[2021]提出的参数高效的低库自适应（Low-Rank Adaptation，LoRA）方法来训练底层模型的。我们研究了 "参数高效强化学习"（PERL）的设置，其中我们使用 LoRA 进行奖励模型训练和强化学习。我们比较了 PERL 和传统微调（完全微调）在 7 个基准（包括 2 个奖励建模和强化学习的新数据集）中的不同配置。我们发现，PERL 的性能与传统的 RLHF 设置相当，同时训练速度更快，占用内存更少。这使得 RLHF 的高性能得以实现，同时减少了限制其作为大型语言模型对齐技术的采用的计算负担。我们还发布了两个新颖的向上/向下偏好数据集："Taskmaster Coffee "和 "Taskmaster Ticketing"，以促进围绕 RLHF 的研究。

01

代码开源！用Versal FPGA加速矩阵乘法

该论文主要围绕着深度学习应用对密集矩阵乘法（Matrix Multiply, MM）的大量需求展开。随着深度学习模型的复杂度不断增加，对计算资源的需求也日益增长，这促使了异构架构的兴起，这类架构结合了FPGA（现场可编程门阵列）和专用ASIC（专用集成电路）加速器，旨在应对高计算需求。

01

LRP-QViT完美而来 | 输出层分配相关性+剪切通道让Swin Transformer量化后居然涨1.5个点

视觉 Transformer （ViTs）在各种视觉任务上取得了最先进（SOTA）的性能，包括图像分类，目标检测和分割。然而，它们的计算需求高、内存占用大且能源消耗大，这使得在资源受限的平台部署起来不切实际。压缩和加速技术已经被研究用于ViTs，旨在在保持性能的同时减少原始网络大小。用于模型缩减的各种方法包括网络剪枝，低秩分解，量化，知识蒸馏，以及动态标记减少。

01

图像处理-下采样

1、使得图像符合显示区域的大小； 2、生成对应图像的缩略图； 3、处理大型图像减少运算量。

02

Lora升级！ReLoRa！最新论文 High-Rank Training Through Low-Rank Updates

尽管通过扩展导致具有数千亿参数的大型网络在统治和效率方面表现突出，但训练过参数化模型的必要性仍然难以理解，且替代方法不一定能使训练高性能模型的成本降低。在本文中，我们探索了低秩训练技术作为训练大型神经网络的替代方法。我们引入了一种名为 ReLoRA 的新方法，该方法利用低秩更新来训练高秩网络。我们将 ReLoRA 应用于预训练最多达 350M 参数的变换器语言模型，并展示了与常规神经网络训练相当的性能。此外，我们观察到 ReLoRA 的效率随着模型大小的增加而提高，使其成为训练多十亿参数网络的有效方法。我们的研究发现揭示了低秩训练技术的潜力及其对扩展规律的影响。代码已在 GitHub 上提供。

00

清华 & 国家重点实验室 PeriodicLoRA | 通过周期性累积低秩更新打破参数高效微调的性能瓶颈！

大型语言模型在自然语言处理方面变得越来越熟练（OpenAI等人，2023年；陈等人，2024年），这导致在各个下游任务中对它们的应用需求日益增长。监督微调是目前最广泛使用的适配方法，但由于对计算资源和内存使用的巨大消耗，完全微调大型模型具有挑战性。

01

ICML 2023 LoSparse：低秩近似和结构化剪枝的有机组合

标题：LoSparse: Structured Compression of Large Language Models based on Low-Rank and Sparse Approximation

05

Python 高性能编程

更好地掌握 numpy、Cython 和剖析器；了解 Python 如何抽象化底层的计算机架构；使用剖析手段来寻找 CPU 时间和内存使用的瓶颈；通过选择合适的数据结构来编写高效的程序；加速矩阵和矢量计算；使用工具把 Python 编译成机器代码；管理并发的多 I O 和计算操作；把多进程代码转换到在本地或者远程集群上运行；用更少的内存解决大型问题。

03

了解大语言模型的参数高效微调（Parameter-Effcient Fine-Tuning）

大语言模型在众多应用领域实现了突破性的进步，显著提升了各种任务的完成度。然而，其庞大的规模也带来了高昂的计算成本。这些模型往往包含数十亿甚至上千亿参数，需要巨大的计算资源来运行。特别是，当需要为特定的下游任务定制模型时，尤其是在计算能力有限的硬件平台上，这一挑战尤为突出。

00

BitNet b1.58: 革命性的1比特语言模型，性能媲美全精度Transformer

3.性能对比：与全精度Transformer LLM（FP16或BF16）模型大小和训练tokens相等，困惑度和端到端任务性能相同。

01

马修斯相关系数MCC简介

在评估机器学习模型的性能时，F1score都被首选指标。在本文中，我们将介绍一个值得更多关注和认可的替代度量:马修斯相关系数(MCC)。

02

ICML2023！Google | 提出稀疏注意力框架Exphormer，提升图Transformer的扩展性！

Graph Transformer已成为ML的重要架构，它将基于序列的Transformer应用于图结构数据。然而当面对大型图数据集时，使用Graph Transformer会存在扩展性限制。为此，「Google提出了一个稀疏注意力框架Exphormer，它使用扩展图来提高图Transformer的可扩展性，并在长期依赖关系表现出了强大的性能」。

01

每日论文速递 | GEAR:高效 KV Cache 压缩框架

摘要：键值（KV）缓存已成为加快大语言模型（LLM）推理生成速度的事实。然而，随着序列长度的增加，缓存需求也在不断增长，这使得 LLM 推理变成了一个内存约束问题，极大地限制了系统的吞吐量。现有的方法依赖于放弃不重要的标记或均匀量化所有条目。然而，这些方法在表示压缩矩阵时往往会产生较高的近似误差。自回归解码过程进一步加剧了每一步的误差，导致模型生成出现严重偏差，性能下降。为了应对这一挑战，我们提出了一种高效的 KV 缓存压缩框架--GEAR，它能实现近乎无损的高比率压缩。GEAR 首先对大部分大小相似的条目进行超低精度量化。然后，它采用低秩矩阵来近似量化误差，并采用稀疏矩阵来弥补离群条目的个别误差。通过巧妙地整合三种技术，GEAR 能够充分发挥它们的协同潜力。我们的实验证明，与其他技术相比，GEAR 实现了近乎无损的 4 位 KV 高速缓存压缩，吞吐量提高了 2.38 倍，同时内存峰值大小减少了 2.29 倍。

01

【调研】GPU矩阵乘法的性能预测——Machine Learning Approach for Predicting The Performance of SpMV on GPU

通常，矩阵的大部分值都是零，因此在矩阵中，将数值为0的元素的数目远远大于非0的元素的数目，并且非0元素分布无规律时，称为稀疏矩阵；反之，则称为稠密矩阵。

02

在注意力中重新思考Softmax：分解非线性，这个线性transformer变体实现多项SOTA

机器之心报道编辑：杜伟、陈萍来自商汤、上海人工智能实验室等机构的研究者用线性 COSFORMER 来取代 transformer 中的 softmax 注意力机制，在多项任务上达到最优。 Transformer 在自然语言处理、计算机视觉和音频处理方面取得了巨大的成功。作为其核心组件之一，softmax 注意力有助于捕获长程依赖关系，但由于序列长度的二次空间和时间复杂度而禁止其扩展。研究者通常采用核（Kernel）方法通过逼近 softmax 算子来降低复杂度。然而，由于近似误差，它们的性能在不同的任务

02

数据挖掘工程师笔试及答案

2013百度校园招聘数据挖掘工程师一、简答题（30分） 1、简述数据库操作的步骤（10分）步骤：建立数据库连接、打开数据库连接、建立数据库命令、运行数据库命令、保存数据库命令、关闭数据库连接。

08

PCA详解

对于数组和Series而言，维度就是shape返回的数值shape中返回了几个数字，就是几维。

01

学习笔记DL005:线性相关、生成子空间，范数，特殊类型矩阵、向量

01

Numpy基础知识回顾

由于NumPy提供了一个简单易用的C API，因此很容易将数据传递给由低级语言编写的外部库，外部库也能以NumPy数组的形式将数据返回给Python。这个功能使Python成为一种包装C/C++/Fortran历史代码库的选择，并使被包装库拥有一个动态的、易用的接口。

01

2017图灵奖得主：通用芯片每年仅提升3%，神经专用架构才是未来

作者：Norman P. Jouppi, Cliff Young, Nishant Patil, David Patterson

02

大模型的模型压缩与有效推理综述

本文对大型语言模型的压缩和效率推理进行了综述。大型语言模型基于Transformer架构，具有强大的性能，但也带来了巨大的内存和计算成本。本文从算法角度对大型语言模型的压缩和效率推理方法进行了分类，包括量化、剪枝、知识蒸馏、紧凑架构设计和动态网络。大型语言模型有两个显著特点：

01

Matlab中sqrt函数的用法「建议收藏」

其中 r = abs(z) 是半径，phi = angle(z) 是在闭区间 -pi <= phi <= pi 内的相位角。

01

学界 | 英特尔提出新型压缩技术DeepThin，适合移动端设备深度神经网络

选自arXiv 作者：Matthew Sotoudeh等机器之心编译参与：路雪近日，英特尔的研究者提出新型深度神经网络压缩技术 DeepThin，适合移动端设备，性能优于其他压缩技术。论文：D

05

适合移动端的压缩神经网络压缩技术:DeppThin

英特尔的研究者提出新型深度神经网络压缩技术 DeepThin，适合移动端设备，性能优于其他压缩技术。

03

统计师的Python日记【第3天：Numpy你好】

本文是【统计师的Python日记】第3天的日记回顾一下，第1天学习了Python的基本页面、操作，以及几种主要的容器类型；第2天学习了python的函数、循环和条件、类。复习大纲：一、为什么学Python？二、安装与熟悉三、容器四、函数五、循环与条件六、类日记小结原文复习（点击查看）：第1天：谁来给我讲讲Python？第2天：再接着介绍一下Python呗今天将带来第三天的学习日记。细（tiāo）心（cì）的朋友会发现，第二天的日记写成日期是14年9月，也就是说“第2天”到“第3

FlattenQuant | 推动低比特量化技术突破，大幅提升大型语言模型的计算效率和部署性能！

大型语言模型（LLM）的卓越能力近年来产生了重大影响（OpenAI, 2023; Ge等人，2023; Zhao等人，2023）。各种LLM已经被发布并在现实世界的生产环境中得到应用（Eloundou等人，2023）。因此，对于LLM的部署有着广泛的需求。

01

Long-Context下LLM模型架构全面介绍

随着ChatGPT的快速发展，基于Transformer的大型语言模型(LLM)为人工通用智能(AGI)铺平了一条革命性的道路，并已应用于知识库、人机界面和动态代理等不同领域。然而，存在一个普遍的限制:当前许多LLM受资源限制，主要是在较短的文本上进行预训练，使它们对现实世界中常见的较长的上下文提示不太有效。本文对基于Transformer的LLM模型架构的进展进行了全面的介绍。

02

百度校园招聘数据挖掘工程师面试题集锦（2013）

一、简答题（30分） 1、简述数据库操作的步骤（10分）步骤：建立数据库连接、打开数据库连接、建立数据库命令、运行数据库命令、保存数据库命令、关闭数据库连接。经萍萍提醒，了解到应该把prepare

05

从基础量子位到当下火热的量子计算机，一文助你入门量子计算

1900 年，德国物理学家普朗克（Max Planck）提出量子概念，「量子论」就此宣告诞生。1981 年，著名物理学家费曼 Richard Feynman 提出了量子计算 / 量子计算机的概念，自此，量子力学进入了快速转化为真正的社会技术的进程，人类在量子计算应用发展的道路上行进的速度也越来越快。

02

谷歌联手DeepMind提出Performer：用新方式重新思考注意力机制

Transformer 模型在很多不同的领域都取得了SOTA，包括自然语言，对话，图像，甚至音乐。每个 Transformer 体系结构的核心模块是 Attention 模块，它为一个输入序列中的所有位置对计算相似度score。

02

华为提出QA-LoRA：让微调大型语言模型‘轻装上阵’

近些年，大型语言模型（LLMs）表现出了强大的语言理解能力。但是，想要将这些模型应用到不同的场景，并部署到边缘设备（例如手机）上，我们还面临一个重要的问题：这些模型通常参数众多，计算负担重，如何在不损失性能的情况下让它们变得“轻量”并适应不同需求呢？

03

GNN落地不再难，一文总结高效GNN和可扩展图表示学习最新进展

来源：机器之心本文约4200字，建议阅读8分钟剑桥大学在读博士生 Chaitanya K. Joshi 从数据准备、高效架构和学习范式三个方向综述了研究者们在克服这些问题时取得的进展。图神经网络在应用到现实世界时会面临很多挑战，比如内存限制、硬件限制、可靠性限制等。在这篇文章中，剑桥大学在读博士生 Chaitanya K. Joshi 从数据准备、高效架构和学习范式三个方向综述了研究者们在克服这些问题时取得的进展。用于高效和可扩展的图形表示学习的工具箱。本文旨在概述关于高效图神经网络和可扩展图表示学

02

深度学习系列笔记(三)

编码这些点的一种方式是用低维表示。对于每个点x^{(i)} \in R^n，会有一个对应的编码向量c^{(i)}\in R^l.如果l比n小，那么我们便使用了更小的内存来存储原来的数据。我们希望找到一个编码函数，根据输入返回编码，f(x)=c，我们也希望找到一个解码函数，给定编码重构输入x \approx g(f(x))。

03

GNN落地不再难，一文总结高效GNN和可扩展图表示学习最新进展

选自Github 作者：Chaitanya K. Joshi 机器之心编译机器之心编辑部图神经网络在应用到现实世界时会面临很多挑战，比如内存限制、硬件限制、可靠性限制等。在这篇文章中，剑桥大学在读博士生 Chaitanya K. Joshi 从数据准备、高效架构和学习范式三个方向综述了研究者们在克服这些问题时取得的进展。用于高效和可扩展的图形表示学习的工具箱。本文旨在概述关于高效图神经网络和可扩展图表示学习的关键思想，并将介绍数据准备、GNN 架构和学习范式方面的关键进展，这些最新进展让图神经网

02

观点 | 为什么 AI 芯片时代必然到来——从 TPU 开始的几十倍性能之旅

AI 科技评论按：ACM 通讯（ACM Communications）在线杂志近期刊登了一篇作者来自谷歌的文章，带领我们重新审视了近几十年的半导体发展历程，以及 AI 研究、应用人员们如今已经接受了的问题：专用处理器为什么好、为什么火起来。值得注意的是，这篇文章的作者之一正是谷歌 TPU 团队成员、UC 伯克利大学退休教授、2017 年图灵奖获得者 David Patterson。AI 科技评论全文编译如下。

02

全新近似注意力机制HyperAttention：对长上下文友好、LLM推理提速50%

Transformer 已经成功应用于自然语言处理、计算机视觉和时间序列预测等领域的各种学习任务。虽然取得了成功，但这些模型仍面临着严重的可扩展性限制，原因是对其注意力层的精确计算导致了二次（在序列长度上）运行时和内存复杂性。这对将 Transformer 模型扩展到更长的上下文长度带来了根本性的挑战。

05

Google && 耶鲁 | 提出HyperAttention，使ChatGLM2-32K 推理速度提升50%！

Transformer 已经成功应用于自然语言处理、计算机视觉和时间序列预测等领域的各种学习任务。虽然取得了成功，但这些模型仍面临着严重的可扩展性限制，原因是对其注意力层的精确计算导致了二次（在序列长度上）运行时和内存复杂性。这对将 Transformer 模型扩展到更长的上下文长度带来了根本性的挑战。

02

当前深度神经网络模型压缩和加速方法速览

导读：本文全面概述了深度神经网络的压缩方法，主要可分为参数修剪与共享、低秩分解、迁移/压缩卷积滤波器和知识精炼，本论文对每一类方法的性能、相关应用、优势和缺陷等进行独到的分析。机器之心简要介绍了该论文，更详细的内容请查看原论文。大型神经网络具有大量的层级与结点，因此考虑如何减少它们所需要的内存与计算量就显得极为重要，特别是对于在线学习和增量学习等实时应用。此外，近来智能可穿戴设备的流行也为研究员提供了在资源（内存、CPU、能耗和带宽等）有限的便携式设备上部署深度学习应用提供了机会。高效的深度学习方法可以

06

低功耗计算机视觉技术前沿，四大方向，追求更小、更快、更高效

深度学习在广泛应用于目标检测、分类等计算机视觉任务中。但这些应用往往需要很大的计算量和能耗。例如处理一张图片分类，VGG-16需要做 150亿次计算，而YOLOv3需要执行390亿次计算。

01

扫码

添加站长进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

运营活动

活动名称

广告关闭