首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

【深度学习】Github上的十大深度学习项目

开源工具在数据科学工作流中起到了愈发重要的作用。Github十大深度学习项目,其中包含了大量的代码库,框架以及学习资料。看看Github上的人们都在使用哪些工具,都在从哪些资源那里进行学习。...需要注意的是,大部分人认为属于深度学习的一些重要项目并没有出现在该名单上,原因在于在Github搜索「深度学习」时并没有涉及到这些项目。 1. Caffe ?...由伯克利大学的伯克利视觉与学习中心创办,如果人们仅把Caffe当做计算机视觉应用是情有可原的;事实上,这是一个通用的深度学习程序库,能够开发卷积网络,并创建其他视觉、语音等应用。 2....Keras Keras也是一种Python深度学习程序库,但它利用了TensorFlow和Theano,这也意味着它可以在目前已知最受欢迎的2个深度学习研发库中的任一个上运行。...这张列表根据通过主题进行组织,包括了许多与深度学习有关的类别,包括计算机视觉,加强学习以及各种架构。由于内容广泛,几个月来,已经在社交媒体上小有名气,你也可以 点击此处 做些贡献。 9.

1.4K71

【深度学习】深度学习中的知识蒸馏技术(上)简介

深度学习在计算机视觉、语音识别、自然语言处理等内的众多领域中均取得了令人难以置信的性能。但是,大多数模型在计算上过于昂贵,无法在移动端或嵌入式设备上运行。...我们可以把一个大而深的网络蒸馏到一个小的网络,也可以把集成的网络蒸馏到一个小的网络上。...,Teacher学习能力强,可以将它学到的知识迁移给学习能力相对弱的Student模型,以此来增强Student模型的泛化能力。...指Student的在温度等于 的条件下softmax输出在第 类上的值。...到目前为止,知识蒸馏技术已经考虑了Student网络与Teacher网络有相同或更小的参数。这里有一个洞察点是,深度是特征学习的基本层面,到目前为止尚未考虑到Student网络的深度。

5K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    深度学习模型在FPGA上的部署

    今天给大家介绍一下FPGA上部署深度学习的算法模型的方法以及平台。希望通过介绍,算法工程师在FPGA的落地上能“稍微”缓和一些,小白不再那么迷茫。...阿chai最近在肝一个开源的项目,等忙完了会给大家出几期FPGA上从零部署的教程,包括一些底层的开发、模型的量化推理等等,因为涉及的东西太多了,所以得分开写 ? 。 ?...FPGA与“迷宫” 深度学习这里就不多介绍了,我们接下来介绍一下FPGA是什么。FPGA是现场可编程逻辑门阵列,灵活性非常高,现场编程真的香。...FPGA上跑BNN(二值神经网络)是非常不错的,“PYNQ-Z1不同的机器学习数据集(dataset)的测试结果显示:对于MNIST数据集PYNQ-Z1能实现每秒168000张图片的分类,延迟102微妙...其实部署的思路小伙伴们应该有一些眉目了,就是将自己训练的深度学习模型转换成Paddle Lite模型,然后移植到EdgeBoard开发板上进行测试。接下来我们简单看看是怎样操作的。

    6.6K31

    深度学习在推荐系统上的应用

    或许深度学习在推荐系统里面没有像图像处理算法那样一枝独秀,但是深度学习对于推荐系统的帮助确实起到了,推波助澜的功效。下面我们可以来看一下推荐系统使用深度学习的原因。...深度推荐系统 实际上深度学习在自然语言处理,图像处理,图像识别等领域迅猛发展的近4年来,深度学习在其他领域,例如强化学习,推荐系统也得到快速的发展。...而矩阵分解实际上就是学习user & item的embedding向量。 学习相似特征 我们可以通过深度学习去矩阵分解算法中相类似的特征向量。...不过我们也可以像Content2Vec或者meta-prod2vec那样组合更多的特征进行处理,在这里以后再也不要说深度学习不需要特征工程时间了,深度学习的表征能力很好,但是工程师们仍然需要耗费大量的时间在选择特征这一件事情上...通过对用户观看的视频,搜索的关键字做embedding,然后在串联上用户的side information等信息,作为DNN的输入,利用一个多层的DNN学习出用户的隐向量,然后在其上面加上一层softmax

    1.7K90

    深度学习在推荐系统上的应用

    或许深度学习在推荐系统里面没有像图像处理算法那样一枝独秀,但是深度学习对于推荐系统的帮助确实起到了,推波助澜的功效。下面我们可以来看一下推荐系统使用深度学习的原因。...深度推荐系统 实际上深度学习在自然语言处理,图像处理,图像识别等领域迅猛发展的近4年来,深度学习在其他领域,例如强化学习,推荐系统也得到快速的发展。...而矩阵分解实际上就是学习user & item的embedding向量。 学习相似特征 我们可以通过深度学习去矩阵分解算法中相类似的特征向量。...不过我们也可以像Content2Vec或者meta-prod2vec那样组合更多的特征进行处理,在这里以后再也不要说深度学习不需要特征工程时间了,深度学习的表征能力很好,但是工程师们仍然需要耗费大量的时间在选择特征这一件事情上...通过对用户观看的视频,搜索的关键字做embedding,然后在串联上用户的side information等信息,作为DNN的输入,利用一个多层的DNN学习出用户的隐向量,然后在其上面加上一层softmax

    1.2K50

    基于深度学习的图像目标检测(上)

    有了美丽的封面, 写的兴致又来了。 我们在“深度学习名校课程大全”里面介绍了深度学习的课程。 在“人工智能深度学习人物关系[全]”里面介绍了部分深度学习的人物。...这里简要概述下下部分图像目标检测深度学习模型。 前言 有一些图像分割的背景知识也很有意思,简单列下, 概述下来,主要是五大任务, 六大数据集, 七大牛人组,一个效果评估。 五大图像处理任务 1....CNN结构上从AlexNet过渡到ResNet, 中间也受到Overfeat和SPPNet的影响深远!...Log 损失和Smooth L1的损失下的FCN、RoI Pooling、ConvNet三层联动调参数成熟, 并且带来效果上的提升。 4....这种机制, 某种意义上是带了先验的Attention机制。

    1.8K90

    深度强化学习综述(上)

    在这篇文章中,SIGAI将对深度强化学习的算法与应用进行总结。整个综述分为上下两篇,本篇介绍强化学习的基本原理,深度强化学习的基本思想,以及基于价值函数的深度强化学习算法。...下篇介绍基于策略的深度强化学习算法,基于搜索与监督的深度强化学习算法,以及深度强化学习算法的应用情况与未来的方向。 什么是强化学习 强化学习[1]是一类特殊的机器学习算法,借鉴于行为主义心理学。...基于价值函数的算法 基于价值函数的深度强化学习的典型代表是DQN(深度Q网络),由DeepMind公司在2013年提出,2015年其改进型发表在Nature上。...网络的输入为原始场景数据,如游戏的画面图像,输出为在这种场景下执行各种动作时所能得到的Q函数的极大值。 文献[11]第一次提出了DQN算法,是深度强化学习真正意义上的开山之作。...在绝大部分游戏上,DQN超过了之前最好的算法,在部分游戏上,甚至超过了人类玩家的水平。 DQN实现了端到端学习,无需人工提取状态和特征,整合了深度学习与强化学习,深度学习用于感知任务。

    1.2K30

    深度学习基础知识 | 上

    1.深度学习基础知识介绍 本章会介绍各自常用的网络结构,以及模型训练过程中常用的方法。...1.6深度学习与传统模型融合 深度学习与传统模型融合,例如:利用wide&deep就是MLP结合LR的模型,根据模型的训练方式融合模型可以分为松耦合模型和紧耦合模型。...1.7深度学习常见的损失函数 常用的损失损失函数有两种:交叉熵损失函数、均方差损失函数 (1)交叉熵损失函数: ? (2)均方差损失函数: ?...是参数的数量, ? 是一个很小的值,可以取 ? 。 2.深度学习推荐算法的介绍 在本章中,我们挑选了一些业界有影响力会议、期刊的深度学习推荐算法进行介绍。 2.1 FM模型 论文见参考资料:FM。...深度学习f(x)的结构如下: ? 其中embedding层: ? ? 是需要学习的模型参数,Bi层是两两embedding向量交叉,然后求和,公式如下,Bi层后面就是MLP网络。 ?

    66340

    技术角 | 深度学习之《深度学习入门》学习笔记(四)神经网络的学习(上)

    本文字数:4150字 阅读时间:8分钟 最近学习吴恩达《Machine Learning》课程以及《深度学习入门:基于Python的理论与实现》书,一些东西总结了下。现就后者学习进行笔记总结。...本文是本书的学习笔记(四)神经网络的学习的上半部分。 目录 ▪从数据中学习 ▪损失函数 ▪数值微分 本章标题所说的“学习”是指从训练数据中自动获取最优权重参数的过程。...神经网络或深度学习则比以往的机器学习方法更能避免人为介入。 例如手写数字识别,考虑通过有效利用数据来解决这个问题:先从图像中提取特征量,再用机器学习技术学习这些特征量的模式。...但是,将图像转换为向量时使用的特征量仍是由人来设计的。即使使用特征量和机器学习的方法,也需要针对不同的问题人工考虑合适的特征量。 深度学习有时也称为端到端机器学习。...因为如果以识别精度为指标,则参数的导数在绝大多数地方都会变成0。 可以说,识别精度对微小的参数变化基本上没有什么反应,即便有反应,它的值也是不连续地、突然地变化。作为激活函数的阶跃函数也有同样的情况。

    87230

    Linux上跑深度学习实验

    这里说一下上传代码的几种方式: 通过服务器租赁平台上传。一般来说会提供这样的功能,不过就腾讯云来说,上传的文件大小有限制,大文件用起来很不方便。 将git仓库作为媒介。...只需要先创建一个远程仓库,然后将本地代码和数据集push到仓库,然后在服务器上安装一个git,直接用pull拉取代码即可,我觉得用起来很方便,而且自带版本冲突提示,比较方便,但是仍然存在文件大小限制问题...,可以配置git,具体限制是多少我还没进一步学习。...专业版,可能用起来比较方便,而且还有手机端实时查看代码运行状态,如果有兴趣可以学习一下。...以上便是我在使用Linux服务器跑深度学习代码遇到的一些问题即解决办法,希望能帮到大家,如果对你有帮助,不妨点赞评论关注!感谢阅读!

    48720

    深度学习算法简要综述(上)

    简介 自从 2012 年在一个图像识别比赛上,一个神经网络的性能超过人类后,深度学习就火了起来,但当时只有少数人会预料到接下来会发生什么。...在阅读完本文后,相信你一定能知道这些算法的定义以及如何使用。 目录 本文目录如下: 深度学习是什么?...,下一篇则介绍剩余的几种网络模型、计算机视觉以及自然语言处理在深度学习方面的应用。...深度学习是什么?...根据维基百科的定义[1]: 深度学习(也称为深度结构化学习或者微分编程)是机器学习算法这个大家庭的一个成员,它是基于人工神经网络和表示学习,并且它的学习可以是有监督的、半监督或者无监督。

    84030

    机器学习和深度学习概念入门(上)

    目 录 1人工智能、机器学习、深度学习三者关系 2什么是人工智能 3什么是机器学习 4机器学习之监督学习 5机器学习之非监督学习 6机器学习之半监督学习 7机器学习之强化学习 8什么是深度学习 9总结...阅读时间 10min - 20min 1 人工智能、机器学习、深度学习三者关系 对于很多初入学习人工智能的学习者来说,对人工智能、机器学习、深度学习的概念和区别还不是很了解,有可能你每天都能听到这个概念...先看下三者的关系。 人工智能包括了机器学习,机器学习包括了深度学习,他们是子类和父类的关系。 下面这张图则更加细分。...人工智能是对人的意识、思维的信息过程的模拟。人工智能不是人的智能,但能像人那样思考、也可能超过人的智能。数学常被认为是多种学科的基础科学,数学也进入语言、思维领域,人工智能学科也必须借用数学工具。...研究范畴包括自然语言处理,知识表现,智能搜索,推理,规划,机器学习,知识获取,组合调度问题,感知问题,模式识别,逻辑程序设计软计算,不精确和不确定的管理,人工生命,神经网络,复杂系统,遗传算法等。

    78181

    Hadoop 2.0 上深度学习的解决方案

    在通用的分布式计算环境中运行机器学习算法具有一系列的挑战。 这里,我们探讨一下如何在一个Hadoop集群中实现和部署深度学习(一个尖端机器学习框架)。...基础构造 深度学习受到了广泛的关注,不仅仅是因为它可以得出比其他一些学习算法更优异的结果,也因为它可以在分布式设备上运行,允许处理大规模的数据集。...然而,由于深度学习本质上是迭代的,像MapReduce这样的范式不适合运行这些算法。但是随着Hadoop2.0和基于YARN的资源管理的问世,我们可以编写迭代程序,同时可以精细地控制程序使用的资源。...我们对实现做出了重大改革,可以将它利用到我们的深度学习算法实现。...此外,迭代降低抽象可以被利用来分布任何其它合适的机器学习算法,能够利用通用的Hadoop集群将会被证明非常有利于在大数据集上运行大型机器学习算法。

    33130

    深度学习应用:iOS 上的图像风格迁移

    如果你是用 iOS 系统,你一定听说过 Prisma,它赢得了 2016 年度最佳应用程序,就是这样,它在短短几秒钟内,可以将你的图片转换成你所选择的任何风格。...Android版的见 tensorflow 官方提供的例子:https://github.com/tensorflow/tensorflow/tree/master/tensorflow/examples.../android/ TF Stylize 首先需要用 Tensorflow 训练好模型,之后可以用 Apple 官方提供的转换工具 coremltools 导出成 iOS 11 支持的 CoreML 格式...具体实现细节可以参考我改的代码 https://github.com/iOSDevLog/StyleArts 或者 GitHub 上面其它的实现。...StyleArts.PNG 移动端虽然不适合训练机器学习模型,不过可以围魏救赵,通过导出 PC 上面训练好的模型也可以体验人工智能带来的便利。

    1.1K30

    Hadoop 2.0 上深度学习的解决方案

    在通用的分布式计算环境中运行机器学习算法具有一系列的挑战。 这里,我们探讨一下如何在一个Hadoop集群中实现和部署深度学习(一个尖端机器学习框架)。...基础构造 深度学习受到了广泛的关注,不仅仅是因为它可以得出比其他一些学习算法更优异的结果,也因为它可以在分布式设备上运行,允许处理大规模的数据集。...然而,由于深度学习本质上是迭代的,像MapReduce这样的范式不适合运行这些算法。但是随着Hadoop2.0和基于YARN的资源管理的问世,我们可以编写迭代程序,同时可以精细地控制程序使用的资源。...我们对实现做出了重大改革,可以将它利用到我们的深度学习算法实现。...此外,迭代降低抽象可以被利用来分布任何其它合适的机器学习算法,能够利用通用的Hadoop集群将会被证明非常有利于在大数据集上运行大型机器学习算法。

    1.2K80

    深度学习-LeCun、Bengio和Hinton的联合综述(上)

    本文为该综述文章中文译文的上半部分,深入浅出地介绍了深度学习的基本原理和核心优势。 原文摘要:深度学习可以让那些拥有多个处理层的计算模型来学习具有多层次抽象的数据的表示。...特征表示学习是一套给机器灌入原始数据,然后能自动发现需要进行检测和分类的表达的方法。深度学习就是一种特征学习方法,把原始数据通过一些简单的但是非线性的模型转变成为更高层次的,更加抽象的表达。...比如,一副图像的原始格式是一个像素数组,那么在第一层上的学习特征表达通常指的是在图像的特定位置和方向上有没有边的存在。...深度学习的核心方面是,上述各层的特征都不是利用人工工程来设计的,而是使用一种通用的学习过程从数据中学到的。 深度学习正在取得重大进展,解决了人工智能界的尽最大努力很多年仍没有进展的问题。...我们认为,在不久的将来,深度学习将会取得更多的成功,因为它需要很少的手工工程,它可以很容易受益于可用计算能力和数据量的增加。目前正在为深度神经网络开发的新的学习算法和架构只会加速这一进程。

    57520

    机器学习与深度学习习题集(上)

    本文是SIGAI公众号文章作者编写的机器学习和深度学习习题集(上),是《机器学习-原理、算法与应用》一书的配套产品。此习题集课用于高校的机器学习与深度学习教学,以及在职人员面试准备时使用。...40.解释蒙特卡洛算法的原理。为什么蒙特卡洛算法能够收敛? 41.解释熵概念。 第3章 基本概念 1.名词解释:有监督学习,无监督学习,半监督学习。 2.列举常见的有监督学习算法。...3.列举常见的无监督学习算法。 4.简述强化学习的原理。 5.什么是生成模型?什么是判别模型? 6.概率模型一定是生成模型吗? 7.不定项选择。下面那些算法是生成模型?...15.PCA是有监督学习还是无监督学习? 第8章 线性判别分析 1.解释LDA的原理。 2.推导多类和高维时LDA的投影矩阵计算公式。 3.解释LDA降维算法的流程。 4.解释LDA重构算法的流程。...3.证明强分类器在训练样本集上的错误率上界是每一轮调整样本权重时权重归一化因子的乘积,即下面的不等式成立: ? 4.证明下面的不等式成立: ? 5.简述广义加法模型的原理。

    2.7K22

    深度学习不只是“Import Tensorflow”(上)

    但更重要的是,当你“使用深度学习”时,你要理解工作中的算法。...那么深度学习是如何起作用的呢? 不是作为一种灵活的方式来导入库,而是作为一个数学概念? 好了,系好安全带,兄弟,我们要潜下去了。...杰弗里·辛顿,被誉为“深度学习的教父”。图片来源于多伦多生活。 深度学习是人工智能的一个子集,它使用的算法模仿人类大脑,称为神经网络。...神经网络的基本结构 本质上,神经网络学习输入变量和输出变量之间的关系。给定一组x和y的足够数据,神经网络学习准确地从x映射到y。 神经网络由相互连接的处理单元层组成。...一般来说,学生花在学习上的时间越长,他们在考试中取得高分的可能性就越大。线性回归试图做的是通过在散点图上画一条最合适的直线来模拟这种线性关系,我们称之为线性模型。

    42020

    深度学习的深度学习路程

    MyEncyclopedia 公众号主浙大本硕毕业后在BAT做资深工程开发,精通Java,算法和大数据开发,本可以靠着工程能力成为P9,但出于对AI的强烈兴趣,在业余时间,自学多年,从理论到实践,并最终转行到知名公司任资深机器学习岗...MyEncyclopedia 公众号提炼自己在AI多个领域的学习心得体会:深度学习,强化学习,统计机器学习,算法与工程实现。同时,用上述多个视角来全面看待问题,坚持从第一性原理出发理解推导。...凭借着强大的编程能力,公众号还大量使用动画模拟和代码例子的来阐述深奥的概念。...目前,MyEncyclopedia 系列文章包括 深度学习论文解析 深度强化学习实践和理论 基础统计和统计机器学习 多维度思考算法题 动手学 Sutton 强化学习教程 将来,会逐渐完善已有系列并涉及...GNN,NLP,CV,KG,RL 方向的前沿论文和动手实践,并致力于寻求联系 深入数学理论,进一步用动画来可视化,建立直觉的联系 创意编程,用深度学习,强化学习实践cool idea 如果你也想更广更深的学习深度学习和算法的话

    1.2K10
    领券