磐创AI 整理编辑
作者:磐石
版权声明:本文是由磐创AI技术团队整理发行,如需文章转载请留言申请。
【磐创AI导读】:前一篇文章中我们介绍了一些机器学习不错的项目合集,本篇文章将针对深度学习资源进行一下汇总。喜欢我们文章的小伙伴,欢迎大家点击上方蓝字关注我们的公众号:磐创AI。另外您对我们的文章有任何的意见或是文章中的不足之处,欢迎在文末留言。
· 介绍
· 教程
· 视频
· 数据集
· 项目
· 论文
介绍:
作为传统机器学习重要的一个分支,与机器学习算法相比,深度学习算法最大的特点是至少含有一个隐藏层的神经网络(NN)。此外,深度学习的分层处理的思想也大大提高了模型的泛化能力。深度学习发展到今天,大致分为以下一些比较流行的网络结构:深度神经网络(DNN)、卷积神经网络(CNN)、循环神经网络(RNN)、生成对抗网络(GAN)等。应用最广的几个研究领域分别是自然语言处理、语音识别和图像处理。出现了Tensorflow、Keras、Caffe、Torch等技术框架。深度学习近年来发展迅猛,在国内外都引起了广泛的关注,也吸引了越来越多的人投身于深度学习领域的研究。今天小编有幸为大家介绍一些我自认为不错的深度学习资源,希望帮助热爱深度学习的小伙伴能够走的更远。
教程:
Topal的深度学习教程,从感知机到深度神经网络:http://www.toptal.com/machine-learning/an-introduction-to-deep-learning-from-perceptrons-to-deep-networks
UFLDL教程:主要介绍了介绍无监督特征学习和深度学习的主要思想:http://deeplearning.stanford.edu/wiki/index.php/UFLDL_Tutorial
基于python语言的深度学习教程:https://www.manning.com/books/deep-learning-with-python
如果对深度学习有一定基础的小伙伴,推荐一套Nando de Freitas教授的高阶教程,深度学习的部分是从第七课开始:http://www.cs.ox.ac.uk/teaching/courses/2014-2015/ml/
Tensorflow深度学习教程:https://github.com/nlintz/TensorFlow-Tutorials(更多Tensorflow学习的资源请参见这篇文章:【干货】史上最全的Tensorflow学习资源汇总
Torch深度学习教程:
https://github.com/clementfarabet/ipam-tutorials/tree/master/th_tutorials
计算机视觉深度学习教程:https://sites.google.com/site/deeplearningcvpr2014/
自然语言处理深度学习教程:http://www.socher.org/index.php/DeepLearningTutorial/DeepLearningTutorial
视频资源:
最经典也是认可度最高的coursera上深度学习的视频教程:https://www.coursera.org/learn/neural-networks
CS231N中用于视觉研究的卷积神经网络课程:http://cs231n.stanford.edu/
牛津大学深度学习视频教程:https://www.cs.ox.ac.uk/people/nando.defreitas/machinelearning/
Nando de Freitas教授深度学习课程的视频地址:https://www.youtube.com/playlist?list=PLE6Wd9FR--EfW8dtjAuPoTuPcqmOV53Fu&app=desktop
以上课程是针对英文比较好的小伙伴,另外国内也有一些质量比较高的深度学习视频资源如下:
中国台湾国立大学李宏毅教授开设的深度学习视频; https://www.bilibili.com/video/av15889450/
吴恩达教授在网易公开课上的深度学习视频教程:https://mooc.study.163.com/smartSpec/detail/1001319001.htm
两个不错的Tensorflow中文视频资源:https://www.youtube.com/watch?v=eAtGqz8ytOI&list=PLjSwXXbVlK6IHzhLOMpwHHLjYmINRstrk,https://www.youtube.com/watch?v=TrWqRMJZU8A&list=PLwY2GJhAPWRcZxxVFpNhhfivuW0kX15yG&index=2
国内人工智能教育平台七月在线的深度学习视频公开课,可作为小白学习的最佳入门课程:http://www.julyedu.com/video/play/42
公开数据集:
没有数据集怎么能学好深度学习?话不多说,直接上干货!!!
最经典的MNIST手写数据集:http://yann.lecun.com/exdb/mnist/
谷歌街景房屋号码(SVHN)数据集:http://ufldl.stanford.edu/housenumbers/
VQA:VQA是一个包含有关图像开放式问题的数据集:http://www.visualqa.org/
来自于雅虎的充满创意的Flickr图像数据集:https://yahooresearch.tumblr.com/post/89783581601/one-hundred-million-creative-commons-flickr-images
ImageNet数据集:http://www.image-net.org/
Flickr 30k数据集:从图像描述到视觉指示,针对事件描述进行语义推断相似性:
http://shannon.cs.illinois.edu/DenotationGraph/
COCO-QA,一个探索图像问题答案的数据集:http://www.cs.toronto.edu/~mren/imageqa/data/cocoqa/
FVC2000指纹数据库(FVC2000是第一次指纹验证算法国际竞赛):http://bias.csr.unibo.it/fvc2000/
更多的开源数据集,大家可以关注github上这个网址:https://github.com/search?o=desc&q=dataset&s=stars&type=Repositories
项目:
使用循环神经网络搭建的一个音乐系统项目:http://www.hexahedria.com/2015/08/03/composing-music-with-recurrent-neural-networks/
一个有趣的神经网络标题生成器项目:
https://github.com/jazzsaxmafia/show_attend_and_tell.tensorflow
Github上的一个游戏项目:打Atari乒乓球:https://github.com/tensorlayer/tensorlayer/blob/master/example/tutorial_atari_pong.py
使用 DeepMind的WaveNet的语言识别项目:https://github.com/buriburisuri/speech-to-text-wavenet
利用机器翻译实现莎士比亚与现代英语间的翻译:https://github.com/tokestermw/tensorflow-shakespeare
Fomoro高速公路网络培训初级项目:https://github.com/fomorians/highway-cnn
使用生成对抗网络使图像的分辨率更逼真:https://github.com/tensorlayer/srgan
论文: 深度学习发展至今,积累了很多的文献,小编这里为大家推荐一个github地址:https://github.com/terryum/awesome-deep-learning-papers这里涵盖了近几年引用频率比较高的,自然语言处理类、图像视频类、无监督、强化学习等领域100多篇文献。大家根据自己的科研方向选择性阅读。