年初一场关于深度学习局限性的讨论,“战火”一直蔓延到年尾。作为近年来最活跃的深度学习质疑者之一,纽约大学教授的GaryMarcus曾宣称以Yannlecun、YoshuaBengio为首的AI界大牛“神化”了深度学习,并公开表示只有深度学习是行不通的。
AI大牛Bengio回应纽约大学教授质疑!期待人工智能保护地球丨专访
图丨YoshuaBengio(来源:DT君)“我们目前的工作中的确展现出了深度学习的局限性。但事实上,这些局限性并不是新的限制。几十年前,我们在图像数据上训练机器时,就知道它们不会理解世界的全部复杂性,只会理解它们接受过训练的某些特定内容。Gary一直在说的事情,包括提出一些关于符号的先验知识等,我同意我们需要这样做,但我不认为这是什么新的说辞。
图丨GaryMarcus10月29日发表的文章(来源:Medium)GaryMarcus年初的文章中提到的深度学习局限性包括需要更多的数据、不能处理层级结构、无法进行开放式推理、不够透明、不能与先验知识集成、不能区分因果关系和相关关系等。他还提到,深度学习工程化很困难,并且存在着过度炒作的潜在风险。
图丨YoshuaBengio,蒙特利尔大学计算机科学与运筹学系教授,也是深度学习的元老,与YannLeCun、GeoffreyHinton并称为“深度学习三巨头”。他的诸多科研积累,包括深度学习架构、循环神经网络(RNN)、对抗算法、表征学习,影响和启发了后来的大量研究者,将深度学习应用到自然语言处理、计算机视觉等人工智能的各个主要领域,对近年来深度学习的崛起和发展起到了巨大的推动作用。
图丨GaryMarcus最新文章中对深度学习的预测(来源:Medium)问:纽约大学教授GaryMarcus最近又发布了一篇文章,称您的团队确认了深度学习的局限性,您和他关于深度学习的看法是相同的,您同意GaryMarcus的最新说法吗?答:我们目前的工作中的确展现出了深度学习的局限性。但事实上,这些局限性并不是新的限制。
(来源:DT君)问:目前深度学习技术已经已经有了各种各样的具体应用,您最近有没有特别关注哪个方向?答:未来还会有更多不同的应用出现,我希望看到能够将人工智能技术应用于保护地球。比如与生命相关的应用或者环境保护相关的应用。因为我觉得我们现在真的有很大麻烦,比如气候变化等。比如说,我由衷地希望研究人员们能考虑研究卫星图像识别,而不是简单地研究识别小猫小狗的图像。
图丨谷歌团队的ThangLuong认为,BERT模型开启了NLP的新时代(来源:Twitter)问:谷歌最近推出了一个新的NLP模型BERT,根据论文,其在数十项测试中都有非常好的表现,您如何评估这个模型的价值?答:BERT让人印象深刻。但是我感觉它有点类似基于神经网络的谷歌翻译,我们之前在大学里也使用过类似代码,那时还很一般,但经过大量的工程和数据训练,谷歌已经将其提升了很多。
图丨Bengio在微软亚洲研究会主办的国际学术研讨会暨微软教育峰会上进行演讲(来源:DT君)问:近期您有在寻找某些特定的NLP创新方向吗?答:就创新而言,联系到自然语言领域,我认为我们需要创建一个能真正听懂人类语言的系统。例如,当我说小猫时,它不仅仅是一个抽象的概念,我脑海会有猫的图像,我能想起猫跳到腿上后的感觉。所有这些感受是不容易用语言形容的。
领取专属 10元无门槛券
私享最新 技术干货