香港正版四不象图
您当前的位置:主页 > 香港正版四不象图 >

“深度学习已死可微编程万岁!”LeCun老师为何又语出惊人?

发布日期:2019-08-05 08:46   来源:未知   阅读:

  这句英法混合的话,翻译成汉语,就是“深度学习已死,可微分编程万岁”。说这话的,正是深度学习三巨头之一:Yann LeCun。

  无论是上个月Ali Rahimi的“炼金术说”,还是前些天Gary Marcus对深度学习的质疑,LeCun老师都挺身而出强硬回怼,今天何出此言?

  嗯……LeCun在Facebook上的文章里,宣称深度学习已死之前还有一句,说“深度学习作为一个流行词活得太久了,已经没什么用了。”

  LeCun承认,“可微分编程”只不过是对现代深度学习技术体系的重新命名,和当年给神经网络里有两个以上隐藏层的变体起名叫“深度学习”差不多。

  但是重点是,人们现在正通过组装参数化功能模块网络,并用某种基于梯度的优化方法训练它们,来构建一类新软件。

  越来越多的人正在以一种依赖于数据的方式(用循环和条件)来程序化地定义网络,让它们随着输入数据的动态变化而变化。除了参数化、自动微分和可训练/可优化的特性之外,这非常像一个普通程序。

  动态网络已经变得越来越流行(尤其是对于NLP来说),这要归功于PyTorch和Chainer等深度学习框架(注意:以前的深度学习框架Lush,可以处理一种名叫Graph Transformer Networks的特殊动态网络,用于文本识别)。

  现在,人们正在积极研究命令式可微分编程语言的编译器,对开发基于学习的AI来说,这是一种非常激动人心的途径。949494.com

  除了认为深度学习应该改名叫可微分编程之外,LeCun还说他决定将自己最近特别推崇的“预测性学习”,改名叫做“Imputative Learning”,我们暂时叫“归责学习”好了。

  对于LeCun的新想法,国外论坛上不少人都嫌弃这个新名字太长太难叫,不过也有人说“编程”的确比“学习”贴切。

  此外,量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募,面向正在从事相关领域的工程师及研究人员。

  进群请加小助手微信号qbitbot5,并务必备注相应群的关键词~通过审核后我们将邀请进群。(专业群审核较严,敬请谅解)

  量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复“招聘”两个字。

  深度学习Keras之父、谷歌大脑人工智能和深度学习研究员FrançoisChollet撰写了一本深度学Python教程实战书籍《Python深度学习》,书中介绍了深度学习使用Python语言和强大Ke...博文来自:人工智能爱好者俱乐部

  转自原文如下:在刚开始学习使用TF的过程中,我不是很理解什么...博文来自:lwq1026的博客

  编者按:深度学习自诞生之日起,即面临着黑盒智能、可解释性差等质疑, 发展至今,不可否认地带来了一波人工智能的发展热潮,然而正面临研究热情渐褪、算法红利逐渐消失等问题,整个......博文来自:深度学习大讲堂

  李根发自凹非寺 量子位报道公众号QbitAI在刚刚结束的全球合作伙伴大会上,腾讯第一次把AI喊得响亮。“MakeAIEverywhere!”腾讯上上下下都在这样说。不过,不止于说AI,腾讯也确确实实...博文来自:量子位

  小博极其喜欢这位人工智能领域大牛,非常膜拜,早在他出机器学习的课程的时候,就对机器学习产生了浓厚的兴趣,最近他又推出深度学习的课程,实在是又大火了一把,小博怎能不关注呢,我也跟随着吴恩达老师慢慢敲开深...博文来自:xiao__run的博客

  来源于公众号:大数据与多模态计算.1.问题背景图像文本匹配,顾名思义,就是度量一幅图像和一段文本的相似性,该技术是多个模式识别任务的核心算法。例如,在图像文本跨模态检索任务中,当给定查询文本,需要依据...博文来自:素质云笔记/Recorder...

  第一天:采用一个单层的lstm,输入是embedding的向量。输出接sigmoid二分类训练结果有一次训练5epoch就达到了百分之98,其他的即使经过100+epoch也无法达到目标结果查找原因:...博文来自:的博客

  本文由云+社区发表导语问答系统是信息检索的一种高级形式,能够更加准确地理解用户用自然语言提出的问题,并通过检索语料库、知识图谱或问答知识库返回简洁、准确的匹配答案。相较于搜索引擎,问答系统能更好地理...博文来自:weixin_33778778的博客

  LeCun又语出惊人了,这次直指深度学习——好,深度学习作为一个流行词,现在时效已过。深度学习已死,可微分编程万岁!事情要回溯到前天。1月4日,AAAI前主席ThomasDietterich连发10条...博文来自:weixin_40581617的博客

  本文作者介绍了梯度下降算法,通过可微编程实现寻找一种最佳的图像抖动模式,详细介绍了其中的五个步骤,并通过结果展示了图像效果。读懂本文,需要有一定的高等数学知识。...博文来自:CSDN研发技术

  线性代数如何理解一些基本概念学习笔记用来记录自己反反复复学习到感觉能理解走过的一些路,希望对一些和我一样理解线性代数困难的同学有帮助。1.第一步:看完《deeplearning》里面不懂的名词用百度等...博文来自:AI来炒股

  这两天花点时间看了发表在《Nature》上的MasteringtheGameofGowithoutHumanKnowledge这篇文章,文章号称可以无人类先验知识,仅使用围棋的自身规则进行学习、自助调...博文来自:zzyy0929的博客

  《王者荣耀》能够成为如今国内最成功的手游,其后方成熟的技术团队可以说是功不可没。这个曾经在端游时代主导搭建RTS游戏《霸三国》框架的技术团队,在转型做MOBA手游《王者荣耀》后为游戏提供了巨大的支持。...博文来自:D_Guco的专栏

  深度学习八大开源框架导读:深度学习(DeepLearning)是机器学习中一种基于对数...博文来自:isuker的博客

  图片来源:多个小时前,深度学习大神YannLeCun语出惊人,他宣布放弃“深度学习”这个词。因为媒体对这个词的炒作言过其实,混淆了大家真正的工作,而“可微分编程”才是对此更好的描述...博文来自:AI科技大本营

  这篇只是怀旧,跟技术没什么关系。《万岁,高三2班》是我初中时看过的一部电视连续剧,相信不少老家伙都看过,挺不错的,片头尾的歌曲很好听,至今仍隐约记得一些片段:——转眼间我们都长大成人,我们走进花季的缤...博文来自:huzgd的专栏

  首先确定relu数学上来讲不可微的,提供伪梯度使其可分,fauxgradient是伪梯度,使得在0值不可分;这里讲到了本质,反馈神经网络正常工作需要的条件就是每一个点提供一个方向,即导数;0值不可微,...博文来自:ningyanggege的博客

  写在前面最近LeCun在他的Facebook主页发文,称“深度学习已死,可微分编程万岁!”,所以结合自己的一些理解,写一点自己的想法,对与不对,皆不负责哈。深度学习的本质深度学习本质上是一种新的编程方...博文来自:weixin_33955681的博客

  最近炼丹,网络往往什么都学不到==,不仅怀疑,看到一份英文的炼丹指南,记录一些心得。英文链接:37ReasonswhyyourNeuralNetworkisnotworking紧急手段 使用已知适用于...博文来自:weixin_38682454的博客

  AI公开课:19.03.06何晓冬博士《自然语言与多模态交互前沿技术》课堂笔记以及个人感悟目录演讲内容(部分)现场图片PPT内容多模态智能​​​​​理解语言人机对话—情感​​​​AI产业化的方向​​​...博文来自:一个处女座的程序猿

  CTC推断计算(续)上图是一个BeamWidth为3的BeamSearch。BeamSearch的细节可参见《机器学习(二十三)》。由于语音的特殊性,我们实际上用的是BeamSearch的一个变种:如...博文来自:antkillerfarm的专栏

  作者:MaxPechyonkin翻译:和中华校对:丁楠雅本文约2900字,建议阅读10分钟。本文将介绍3个非视觉领域的应用实例。导读众所周知,目前深度学习在计算机视觉领......博文来自:数据派THU

  目前,深度学习是一个非常成功的工具。但这个工具是我们偶然发现的,作为一个领域,还没有统一的看法或共同的理解。事实上,这个领域还存在几种相互竞争的表述!我认为在30年后回过头看,我们将看到很不一样的深度...博文来自:weixin_40581617的博客

  近日,一肖一码期期大公开,AdamBouhenguel在GitHub上发布了一种基于TensorFlow的新型编程语言Tensorlang,适用于更快、更强大和更易用的大规模计算网络(如深度神经网络)。本文介绍了Tens...博文来自:机器之心

  可微分编程;DifferentiableProgramming  lecun说深度学习已死,可微分编程万岁!,即深度学习这个词已死,该有新的名词可微分编程来替代它了。  深度学...博文来自:wydbyxr的博客

  近期,很多网盘突然宣布要停止免费用户的服务了。我们熟知的115网盘、新浪微盘、金山快盘等都相继倒下了。这对于很多朋友来说无疑是一个噩耗,想想自己那几十个G甚至是好几个T的文件资源,心里就一阵痛有木有!...博文来自:weixin_33743880的博客

  欢迎关注天善智能,我们是专注于商业智能BI,人工智能AI,大数据分析与挖掘领域的垂直社区,学习,问答、求职一站式搞定!对商业智能BI、大数据分析挖掘、机器学习,python,R等数据领域感兴趣的同学加...博文来自:简书博客搬家测试账号

  在上一篇文章中介绍了神经网感知器模型中用到的一些算法,在这篇文章中,将继续介绍这些常用的算法,首先是随机数的生成,因为感知器模型必须用随机数来初始化连接权值,其次是求导数,因为感知器学习算法是,会用到...博文来自:Qunicy

  多模态检索主要是实现不同模态下的数据能相互检索,例如文本模态数据,和图像模态数据。要能实现他们之间的相互检索,首先要是它们相互关联起来。CCA·算法用于多模态检索步骤:     1)首先提取文本,图像...博文来自:wust_hy

  维金允中发自凹非寺量子位出品公众号QbitAI终于藏不住了。正值西方国家欢度佳节之时,一份英伟达的surprise终于被发现。是一条关于GeForce的禁令。这款备受AI“炼丹”群众喜爱的显卡,以后...博文来自:量子位

  新智元编译 作者:GaryMarcus翻译:新智元编辑部深度学习论战再起,NYT心理学家GaryMarcus如约写了一篇偏技术的文章,回应对他此前提出的深度学习问题的质疑。无监督学习适用于什么问题?为...博文来自:深度学习世界

  问题描述某国为了防御敌国的导弹袭击,发展出一种导弹拦截系统。但是这种导弹拦截系统有一个缺陷:虽然它的第一发炮弹能够到达任意的高度,但是以后每一发炮弹都不能高于前一发的高度。某天,雷达捕捉到敌国的导...博文来自:西西&&C的专栏

  前言:深度学习的初始化参数指的是在网络训练之前,对各个节点的权重和偏置进行初始化的过程,很多时候我们以为这个初始化是无关紧要的,不需要什么讲究,但是实际上,一个参数的初始化关系到网络能否训练出好的结果...博文来自:MIss-Y的博客

Power by DedeCms