1000字范文,内容丰富有趣,学习的好帮手!
1000字范文 > 徐波:类脑智能研究及发展方向 | 中关村论坛大咖演讲

徐波:类脑智能研究及发展方向 | 中关村论坛大咖演讲

时间:2019-06-01 17:39:29

相关推荐

徐波:类脑智能研究及发展方向 | 中关村论坛大咖演讲

来源:中关村发展集团

10月16日-18日,中关村论坛在北京中关村国家自主创新示范区展示中心举办。来自美国、加拿大、德国、英国、法国、以色列、澳大利亚、日本等50个国家和地区的科学家、企业家、投资人共同探讨全球科技未来趋势和新兴产业发展先机。小展君将为大家陆续更新科技大咖带来的精彩发言和头脑风暴。

徐波

中科院自动化所所长

很高兴在这个场合介绍一下我们对脑科学跟人工智能融合的一些考虑。人工智能大家非常熟了,AlphaGo为标志,特点就是赋能,成为很多国家的战略。我们搞现在的机器学习,有一个特点,大数据,泛化性能比较差,严重制约了AI适用范围跟应用价值,包括我们看到人工智能这个产业界去年开始到今年碰到应用落地难,投资界也逐渐退潮。应该说只有人工智能基础理论进一步突破,才能引发人工智能所期望的对社会的更大变革。

这里主要是包括数据瓶颈,能耗瓶颈,泛化瓶颈,语义瓶颈。现在的人工智能更多的是人类智能的片面复制,把人的某一个智能通过数据标注,有一个新的工作,劳动密集型的数据标志,过深度学习,工程开发,赋予机器,人工智能变成劳动密集型产业,怎么去引领智能时代机器化重大变革,我们需要从更加好的自主学习智能。

有人讲仿人智能,有人讲拟人智能,更多强调拷贝人的智能,这个难度非常大,我们讲的这个类脑智能更多受脑启发的智能技术,应该说我们目前为止除人脑之外,没有一个自然或者人工系统能够具有新的环境,新的吸引能力,在复杂环境下有效决策,而且稳定工作几十年这样的能力,也没有任何系统在某一些受伤情况下还能跟人脑一样保持好的性能,人脑的低能耗性相当出众。

过去30年,神经科学因为技术手段变化,尤其对大脑神经活动在线的观察,这样的技术发展,使得神经科学知识产生大的爆发,现在神经科学获得新发现的速度是80年代以前的100倍,本身脑科学发展非常快。类脑智能可以借鉴什么,大脑是多尺度的,信息处理机制启发计算模型,有神经元脑脑区神经环路,使得我们机器实现跟人一样的多种认知能力,而且高度协同能力,这里面有很多可以借鉴,有些已经被借鉴,有些正在借鉴,比如说多种神经元类型跟状态,抑制性跟兴奋性,现在发现神经元至少一百多种,现在人工神经有一个类型的神经元。本身神经发放模式,我们讲这里面区分,生物神经网络还有人工神经网络,主要是他里面的发放模式,生物学习,基于神经可塑性学习,神经元前向后向跟侧向,这些机制已经现在大量应用于人工神经网络,起到非常好的作用。像我们基于丘脑形成感知决策机制,模仿学习功能,还有像视觉听觉触觉形成一个多通道,专门把视觉听觉触觉整合在一起,前额叶皮层区学习与记忆机制,局部抑制和兴奋网络通路等。不断有新的知识发现,这些知识怎么用于神经网络。生物是自然界的终极创新者,我们如果不从这样一个自然界大师身上寻求灵感解决方案,根本不是很明智。

第一个问题,讲真正生物神经网络应该是什么样的。根据我们自己这几年对脑科学人工智能结合,我们觉得有两个基础性的方向,一个是怎么去利用神经的可塑性来去发现新型的人工神经网络,这里面主要人工神经网络对低功劳、弱监督等学习需求。机器学习强调整体的目标最优化,这样融合的新型神经网络模型,这是未来对人工智能有比较突破。第二我们讲认知功能环路基础,一个认知功能不是单一的一个区域神经元完成,是多个脑区共同完成一个任务,这里面其实我们讲的现在人工神经网络最大的问题就是说他是一个黑盒子不可解释,通过认知功能的学习,模仿,借鉴,有可能我们去发现新型认知机构,从功能网络向功能和结构网络提升,不但知其然要知其所以然,知道他这个结果怎么去解释。这里面就是神经连接和处理机制。

现在的人工神经网络跟生物神经网络非常大差别,上面是人工神经网络,C是脉冲编码,而且这样的脉冲编码是有很多的神经科学证据证明脉冲编码成立的,这样的脉冲编码很多在时间序列上,通过编码产生大量的信息的整合,关注脉冲神经网络,关注生物神经网络,脉冲化以后到后来芯片实现时候它的功耗会非常低,第二个本身把时间序列信息能整合非常好。这是我们讲的现在的机器,陈共神经网络机器学习方法,实际上是错误反传与现在深度学习,主要的思想来自于这样的学习方法。我们讲现有的发展生物神经网络,整体的东西是怎么学的不知道,但是它是局部的,依赖于脉冲时序的突触可塑性,连接的神经元,放电的时间差异而增强或者减弱的一种生物神经机制,这样一些简单的学习方法怎么应用人工神经网络,这里面有一些工作,但是这个还都是比较初步的,用生物神经网络在做10个数字的识别,这个有很大进展,但是比起人工神经网络里面还有很大差距,人工神经网络都可以到99的水平,生物神经网络也在96、97的水平。

这是我们自己做的一个工作,原来脉冲神经网络是离散的,把它变成一个用BP来学习的这样一个网络,这个也取得了非常好的效果,这也是一个趋势。这是完全用生物的学习方法让机器学会沿着一条路,沿着一个框走路,这是我们讲的一个工作。

刚才讲到多个脑区协作,怎么来完成类似于这样的强化学习,主要的意义就是真实的生物神经网络与信息处理机制在解决实际问题上的可行性,这是我们做的一个把丘脑还有前额叶皮层这几个脑区组成多脑区协同的脉冲神经网络,这也是一个脉冲神经网络做一个比较复杂的,比较早期的尝试。再去看这个视觉也好,决策的认知也好,他其实就是一个不同的脑区相互协作的过程,这样的一些工作怎么用一些新的机制去非常有意义。不需要太多去数据标注,主要不断跟环境里面做试错,这是生物神经网络。

另外一个受脑启发的深度学习怎么把脑科学机制用进来,这是我们做的一个受脑初级视皮层工作机制启发的边缘检测模型,主要是提高他的算法这个效率,我们做了一个早期视觉系统的工作,多组织的层次化模型,神经元之间存在连接,各种神经元的比例来自于生物的数据,通过这个学习机制也不是一个整体的,实际上通过逐层优化构建符合生物进化机制目标函数,随着信息编码数量增多模型的能耗也是相对越来越低。

另外一个工作也是做的比较早,把反馈机制自上而下反馈下来以后,做一个反馈的卷积网络,用于目标的切分跟检测。所以这里面引入主要机制包括人脑当中的反馈,第二个就是说侧向的抑制,但是基本数学模型是卷积神经网络,产生非常好的结果。左上角一些图片,原来这些图片是动物跟周边环境蛮相似的,在这样一个环境里面把这个动物能完整的检测出来。

还有一些多模态,我们讲视觉注意机制扩展到多种数据模态,建立联合的注意机制模型。这里面引入一些视觉的,还有上下文信息的调节,刚才报告里面也有类似于这样的一些机制。这个是跨模态的视频里面,包括怎么把图象跟文字产生对应关系。这是我们做的一个听觉工作,也是把长时记忆跟何注意选择结合起来,完成一个语音信号的分离。

这个工作把刚才讲的神经元类型很多,引入兴奋一型二型三型四型,响应函数不一样,还有抑制模型,四个型,把这样模型应用到人工神经网络里面取得非常好的效果。

第三类脑智能跟神经科学发展融合还会继续,这个机器学习始终把目标函优化作为唯一的机制,而且在不同网络结构之中优化过程产生很多丰富的表示,形式跟计算模型,但是这个神经科学有很多发现,包括脑区,细胞类型,目前应该说机器学习改进跟神经科学发现没有太多的关系,我们讲这样的融合孕育着新的机会,我们对复杂的任务来说,机器学习目标任务函数越来越复杂,这里面我们看到有一些希望随着学习的过程,不同的神经网络,不同时间不一样,比如说在底层来强调这种持续的捆绑,这样对特征的提取非常有用。有些随着时间的不同,有些损失函数希望有不同的表现等等,这些都是我们对目标函数越来越复杂。

另外有些目标函数你可以定了以后机器学习非常困难,某个结构下面很难收敛,但是你只要把这个结构变一下,机器学习收敛速度非常快,机器学习里面引入很多结构上的改变,使得目标函数优化,或者机器学习收敛更加简单。这里面有很多假设,大脑是否能够优化目标函数,大脑里面是不是有专门的脑区来做这样的工作。第二个不同脑区跟发育阶段,他的动机跟目标都会有很多的改变,运动的时候,有人关注我节省体力,有人关注怎么五十来减少运动的损伤,这些都是大脑里面产生的目标,这些目标驱动相应的行为跟决策,这里面我们讲的发育过程里面,很多的机制变化。

很多可以借鉴的,大脑经过几亿年的进化,产生很多结构,专业性非常高,大脑进化动力就是怎么减少能量损耗,还有物理世界的惯性约束,时序性约束,他有一些特殊的结构,这些都非常有价值。包括这些学习都需要解决很多的问题,目前机器学习数据驱动的方法无法达到人类的能力,怎么去吸纳,模块化、物理来构造模型。大脑到底有没有BP机制,或者有没有生物的错误反传机制,都是搞机器学习里面非常关心的问题。

最后总结一下,大脑是一个典型的复杂系统,可能是自然界最复杂的系统,上千亿的神经元,百万亿级的突出连接来组成巨的网络,实现感知运动思维肢体等功能,包括以前大家认为对单个神经元认识已经比较清楚了,但是现在很多发现单个神经元能力远远超出原来的想象。生物系统的群体也能产生很多智能行为,大家讲复杂性也好,人工智能也好,现在非常关注跨学科,从信息、计算、动力学等等,不同的角度来研究整个的人类适应性行为,信息处理是一个非常重要主轴,这样的信息处理应该说也会成为理解生命系统的非常重要框架,也是我们理解智能的一个非常重要框架。人工智能跟脑科学,科学院有一个神经研究所,自动化所主要就是人工智能研究所,两个研究所就一起成立,希望做这样跨学科交流。这个跨度非常大,尤其在类脑智能这块有系统的布局。

我们觉得人才培养很重要,要做这两个跨学科融合,必须有既懂神经科学又懂计算的人才,专门有一个脑科学智能技术教研室,来着重培养脑科学智能技术交叉融合创新人才。

未来智能实验室是人工智能学家与科学院相关机构联合成立的人工智能,互联网和脑科学交叉研究机构。

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)云脑研究计划,构建互联网(城市)云脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。