打开APP
userphoto
未登录

开通VIP,畅享免费电子书等14项超值服

开通VIP
改变机器观察世界的方式——神经网络技术


一、定义

当人们提到“神经网络”一词时,可能指向两种含义:一种是生物体神经网络,另一种是人工神经网络。生物体神经网络一般指生物的大脑神经元,细胞,触点等组成的网络,用于产生生物的意识,帮助生物进行思考和行动;而人工神经网络(Artificial Neural Networks,简写为ANNs)是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。在工程与学术界也常直接简称为“神经网络”(NNs)。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。


二、内涵

具体地讲,神经网络是通过对人脑的基本单元——神经元的建模和联接,探索模拟人脑神经系统功能的模型。其目的是研制一种具有学习、联想、记忆和模式识别等智能信息处理功能的人工系统。神经网络的一个重要特性是它能够从环境中学习,并把学习的结果分布存储于网络的突触连接中。神经网络的学习是一个过程,在其所处环境的激励下,相继给网络输入一些样本模式,并按照一定的规则(学习算法)调整网络各层的权值矩阵,待网络各层权值都收敛到一定值,学习过程结束。然后使用者就可以用生成的神经网络来对真实数据做分类。

神经网络学习的结果分布存储于网络的突触连接中

神经网络的研究可以分为理论研究和应用研究两大方面。


理论研究又可分为以下两类:

        1、利用神经生理与认知科学研究人类思维以及智能机理。

        2、利用神经基础理论的研究成果,用数理方法探索功能更加完善、性能更加优越的神经网络模型,深入研究网络算法和性能,如:稳定性、收敛性、容错性、鲁棒性等;开发新的网络数理理论,如:神经网络动力学、非线性神经场等。


应用研究又可分为以下两类:

        1、神经网络的软件模拟和硬件实现的研究。

        2、神经网络在各个领域中应用的研究。这些领域主要包括:模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等。


三、原理

神经元模型 神经元及其突触是生物体神经网络的基本单元。因此,模拟生物神经网络应首先模拟生物神经元。在人工神经网络中,神经元常被称为“处理单元”。有时从网络的观点出发常把它称为“节点”。人工神经元是对生物神经元的一种抽象化模仿:它对生物神经元的信息处理过程进行抽象,并用数学语言予以描述;对生物神经元的结构和功能进行模拟,并用模型图予以表达。


生物神经元细胞概念图


生物神经元的信息处理节点与连接

人工神经网络是对生物神经网络信息处理的模拟


        激活函数 在神经网络中,网络解决问题的能力与效率除了与网络结构有关外,在很大程度上取决于网络所采用的激活函数。激活函数的选择对网络的收敛速度有较大的影响,针对不同的实际问题,激活函数的选择也应不同。常用的变换函数有:阈值型变换函数、非线性变换函数、分段线性变换函数和概率型变换函数。


        连接方式 神经元之间的连接方式不同,网络的拓扑结构也不同。根据神经元之间连接方式,可将神经网络结构分为层次型和互联型两大类。

        

         层次型网络结构有3种典型的结合方式:

       (A)单纯型层次网络结构、(B)输出层到输入层有连接的层次网络结构、(C)层内有互连的层次网络结构。

层次型A——单纯型层次网络结构

层次型B——输出层到输入层有连接的层次网络结构


层次型C——层内有互连的层次网络结构

        互连型结构也可以根据网络中节点的互连程度将互连型网络结构细分为3种情况:(A)全互连型、(B)局部互连型、(C)稀疏连接型

互连型A——全互连型


互连型B——局部互连型


        根据神经网络内部信息的传递方向,又可分为两种类型:前馈型网络、反馈型网络。


        神经网络的拓扑结构是决定神经网络特性的第二大要素,其特点可归纳为分布式存储记忆与分布式信息处理、高度互连性、高度并行性和结构可塑性 。


四、应用

2016~2017的两年中,人工智能“阿法狗”(AlphaGo)悄然上线并大放异彩。与职业围棋选手的对局引发了人们对于人工智能的高度关注。计算机在一个公认的非常复杂的计算与智力任务中,打败了人类的顶尖选手。从系统的结构看,AlphaGo就是结合了深度神经网络训练与蒙特卡洛模拟。广义的说,深度神经网络是类脑的计算形式,而蒙特卡洛方法则是发挥机器运算速度的优势,模拟出数量巨大的可能性用以进一步判断,这现在看来不是大脑工作的机制(并非“类人脑的智能”)。所以AlphaGo可以说是结合了类脑与非类脑的计算与智能,完美发挥其各自特长所取得的成功。

AlphaGo与李世石的人机世纪大战

神经网络训练传递途径和架构——DEEP MIND团队,2016

        人脸识别技术已经应用在多个领域。人脸识别技术是基于人的脸部特征,对输入的人脸图象或者视频流进行识别处理。识别过程先是判断其是否存在人脸,识别到有人脸后,扫描每张脸的位置、大小和各个主要面部器官的位置信息,然后依据这些信息,进一步提取每个人脸中所蕴涵的身份特征,并将其与已知的人脸进行对比,从而识别每个人脸的身份。配合程度现有的人脸识别系统在用户配合、采集条件比较理想的情况下可以取得令人满意的结果。其中就利用了神经网络进行逐层筛选对比。

神经网络应用于人脸识别情景

       2015年3月15日汉诺威IT博览会上,阿里巴巴创始人马云为德国总理默克尔与中国副总理马凯演示了蚂蚁金服的Smile to Pay扫脸技术,并当场刷自己的脸给嘉宾买了1948年汉诺威纪念邮票。与蚂蚁金服共同研发的Face++是北京旷视科技有限公司旗下的新型视觉服务平台,成立于2012年,目前,阿里、360、微博、陌陌、美图、Camera360、魔漫、世纪佳缘、联想等一批大型的图片、社交、设备类企业都已成为Face++的用户。

马云为大家展示Alipay的扫脸支付技术,2015

       在2017年美国国家标准与技术研究院组织的全球人脸识别技术测试上,我国依图科技人工智能技术团队超过来自俄罗斯、美国、法国的对手,成为第一个获得冠军的中国团队。参赛团队需要在百万量级人脸数据库中找到目标人脸或判断其在不在库中。查询照片来自出入境等真实业务场景,包含识别对象不在摄像头前特定位置的“非配合性”照片。来自中国的算法技术超过了全球的竞争对手,运算模型采用高级的神经网络。依图科技团队的算法已经在十亿分之一的误报下达到超过90%的识别率,已经能够超越所谓的国际主流标准。而在中国,由于政府大力推行“天网”行动等战略,安防成为了人脸识别最快落地的商业场景之一。除了旷视科技Face++、依图科技这样的平台外,还有云图睿视、商汤科技等公司跟随其后。

依图科技打造的以AI为驱动、结合云计算和大数据技术的依图人像大平台

        交通运输方面,神经网络的应用一方面集中于交通系统参数的优化和预测中。另一方面集中于自动驾驶中驾驶员智能模型的建立。2017年,在第31届神经信息处理系统大会(NIPS conference 2017)上,奥迪展示了一项预研发创新项目(innovative pre-development project)。该项目涉及一款单目摄像头(mono camera),奥迪将人工智能技术应用到该设备中,从而生成了超高精度车辆周边环境的3D建模。


神经网络或能帮助模拟交通环境

         该款常规前置摄像头相当于传感器,旨在捕获车辆前方区域的影响,视角为120度左右,传输速率为15张图/秒,分辨率高达130万像素。这类影像在神经网络中进行加工处理并实现语义分割(semantic segmenting),各像素将被归入到所属的对象类(共13个对象类,object classes),从而使车辆识别其他车辆、卡车、房屋、道路标记、人类及交通信号并加以区分。

奥迪mono camera捕获前方区域景物假想图

       该系统还能利用神经网络获得距离信息,可通过等值线(ISO lines)实现可视化,该等值线被用于规定常数距离(constant distance)。该系统结合了语义分隔及深度估值,从而生成了实际环境的3D建模。加州贝尔蒙特电子研究实验室(Electronics Research Laboratory of Belmont, California)的奥迪团队为观众演示了人工智能辅助停车方案。人工智能学会利用摄像头采集的数据生成3D环境建模并实现车辆转向,该方法无需高精度定位或地图数据。

第31届神经信息处理系统大会,奥迪展台

        当前,完善公路交通安全防控体系是全国公安交通管理部门的重大科技建设项目。公路交通安全防控体系实现对公路上车辆通行情况、交通违法情况和道路隐患及时监控、发现、取证、传递、处理、反馈、修正,进一步提升公路管控力度与水平,进一步增强勤务管理科学性与针对性,及时发现查纠各类交通违法行为,明显改善了道路通行秩序,有效遏制了重特大交通事故。公路交通安全防控体系涉及的核心技术是交通行为监测、交通安全研判、交通风险预警、交通违法执法,而这些技术现已与神经网络融为一体。实现公路交通运行状态“看得见”、车辆通行轨迹“摸得透”、重点违法行为“抓得住”、安全隐患事件“消得了”、路面协作联动“响应快”、交通信息应用“服务优”等目标,都离不开神经网络研究。


        电子产品方面,神经网络助力芯片迈向新的技术层级。2017年下半年,苹果全新一代iPhone智能手机iPhone 8、iPhone 8 Plus和iPhone X发布,一项苹果在发布会上或宣传中没有着重提及的特征,可能被很多人忽视了,那就是新芯片强大的AI人工智能特性。苹果新发布的三款机型均搭载了全新的移动芯片——A11仿生,但宣传上却非常低调一笔带过。不可否认的是,A11仿生成为了苹果第一枚神经网络引擎的SoC移动芯片,其神经网络引擎就是专门用于运行AI人工智能的处理单元,在命名上“仿生”二字也特别突出了其技术特征。而与之同步地,华为公司推出了麒麟970内置NPU,AI芯片大战拉开了序幕。

iPhone A11 Bionic Neural   vs   HUAWEI Kirin 970

        在自动车牌识别、小型无人机交通辅助系统、机器智能控制、语言翻译、智能选股等多个显示应用领域都已经发挥了重要作用。随着神经网络理论本身以及相关理论、相关技术的不断发展,神经网络的应用定将更加深入。


本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报
打开APP,阅读全文并永久保存 查看更多类似文章
猜你喜欢
类似文章
【热】打开小程序,算一算2024你的财运
地平线机器人杨铭:深度神经网络在图像识别应用中的演化
专栏 | 地平线机器人杨铭:深度学习研究的一些新趋势
人工智能深度学习系统的基石——神经网络简介
什么是机器学习、人工智能、深度学习,三者又是什么关系?
冠军方案解读|世界人工智能创新大赛-口罩识别方向
孙剑:如何在公司做好计算机视觉的研究|VALSE2017之十三
更多类似文章 >>
生活服务
热点新闻
分享 收藏 导长图 关注 下载文章
绑定账号成功
后续可登录账号畅享VIP特权!
如果VIP功能使用有故障,
可点击这里联系客服!

联系客服