导读
剑桥2019年度《AI全景报告》全方位总结过去一年来AI领域的研究成果与突破、人才形势、产业动态、政府政策以及中国在AI方面的成就,并做出未来预测,具有重要参考价值。有鉴于此,笔者将其中的要点进行整理编译如下,以飨读者。
关键词:
人工智能(Artificial Intelligence,AI)、机器学习(Machine Learning,ML)、强化学习(Reinforcement Learning,RL)、深度学习(Deep Learning,DL)、联邦学习(Federated Learning)、卷积神经网络(Convolutional Neural Networks,CNN)、自然语言处理(Natural Language Processing,NLP)、自动机器学习(Auto ML)、生成对抗网络(Generative Adversarial Nets)
一
研究和技术突破
01
RL征服新领域
1.《蒙特祖玛的复仇》
OpenAI在其中所展现出的“随机网络蒸馏(RND)”,技术激励RL代理探索不可预测的状态。
2.《星际争霸2》
AlphaStar使用了多智能体训练算法,有效地创建了一个相互竞争的智能体联盟,共同探索巨大的战略空间。最终的阿尔法星智能体是由纳什平均产生的,它结合了个体智能体开发的最有效的策略组合。
3.《雷神之锤III竞技场夺旗》
通过使多个代理独立学习并采取行动来相互协作和竞争,可以实现人员水平的绩效。代理仅使用像素和游戏点作为输入。
4.OpenAI5性能进一步提高
OpenAI的Dota2的每个机器人都是一个单层,4,096个单元的LSTM,可读取游戏状态并通过自弹式RL进行训练(相对于自身为80%,较旧版本为20%)。
5.计算方面的改进是OpenAI5竞争性能的当关
02
RL的下一步
1.游戏训练单个机器人来执行许多复杂的任务
2.计算机视觉预测模拟和真实世界来学习灵活性
加州大学创建的7自由度手臂机器人。OpenAI的机械手,以惊人的敏捷度洗净物理对象。
3.好奇心驱动的探索
通过反复试验来学习任务。在探索(尝试新的行为)与探索(重复有效的行为)之间取得平衡。
4.学习用于在线规划的动力学模型
从图像中学习环境动态模型,并通过快速预测多个时间步长的收益,通过快速的在线计划选择行动。与最新的A3C和D4PG算法相比,模拟环境之间的交互作用减少了50倍,并且计算时间相似。
5. 应用RL来优化大规模生产环境中的系统
03
自然语言处理的关键年
1. 在非常大量的公开可用(即来自网络的无标签文本)上进行预训练的语言模型
2.研究人员开始制定GLUE(通用语言理解评估基准)用于评估NLP系统在一系列跨逻辑,常识理解和词汇语义的任务。
3.无bitexts的机器翻译发展迅速
4.各大企业对用于实际产品的联邦学习的研究兴趣日益浓厚
5.越来越重视数据隐私并保护已部署的ML系统免受攻击
04
深度学习在医疗中的应用
1.诊断眼疾
专家级诊断和治疗推荐建议是通过两阶段基于深度学习的分类网络实现的。
2.使用心电图检测和分类心律不齐
使用针对患者的端到端深度学习,以原始格式处理动态环境中的心电图轨迹,以检测心律。
3.从脑电波中解读想法
与机器学习线性回归方法相比,深度学习的神经网络方法将人脑电波中语音的清晰度提高了65%。
4.恢复残疾人的肢体控制
通过电刺激和神经网络解码器对四肢瘫痪患者的前臂进行长期修复。
5.合成化学分子
将神经网络与蒙特卡洛树搜索结合使用,通过训练1,240万个反应来解决逆合成。这种方法比最先进的计算机辅助综合计划要快得多。
05
AutoML新发展
1.用于神经网络架构和超参数的进化算法
联合优化超参数,在最大程度降低复杂性和尺寸的同时,最大化网络性能。
2.设计具有实际设备性能反馈的资源受限的网络
Google展示了一种基于RL的多目标方法(MnasNet),以找到具有低真实世界推理延迟的高精度CNN模型。Facebook提出了一种可区分的神经体系结构搜索(DNAS)框架,该框架使用基于梯度的方法在分层搜索空间上优化CNN体系结构。
06
GANs新发展
1.从粒状到GANgsta
较大的模型和大量的培训进一步提高了使用GAN生成的图像的质量。
2.从面孔到全身合成
电影放映一次,然后通过将面部与口语单词匹配(左),以不同的语言生成相同的视频。下一步是从头到脚生成整个身体,目前用于零售目的(右)。
07
图像、视频、语音处理
1.从单个图像学习对象的3D形状
2.对过去25年中对16,625篇AI论文的分析显示,出版物输出的巨大增长以ML和RL最受欢迎
二
人才
01
人才形势
1.谷歌在2018年首届学术AI学术会议NeurIPS上继续保持统治地位,并且在研究论文输出量最高的组织中名列前茅。
2.在NeurIPS,ICML或ICLR发表论文的4,000位研究人员中,有88%是男性
3.大型科技公司高级工程师的薪酬接近1,000,000美元。另一方面,每小时$1.47的数据标签工作大幅增长。
4.与复杂的电子供应链(例如富士康)类似,用于AI应用程序的“数据标签工厂”也有了大幅增长。
5.神经网络的先驱者获得了图灵奖,这是计算机科学领域的最高奖项。
02
论文
欧洲发表AI论文最多,但只有中国的平均被引用率在增长。
03
教育
1.麻省理工学院在计算和AI领域的新10亿美元投资
2.AI的大学课程入学人数正在增长,中国更是突出
3.AI教授和学生的性别差异仍然存在
04
Element.AI人才调查2019
1.只有19%的学术作者和16%的行业作者是女性.
2.44%的作者从美国获得博士学位,从中国获得11%,从美国获得6%英国。
3.五个国家(美国,中国,英国,德国和加拿大)占作者总数的72%。
4.AI人才的流入和流出
加拿大,英国和瑞士是“平台国家”,既吸引外国人才,又出口本地培训的人才。美国和中国的生态系统更加成熟-流入量和流出量都很低。
05
企业需要更多的应用人才将研究投入生产
三
AI产业
01
形势
1.对AI主题的全球风险资本投资以每年超过$27B的速度增长
2.大型科技公司继续吞噬AI优先初创公司
3.机器人流程自动化:一夜之间的企业成功(15年的酝酿)
出生于欧洲的RPA市场领导者UiPath的客户同比增长4倍。
02
现实世界中的机器人
1.清洁和店内操作
2.波士顿动力公司机器人的进步
3.大企业用机器人制造机器人
4.全栈初创企业进入制造市场
5.应用机器人支持的全渠道、自动化执行供应链
6.亚马逊推出了更多用于物流和分拣的仓储机器人
03
自动驾驶汽车行业
1.当现场视音频飞行员在加利福尼亚乃至世界各地成长时,有几名玩家撤退,导致错过了几个发布日期以及其他玩家的沉默
2.Waymo在2018年行驶了超过100万英里,是2.8倍的下一个最佳性能(GMCruise)和16倍的第3最佳性能(Apple)
3. 2018年,自动驾驶汽车公司的行驶里程达到了人类行驶里程的0.00066%
通用/Cruise的问题包括每英里一次的“严重驾驶不适”,自动驾驶路线比人类驾驶的同类路线要长80%,以及在备受瞩目的投资者测试中出现的故障。
04
需求预测
1.信息以数字形式提供,使其可用ML来预测需求。
2.ML的有效利用
能源、洪水预测 、旅行、本地企业、后勤、零售
3.阅读机器的改进和普及
4.制药公司与AI驱动的药物开发公司合作
05
AI专利
1.AI专利家族的增长速度超过了AI科学出版物。
2.计算机视觉是最受欢迎的专利领域。在计算机视觉中最受欢迎的领域是生物识别(与生物数据相关的应用)。
3.大型科技公司通过云计算获利,但未通过托管的AI服务获利。通过托管的AI服务获利还处于初期。
06
AI硬件:巨头和初创企业蓬勃发展的全球格局
1.对移动芯片组执行AI任务的性能进行基准测试
高通的Snapdragon通过为浮点和量化神经网络展示非常强大的性能和硬件加速而获胜。
2.对移动设备执行AI任务的性能进行基准测试
三星、华为和小米位居榜首,而谷歌的Pixel3排在第22位。
3.将计算和竞争推向边缘
到2025年,谷歌和NVIDIA将在连接设备产生的40万亿字节数据中应用AI计算。亚马逊使开发人员可以在其云上训练ML模型,并导出针对特定边缘硬件平台量身定制的优化模型。
4.5G作为无处不在的连接和AI计算的骨干
5G为更快,更稳定的信息传输提供了潜力。拥有5G的组织或国家将为世界其他地区设定标准。目前,中国远远领先于美国。
四
政治
01
公众对AI的态度
1.公平竞争和双重标准。
美国人不赞成以竞争为目的的AI技术,但是一旦对手开始开发AI技术,这种情况就会改变。
2.治理
公众不知道如何衡量AI的开发和部署的责任者和方式。
3.企业道德
64%的人认为企业应该设立一个AI审查委员会,定期讨论企业的道德决策。
4.人口属性的激励
人口属性对开发高级机器智能的支持差异很大。
02
各国政策
1.“德国制造的AI”
计划宣布到2025年投资30亿欧元。、
2.芬兰的“1%”AI计划
芬兰正在对其1%的人口进行ML的基础培训,力求在AI的实际应用方面占据世界领先地位。
3.欧盟AI计划
通过专注于“合乎道德的AI”及其“安全和高质量产品”的声誉,实现差异化。
4.美国新对策
将出口管制应用于机器学习,包括“深度学习”、“强化学习”和“计算机视觉”。并暗示美国制裁名单上的组织成员(例如华为)不能担任论文审阅者。
03
新挑战
1.大规模监测监视技术日趋成熟
2.武器化自然语言处理导致的欺诈和计算式宣传
3.深度伪造影响政治议程
4.旨在让开发者限制软件使用的AI许可证
5.机器算法中的性别偏见
6.AI的伦理道德问题
五
中国
01
人脸识别的应用发展迅速
02
中国互联网公司向农业领域扩张,阿里巴巴和京东都进入了畜牧业
03
研发支出
中国企业研发支出增长迅速,但在市场份额方面存在明显滞后。中国企业的研发支出同比增长34%,但美国企业仍占全球科技支出的61%。中国的半导体贸易逆差正在(缓慢)扩大.
04
中国的工业自动化和工作岗位的转移正在增加。某些中国工业企业在过去3年里自动化了40%的劳动力
05
机器货仓
在中国,机器人正在推动自动化仓储。京东的上海物流中心每天使用自动化仓库机器人来组织、挑选和运送20万份订单。工厂由4名工人照管。京东的仓库数量和表面积同比增长了45%。
06
中国公司仍继续在美国公开市场进行IPO(首次公开募股)
07
专利
1. 中国企业拥有的专利最多,但2017年只有23%是“发明专利”
2.中国的双重专利制度使其专利领先于其他国家。
中国的发明者让他们的大部分专利在被授予5年后失效。91%的5年设计专利和61%的5年实用新型专利被放弃。相比之下,美国5年专利的维护费占85.6%。
08
学术研究
中国公布的ML研究报告数量已经超过美国。艾伦研究所最近的一项分析显示,中国在质量方面的差距也在迅速缩小。
六
预测
1.利用NLP研究的最新突破,涌现出一批新的创业公司在接下来的12个月内共筹集了超过1亿美元。
2.无人驾驶技术在很大程度上仍处于研发阶段。
3.数据安全性和用户隐私策略研究突破。
4.高等教育机构建立专门建立的AI本科学位以填补人才空缺。
5.量子计算硬件方面取得重大突破。
6.对AI的治理将有初步实质性进展。
联系客服