刘博士
您能不能给我们介绍一下现在我们的整个的应用已经到了一个什么样的
我举几个例子
一般我们提起人工智能总会提到认知感知这些东西
比如说能听会讲
能够识别图片
能够理解语音
能够理解文字
我们举这几个例子也都是跟这些有关的
比如说咱们先说说计算机视觉
图像识别这个领域
图像识别领域呢有几个里程碑的事件
其中离我们最近的应该是到微软研究院发明了
一个叫ResNet的算法
152层的一个卷积神经网络
在计算机视觉领域里面一个很出名的数据集
叫image net这个数据级上面达到了一个
历史新低的这么一个错误率
当时在Top5的就是每一个分类器对每个
图像出来最有可能的五个类别
看这五个类别有没有对的
就叫Top5的错误率
这个错误率达到了3.57%
3.57%是个什么水准呢
有人曾经用人类的做了个测试
就找了一些人
让他去熟悉ImageNet数据集里面的一些类别和图片
然后让它在这个数据里面熟悉一段程序时间之后
让他去看一看测试机里的那几个图片能不能做对
人的水平大概是百分之5点几的样子
那就是人的出错率还更比计算机要高
所以我们说2015年是一个标志性的事件
是在这个点上
计算机在ImageNet的特定的数据集里面
已经比人类的水平要高
像这种ImageNet这样的一个数据集
像您说的这样
一般应该它是分成是两个部分
是吧
有一部分有很多的图片
这些图片被标注上
这都是什么图片
对
觉得这是一个小孩
这是一个篮球的
这是一瓶酒
那是一个杯子
那么计算机的人工智能的算法就要去熟悉这些图片
完了以后在熟悉完了以后
我们另外有一些没有标注的
然后这些图片让来的算法来去看
那么它就会给出来说认出来这是一个什么
这是一个什么
那么在这样的方面
在2015年的时候
咱们ResNet就已经达到了
3.57%的这么一个错误率
这是已经非常低了
对
那么其实就是要是说这种测试的话
其实是不是就像咱们订火车票
每天都要用12306里头很重要的验证码是吧
他一下子就发出12个图片
然后让你去识别
像这样的验证码
您觉得它有可能会被识别出来吗
其实我觉得到目前为止
基于我们目前的人工智能技术
其实刚才说的那种图片为基础的验证码
应该不太能够起到那种区分人和计算机程序的作用
因为机器的识别的出错率已经比人还要低了
所以要与时俱进要做改变
我觉得同学们可能都已经体验过登录
12306网站
反正不管说很多人都说
作为人的话很难登陆进去
因为他经常认错这个图片
我自己也是这样的
可能每次都要尝试这一两次
然后才能够登录进去
所以图像识别确实其实是一个挺难的一个事情
除了图像识别还有什么
我们再举个语音识别的例子
其实语音识别历史很悠久
在这一次就2000年以后深度学习发展之前
在最早历史上
像Raj Reddy他们获得图灵奖的时候
就是因为作了很语音识别系统
但是语音识别虽然听起来历史悠久
但真的要做到非常效果好也不容易
尤其是如果我们语音的数据本身是一个对话型的
比较自由的对话的这样一个场景
其实做语音识别比较难
再加上我们语音识别有的时候会有背景噪声的问题
有一些其他的在也是在2016-17年这段时间
在语音识别方面
也是取得了很大的突破进展
我们也是跟刚才图像识别类似
有人让人去做过测试人在做语音识别的时候
会有什么样的错误率
在语音识别领域里面
我们用词错误率就是word error rate来衡量
算法的好坏
让人去试了之后就发现人来做语音识别
平均的错误率大概也是5.1%
这是个神奇的数目
5.1%
你图像识别率也是这个错误率
在语音识别也是个错误率
之前语音识别的算法经过多年的演进
也没有到达5.1%的水准
曾经最好的结果
应该是百分之如果我印象没有错的是5.9%的样子
这也比较接近
应该就是然后这些结果会不断的在向前推进
微软的科学家IBM的科学家使用了各种各样的方法
终于在2017年的时候
也达到了人类的水准
所以虽然当时的实验也是在一个特定的数据集上
是一个特定的对话的一个数据集
对这些数据集也是来自于各个不同的场景
各个不同的人
包括不同的语言
主要是在英文的上面
但是也仍然已经让我们觉得很震惊
不同场合的对话
在语音识别上面已经能达到这样好的水准
实际上我们今天看到很多的实际产品
大家可能理解语音识别技术真的是到了实用阶段了
比如说我们手机里面用的那些人工智能的助手
对
包括语音输入法
对吧
我们讲的话只要自己不是太不标准的话
多半其实可以给你记录的
就转化的非常好
所以这也是一个相对来说成熟的技术
但是这个语音有一个很有意思的问题
其实人如果说你说话带很重的口音
或者说说话的节奏不太对的话
其实连人自己也挺难识别的
这个还是个数据驱动的问题
如果我们语音识别的算法
你能给他提供不同方言的不同情况
比如语速快慢节奏不同的这种训练数据
它就可以表现得好
对
所以就是我们说到人工智能发展到我们现在技术水平
实际上它还是更多的是数据和计算力这两方面去驱动它
不管是刚才提到的语音识别
图像识别其实都是这个例子
像我们说图像识别
ImageNet这个数据集训练集有多大
训练集有一千个类
每一类有一千张图片就是100万的
实际上还有更大的一个数据集
ImageNet有一个22000个类的这么一个数据
在里面的数据就更多
所以基本上我们是要上千万的量级来做训练
语音数据也是一样
他们做语音识别用的会是几千或上万小时的数据
如果把它切分成我训练的那种样本数
也会是成千就上千万甚至上亿的量级
这就可以看得出来
数据驱动在这里面起的作用非常大
对
所以现在跟上一个阶段您说的上一个高潮在
八九十年代那会的高潮
基于专家系统其实是一个不同的一个技术的道路
当时是基于规则
基于逻辑判断
尽量的要从专家的经验当中去归纳出一些规则来
然后将来用这个规则去行事
那么就依靠要对于专家的经验的一个抽象
对于它的进行归纳
然后推理出来
那么现在实际上这一步是已经不是人做
是交给人工智能去做
让他自己去归纳
从数据里面归纳
还有实际上您刚才说到除了语音还有图像之外
那么还有很多了
我再随便举几个例子
像机器翻译也是一个很典型的例子
因为机器翻译和语音图像比起来
似乎更难一点
因为语音和图像都是把一部分输入信号变成
一个比较小的一个标签
比如说一幅图像
我知道这里有一只猫
还有一只狗
而语音是一段语音的原始的声学信号
变成了一个词或者一个音节
它是一个识别的问题
认出来这是什么
这个机器翻译不一样
它要把某一个语言的话理解了之后
他要生成出另外一个语言的
所以它不仅仅是识别
它还要有生成的
所以他就既有理解又有表述
相对来说要难一些
也就是说它不仅仅是说要把这个字面表达出来
他还得理解这个字面的含义
然后生成另外一种
这是我们对机器翻译这个领域
至少我们的期望
他应该能够理解语义
但实际上真正用人工智能技术去做
比如说用深度学习去做的时候
是不是真的理解语义
可能我们现在也无从得知
机器翻译比这个图像识别和语音识别相对来说
更难一点
因为他有要有生成的部分
他需要去理解语义
把其中一个语言转换成另外一个语言
但是我们去解决机器翻译这个问题的时候
技术路线其实跟图像语音大同小异
还是用大量的训练样本
我们知道某一句比如英文的句子对应的中文
句子的翻译是什么
我就把它当成一个样本
输入给现在的深度学习的
那这个数据是从哪来的呢
也是有人翻译标注的
人为标注的
对吧
其实大家看现在主流的机器翻译的一些国际比赛
里面都提供了大量的这样的双语的语料
语料的数据量也是惊人的
在很多大语种上
比如说中英、英法这样的双语语料的数目
都超过了几千万的语对
两个双语的两个句子
它们是对应在一起的
这样的数目要有几千万
对
几千万这么大的一个数
基于这么大的训练数据
现在确实可以的方法训练出相当好的这个机器翻译的模型
大家可能平时也用过手机里的机器翻译的APP
甚至国内像科大讯飞也做了那个机器翻译机
对
就直接出去出国 说一句
然后他就给你就可以变成另外一个语言
就是我们不能期望机器翻译已经到了人类这样的
可以在各种场合下都去自适应
但是在一些特定的情况下
比如说我训练的数据就是新闻的数据
那么我对新闻的翻译就会比较准确
我输入的是一些旅游里面常用的这种情景的话
那么那些点个菜旅馆就会比较准确的
所以一旦数据到了在某一个领域有足够的数据
今天的人工智能技术确实可以给我们一个实用化的机器翻译模型
所以从技术的角度上来说
技术道路的角度
其实现这次人工智能的对于机器翻译的实现
对于自然语言理解的实现
实际上也跟30年前有很大的差距的
我记得以前是分析
把一个句子分出主谓宾
然后再去对应到另外一个语言的主谓宾
然后再有一个查表的方式
把它对照出来
对
但是那个其实还是基于规则驱动
而不是现在的咱们的数据驱动
有大量几千万的语言对
用数据来驱动 去寻找里边的规律
所以这个就是我们现在人工智能时代最重要的技术特征
那么我们人工智能在目前这个时代
确实是非常的热
他的在很多的领域也取得了很大的成就
那么刘博士在您看来目前这个热潮它背后
有没有一些问题
以及这些问题
哪些是需要我们特别警惕的
说到这个地方
其实我觉得真的应该严肃的去讨论
正是因为人工智能现在特别火
而且同时刚才我们分析过历史发展的进程
就发现这种人工智能的潮起潮落不止发生了一次了
所以如果我们不能够去客观的去背后有并且
通过技术的手段加以弥补
没准什么时候下一次的寒冬又到来了
所以作为人工智能的学者
当我们去从事人工智能研究的时候
我们是能够深切地感觉到某些地方是存在着陷阱
是存在着不足的
给大家举几个例子
比如说前面我和陈老师讨论的时候也提到过
现在的技术的主要的技术路线是数据驱动
这条路一方面给我们带来了很多实惠和好处
另一方面其实也存在着巨大的局限性
比如说目前成功的那几个例子
像图像识别
识别机器翻译
都是建立在动辄几千万的训练数据
训练样本的基础上
但是是不是我们所有的应用都能够找到几千万
甚至上亿的训练样本
不是那么容易
我就举例子
比如说像医疗里面有一些疑难杂症
可能全世界真正有意义的样例也就那么几百个
几百个病
本身就是一个罕见
对
就是一个罕见病
我怎么去搜集上千万呢
这种病可能我们就做不好
再包括比如说有些可能不是罕见
是可以获得
但是代价很高
就像我们做基因分析
基因测序等等
本身这个过程的代价很高
我们要想收集到几千万个样例可能要花花费
大量的财力
人力物力财力和时间
就做不到
所以当我们没法获得大量数据的时候
现在的技术路线就会遇到瓶颈了
所以这是第一个
我觉得可能存在的就是对数据过分依赖
跟这个数据过分依赖的同时
有一个对称的问题
就是对计算的过渡依赖
现在很多我们取得的人工智能的成功
背后都是要用大量的计算资源
现在我们主要用GPU图形处理器
用它来做训练
做训练深度学习的
因为你有那么多的数据
都要处理的
而且模型也很大
动辄这模型里头有几十亿个参数
所以模型加数据一集合
就需要有非常大量的计算资源去支持
这个其实有一个很大的问题
对于我们学术界来讲
使得研究这件事情变成了一个你只有有钱
才能做得好的事
因为如果你的研究组里面没有几百块GPU卡
很多实验都做不起来
就没有办法复现人家最好的结果
计算密集型
对
就使得研究变成一个要靠你的资源来决定成败
而不是靠你的思路的新颖性或者是方法的独到性
这些东西好像变得没那么重要了
因为就算你想的东西再好
你没有计算资源
你也实验不出来
这个不是一个好的途径
好的现状
因为我们很多时候讲科学是要百花齐放
百家争鸣的
不能出现垄断性
如果只有几个有钱的财团能做研究
这个肯定对于整个科学发展是不而且从技术
路线上来说
这样的量数据去训练
它实际上当中的这些偶然性还是挺大的
可能你花费了很大的却得不到理想的结果
是的
跟刚才提到这个问题有关的另外一个问题
因为现在深度学习
其实用了那么多资源
他拟合的是数据的表象
因为给了那样的训练数据
我就希望能够找到一个模型
能够解释这个数据
可是我们应该反过来想一想
我们真的需要那么复杂的模型来拟合这个世界吗
像我们一些其他的学科
比如说物理
包括这个里面的万有引力定律也好
量子力学也好
包括相对论也好
其实他们都是希望用特别简单的一个
比如说一个薛定谔方程
一个二阶的偏微分方程
所以说其实全世界无外乎都是由这个方程产生的
用一个动态系统不断产生出来
人类实际上探索科科学的道路
实际上有一个很重要的原则
简单就是美
都希望用高度的智慧去理解这个世界
但是深度学习人工智能今天走的道路不是这样的
他们是以繁治繁用了一个非常复杂
给了非常复杂的数据
我去你和他我们没有去问自己问
到底这个背后的规律是什么
所以现在我们经常讲
深度学习是在去做表面的
没有去探索内部
那么这个其实也是一个很大的隐忧
它就使得我们可能浪费了好多资源
用了那么多GPU的卡
用了那么多的数据
天天去训练 耗费了那么多的能源
可是我们又没有得到对这个世界真正本质的认识
这其实是一个哲学问题
这个世界是可以用简单的方法去理解他
还是说他已经复杂到无法理解的
这其实也是人类一直追逐的一个答案
再往后说其他方面的
其实另外一个很重要的点就是现在的深度学习
是一个太复杂的黑盒子
里面有上亿的参数
如果一旦我们用深度学习
用现在的主流的这种人工智能我去做预测去做判断
但结果不对的时候
我们该怎么去做诊断
我们怎么能够分析出来
这是一个很难做的事
大家可以想象
如果我的模型里有几十亿个参数
出错了
到底是这几十亿里的哪个出错了
其实那已经不可能用人力去判断
那可能要用另外一个智能去
现在我们有一些方法
比如做一些可视化做一些辅助
但是他们还不本质的解决
它只是一个大面上的趋势
我们仍然不敢放心
人工智能模型的决策是不是可靠的
所以到今天因为我们可解释性比较差
所以在一些关键领域
大家还不太敢用人工智能
用今天的人工智能技术
比如说举个例子
像军事领域
像这个比较重要的
关系到人命关天的这种医疗领域
他最终的结果难以预测
并不知道它会变成什么样
它是以大概率可能是可以用的
但是在有些关键领域我们不能容忍
只是以大概率是正确
我们需要万无一失
需要99.999%
有好几个9保障
我这上面不出事
现在的统计方法是做不到
而且这当中还有一些关键的领域
它还涉及到一些伦理的问题
人工智能并不能解决这样的问题
但一旦它如果说形成了他自己的一个判断
它给出来的答案可能是跟我们社会的伦理和
人的伦理去看的话
是一个很荒谬的一个行为
这都是其实将来都需要我们去解决的
我最后还有一点就是现今技术的一个局限性的思考
是关于到底什么是智能的
偏哲学的问题的思考
因为现在我们的技术路线基本上是会认为只要
我能够模仿人的一个大脑的行为
比如有很多神经元连在一起
然后我能够用这样的一个神经网络去逼近很
复杂的函数
我就能把这事情搞定了
所以背后有一个假设
就是智能来源于像大脑这样子的高度复杂的结构
对
但是我们需要考问一下自己
我们人类的智能真的是来源于大脑的结构这么简单吗
比如说我经常说讲的一个事情
就是拿了一个大猩猩
大猩猩的脑子其实容量也很大
虽然我们可以讲人类的脑容量远远高于其他动物
但是也有一些研究表明我们只用了其中很小的比例
是的
从这个意义上讲
生物的基础
我们的大脑容量
这些基础是不是本质
那么什么才是人类区别于那些动物的一个原因
我自己有一个解读
我不见得多准确
我觉得咱们人类在历史传承形成了一个高度
社会化的一个行为
而且我们有文字
用文字能够记载人类的知识
这个知识一旦能够记载下来之后
它就可以传承
一代一代人就不用清零了
我们一开始不是重新用自己的方式去跟世界打交道
用强化学习慢慢了解世界
不是这样的
我们是通过读书
通过教育
通过几年的时间
我们已经对这世界有了非常好的认识之后
站在巨人的肩膀上
再通过我们自己的探索拓展边界
认识世界的边界
实际上你并不需要说像幼小的动物一样
到自然界当中摸爬滚打
你坐在屋子里头
实际上就可以理解这个世界
所以人类是一个不断地一代一代通过知识传承
去积累和强化的过程
这个过程在今天我们主流的人工智能算法里面
是没有的
我们追求的深度学习叫做learning from scratch
从头学起
他希望他能够在不给任何知识介入的情况下就
能学到东西
可是这件事跟人类的智能发展是背道而驰的
不是learning from scratch
是我们是站在前人的肩膀上去学的
甚至说的更宽泛一点
我们的社会里面有不同的角色
社会分工
比如说
您是教育家
我们是做工程开发的这些公司里面的这些工业界的人
还有一些经济学家
我们还有服务行业
所有这些人共同分工
有很多多样性
集合起来
我们社会才有那么大的进步
智能才有会有更大的发展
可是现在的神经是深度神经网络也好
人工智能算法也好
强调的不是多样性
是怎么集中所有的这些人员的功能
我们把最后的目标一个单一目标把它学好了
所以这些可能都是需要重新去思考和思辨的
对
其实就从技术的道路走向了对于价值观的判断
价值取向
人的价值和人的意义
其实我对我相信人的智能的存在
绝不仅仅是为了去解决自然界当中的这些问题
它确实是涉及到文化的伦理的
各个方面
哲学的含义在里面
这是我们人类智能承载的东西
所以如果真的要做
人工智能也需要同样能够有能力去承载这些东西
否则的话还没有到人类智能这么高的层次