前面其实我们谈到科学和技术
其实都是比较冷冰冰的技术
我们下面我希望咱们可以聊一聊人类社会当中
比较温情的一个话题
社会和伦理方面的影响
我们知道现在大家很警惕的都是说人工智能会
代替人去做一些工作
那么这样的话就有一些职业就会消失
这些职业甚至包括比如说自动驾驶了以后
是不是司机这个职业就消失了
那么您认为这样的一些职业的消失是会造成
即将涌来的一个失业的危机
让很多人没事做
如果说我们把这一个问题放到给他一个历史的纵深
我们可以看到在工业革命的时候有非常类似的问题
工业革命之前
其实例如你进到一个纺织厂
你看到的是大量的人工
工业革命的过程中间
就这么短短的100年里
非常多的劳资的纠纷
然后因为工厂只要一自动化之后
就有大批的工人会失业
市场200年前就是如此
也因为这样
出现了工会
然后工会其实带动了很多的社会的改革跟社会的
你能说到改革
但是可能就是人去适应一个新的环境
新的一个新的系统新的规则
没有错
所以我想这些这样子的事情的发生我们并不陌生
甚至于我们要想不是从工业革命开始
如果我们读历史
我们都知道有铜器时代
有铁器时代
当我们在历史上面我们定说说这是什么时代
什么时代的时候
他还是按照工具去划分的
这个时代的人会用铜这个时代会用铁代表的是
社会整个都变了
因为它所使用的工具形成了
整个社会都要有很大的改变
冷兵器时代跟机关枪时代
当然指的是不同的一个环境的变化对吧
工业革命实际上你看工业革命之后
几乎全世界每个国家
几乎每个国家都闹过革命
不管他的革命是从这个制度变成那个制度
还是那个制度变到这个制度
然后你也看到工业革命这么几百年下来
原则上贵族社会不见了
所以你会看他改变是巨大的
今天我们谈人工智能革命
不应该说他革命
人工智能这个时代
它可能也会形成一些翻天覆地的改变
但是我们怎么样在历史中学习教训
能够让这一些改变
第一个很重要
就是我认为他改变之后
对全部的人类是有好处的
也就是说工业革命前跟工业革命后
一旦它进入稳定之后
你要看到工业革命后我们今天过的生活
对
完全好的多了
对不对
跟以前好的多
只是在这个过程中间
整个社会会有动荡
这个动荡
我觉得事情如果我们准备的越好
让他不要再出现历史上那样子
例如说革命
然后社会的动荡
两次的世界大战
我们要是能够避开这些东西
让他可以比较有系统的进到一个更好的世界
这是我觉得我们一起要努力的
您刚刚所提到的失业问题
确实难免
你很多东西自动化它一定就是失业
但是人的教育总是滞后的
对
但是您提到的失业是看角度对吧
人工智能取代的一些工作
这些可能是重复性高的
对
或者是可能不需要创意的
能够有机可寻的这些工作可能会慢慢被取代
但是你去想
人真的喜欢做这种事
你想在一个装配线上的一个工人
他每一天在那边只做一件事
对
你真的觉得他快乐吗
我想起来很典型的就是卓别林演的
摩登时代
他在流水线上每天只负责拧一个螺丝似的
人就变成了工具了
是反而是异化
所以现在如果说人工智能能够代替人来做这些
事情
您的意思就是人能够获得更大的一个解放
对人把自己的时间解放出来
把自己的想法解放出来
其实大家经常在问我说那人要干嘛
是不是只是每天就画画
或者说每天去看电影就好了
其实我觉得是不止如此
你去想想看
今天世界还有多少的问题没有解决
例如说外太空
我们现在登陆月球完之后就没了
我们没有再往前去去发现
对吧
进一步探索宇宙
然后污染问题
我想今天大家都在承受污染的一个结果
污染问题怎么处理
能源问题怎么处理
我们现在看到便宜的能源一定形成污染
各种能源都有各种能源的问题
那么我们怎么去处理能源问题
我们的医学问题
现在有多少的疾病
其实我们根本不知道它的成因
我们知道我们还有太多的问题需要我们去去做
那我们能不能把人的时间跟他的智能放到这
一些更有需要
而且需要更高智能的一些工作上面去
只是您讲的没有错
在这个过程中间
假如说有一个人
他一辈子就只会开车
然后自动驾驶车上路之后
这一个人可能他会失业
会实验
然后没有办法在比较短的时间之内经过教育
不过能够适应
对这个地方是有比较大的冲击的
包括前一阵有一个很著名的一个帖子是说有一
个人在收费站工作
结果公路的收费站撤销
他就觉得我收了一辈子的费
我其他事情做不了
对
所以这个其实也是一个教育的问题
所以我们说您认为说尤其是我们现在的年轻一代
应该怎么样应对
我想您刚刚提到的这种时间稍微拉长一点
我们大概一代两代
我们可以用教育的方法来处理
但是当然短时间之内会有一代的人有可能会
受到一些冲击
在这个地方我觉得可能你就要用社会保险
社会救济等等这些方法去处理
所以我经常来讲
人工智能不是光计算机科学的问题
人工智能一定牵扯到社会学
它一定跟经济学有巨大的关系
也就是如果人失业之后有社会保险
然后能够让他不要自己和家庭都受到影响的话
那这个过程就不会这么的难过
所以它是也是一个经济问题很多的
然后更是一个教育问题
有关教育我觉得就是说我们过去在学习的时候
总觉得背诵一个东西背下来
然后可能是我们从小能够考高分的最主要的诀窍
灌输知识
然后老师教学生
就是把他教会
我教你就是这样
我有时候想想也觉得蛮好笑的
有的时候如果老师用这种教学方法的话
老师教学生的知识经常都是他30年前当学生的时候所学的
没错
然后他今天教给的学生
希望学生在30年之后碰到问题的时候能用那个方法解决
前后一加起来是60年的差距
世界变化这么快的情况下
你教学中间的落差形成一个60年的差距
当然是很不正确的事情
所以想尤其是在人工智能它能够逐步的取代很
重复的这种脑力劳动
重复性的脑力劳动
他能够慢慢去取代他的时候
其实我们在教育上面
应该要让我们的学生能够更活
也就是说它让人能够更像人
不要让人又像工具了
我们从小的时候
父亲总会跟我们说
你就是要学一技之长
一技之长
你只要一技之长
以后就不怕饿肚子
这是我们小时候经常学的
就是父母亲经常讲
他说我们才这样讲一技之长
但是有时候我也想想
一技之长是最惨的
因为一技之长一旦被取代之后就什么都没有了
一技之长指的是变化最小的
对吧
最没有变化
最有迹可寻的反而是最容易被取代的这种技能
原来是说有两个职业是不会饿肚子
一个是医生
一个是教师
但是现在看来
人工智能可能非常有可能把这两个职业
或者说这两个职业里头的大多数对给取代
我觉得在我个人的看法就是说每一个职业
里面都会被取代一些
也就是说的我们今天的职业
大部分的职业指的都是工业革命之后所逐步
形成的那些职业
但是当你现在有一个完全不一样更powerful非常多
的一个工具之后
你的所谓的职业还是不是如此定义
其实我是存疑的
例如说一个医师
一个医生怎么可能被取代
一个医生
例如它的它的医学知识
然后例如说他对一些疾病的一些经验什么
他不是很容易被取代的
但它会被取代什么部分
他被取代的是比如说内科医生
一个病人坐在那边
然后内科医师看一下
然后问两个问题就开药了
这种事情很容易被取消被取代
对
因为看一看
这个就是脸部识别根据经验
根据一些经验
但是这些经验是最容易被
人工智能找被人找到有脉络可循的东西
我都可以把它写成一个人工智能的东西来取代
因为它是每天都重复的非常类似的这种东西
但是医生的医学探索还是非常重要
现在有太多的疾病并没有解决
对
没办法攻克
所以也许以后的医生会花比较少的时间去看病
看病人这种很routine的很重复的工作
但是可能会花更多的时间在探索很多今天我们
都不知道的事情
老师也是一样
老师当然还是非常重要
但如果说一个老师他只是会背诵知识
只是会背诵知识
然后发考卷让学生考试
如果然后考卷每年都长一样的
这些部分会慢慢的可能会被取代
但是师者传道授业解惑者也
对吧
传道授业解惑
我想这是千古不变的
一定还是传道授业解惑
尤其当学生有问题的时候
你要问谁
当然是问老师
对
像这种都是无法取代的
好的
那么其实这方面
刚才我们说的是一些关于就业关于教育的问题
其实现在人工智能呢也很有可能介入到人类的
情感生活当中
一个很非常重要的例子
就是很多科幻电影所探索的那样
比如说在01年
斯皮尔伯格他导演的电影就叫人工智能叫AI
它描述了一个机器人的小孩
人工智能小孩进入到一个真实的人的家庭里边的时候
他所发生的一切的事情
然后还有就是2013年
有一个叫做Her叫做云端情人
它讲述的是一个程序员跟跟操作系统谈恋爱的故事
所以人工智能他既然是说去模拟或者靠近人的智能
当然情感方面也是一个很重要的因素
那么潘博士您觉得人工智能如果介入了人类情感之后
它会不会对人类社会的基本构成
比如说家庭还会造成什么样的一个影响
我想刚好您刚刚提的两部电影我都看过
我想拍电影的人
电影能够引人入胜
就是因为他会做很多让我们想象不到的假设
我觉得很难去把某一部或者某几部的人工科幻
电影拿来当做未来真的会发生的事情
我在讲回到微软小冰
微软小冰他是一个能够聊天的机器人
对很多人来说
跟微软小冰聊天是一件很愉快的事情
所以微软小冰现在我们有五种不同的语言
然后已经有1亿的全世界有1亿的人在使用
微软的这种聊天机器人的功能
而且是经常使用
我觉得人打发时间
或者打发时间里面的一些的情感的寄托
并不见得代表他一定就影响了家庭生活
例如说有一个先生很喜欢打高尔夫球
打得非常的忘情
一天到晚就是跟他一些高夫球的球友整天鬼混
他的家庭不受影响吗
一样受影响
然后很多的年轻人玩手机
永远都低着头划手机
你说划手机这件事情是不是真的影响人的社交生活
它可以是也可以不是
对
例如说我今天因为我用了社交软件
然后我可能跟我已经失散非常多年的高中朋友
大家通通连接在一起
然后接着我们大家可以30年没有见面
我们出去吃一顿饭
其实它是增加了我的社交生活
但是如果说你今天玩手机玩到没朋友了
那才是影响你的社交生活
所以我想人工智能它究竟是影响我们的社交生活
还是强化我们的社交生活
还是一句老话
这些东西都是工具
工具它都可以往左可以往右看
你自己怎么去引导他
人工智能像是《Her》
这部电影里面谈起恋爱来
究竟还是跟您刚刚讲的程序员本身心里的寂寞
是有关系的
是的
因为现代的社会里头人人和人之间的交往
他可能有有一些共同的规律
但是也有一些个人的问题
这些个人的问题
他可能也不能够说
我们把这以前以偏概全
对
归结到这上面的
是的
在古代什么都没有的时候
也是有很孤单的人
对
那个时候他可能会对这一幅画
对
是的
就会沉迷在里头
也是一样的
是的
然后还有一个就是我们关于一个伦理的
您作为科学家
那么实际上还有一种说法就是当人工智能它的
运行背后的运行是一种人类无法理解的这种方式
在运作的时候
因为比如说我们神经网络
其实很多人或者说目前还不知道中间发生了
什么事儿
它最后出来这个结果
那么类似这样
那么实际上人类对于未知还是挺恐惧的
就是不知道他到底会把我们带到什么方向去
所以这样的话您认为说人工智能的研究者是否
需要遵循一种科学伦理
比如说像研究基因工程研究克隆人是要被禁止的一样
那么人工智能在研究方面有没有您认为有没有
一个研究的禁区
对
我觉得我个人比较不太认为有所谓的禁区
但是我觉得任何一个做研究的人也好
或者是说科技公司也好
它是应该要有道德
并且接受一些的一些的约束的
然后有一些东西它如果可能会产生危险的时候
它是应该节制的
人工智能绝对不是唯一一个这个东西
对吧
您刚刚提到了克隆人
我最近听说在英国他们想要用基因工程让牛生下来的时候没有角
因为现在牛头上有角已经没有用了
对吧
牛大部分都是拿来挤牛奶
所以他们要透过基因工程
让牛的头上没有角
这样它痒的时候
它也它不会戳你
对他也不会互相伤害
也不会说你在挤牛奶的时候他突然
把你戳伤了
你说这种东西危险还是人工智能危险
这个听起来也怪怪的
对吧
也可以
所以我整体来说
人工智能的发展
因为DNN里面会有一些的东西
我们今天没有完全的了解
但是人工智能究竟它产生出来结果
我们是可以控制的
它也许它过程中间那些对我不是那么了解
但它产出的结果我们可以控制的
所以我现在并没有在人工智能这个东西上面看到
一再强调的超过所谓的工具的这样子的一个范畴
我也比较没有看到
人工智能它会突然有一天不受操控
却形成了自己的智能行为
我真的没有见到
我也不觉得那是可能
我认为出现bug是可能的
对吧
如果说有些伤害是因为你写的program
有bug
对吧
那个是可能
但是跟人工智能也没有关系
对
前一段有报道说
Facebook有研究员说两台机器对话对聊天
到最后人类看不懂他聊什么
这个可能更多应该是一个bug
但那可能是bug
也有可能是说因为他是让两个东西自己跟自己对话
那也就是说你并没有在人去介入
这个时候其实我们要是学control system的
我们都知道你的feedback
如果说他不是收敛的时候
他就会发散
所以他这两个一直对话都在发散
发散的时候出现人不能理解很正常的事情
就是你一个麦克风突然有一天变的很大声
那就是它的echo
对吧
你那回音在里面
发散的
对
这是很自然的事情
所以有很多东西我们看到的都是一个人的一个恐慌
这个恐慌里面就例如说像是您刚刚所提到的
那个东西发散了
然后人看不懂
很简单的一个就可以理解的一件事情
所以我觉得第一个
人工智能我到目前为止
我真的还是没有什么看到这个工具之外
然后会完全不受控制
形成另外一种智能
我们是没有看到到目前为止
但是我绝不否认
我绝对支持
我们所有的开发者都应该有更高的责任心
他这个责任心不光是人工智能
在以前我们在编程的时候
你都有可能因为一个bug而产生很巨大的影响
危害更大
危害非常大
我们也比较看到
因为bug而产生的危害
比我们刚刚讲的那种
有一天就出现自己智能的对比要真实
而且实际的非常的多