潘杰+韩文苑
4月末,杨澜就已预见,AlphaGo会战胜柯洁。
但即便象棋下不过、围棋下不过、力气也比不过,机器依然并不能取代人类。
人工智能会说“爱你”,但它不会真的爱你,它像一面镜子,照耀的是人类的善与恶,美与丑,爱与恨。杨澜说,一想到未来手机、空调都在搜集她的数据,这种裸奔的感觉让她不寒而栗。
杨澜又说,科幻片中的人机大战是天方夜谭。
不出意外,柯洁输了。
关于那个在第一局比赛结尾露出的笑容,柯洁的解释是:当然是苦笑了,因为我很早就知道我要输了。而搜狗总裁王小川点评比赛时则更加直接:我们的关注点不是机器能否赢,而是机器用什么姿势赢。所有人在这一回输赢问题上达成了共识。
资本与市场宣称,这已经是人工智能的时代了。
4月末,我们带着一个普通人对人工智能的疑问,与过去一年内探访了30多个人工智能研究机构及实验室的杨澜深谈。当时,她就预判道:AlphaGo还会赢。
果然,可以算得上波澜不惊,天才少年柯洁的完败远并不如去年李世石的失败那样让世人震惊。
杨澜说:她还记得,1997年,当IBM的电脑深蓝战胜了国际象棋冠军卡斯帕洛夫的时候,她曾经在一个节目中断言,这样的事情在围棋领域是绝对不可能发生的。
因为蕴含着古老东方智慧的围棋变化万千,它的布局走法可能性多达10的172次方,比宇宙中的原子数量还多。不止杨澜,围棋专家和人工智能领域的专家,当时也纷纷断言:机器要在围棋比赛中战胜人类,至少还要一百年。
但是只用了不到20年的时间,机器就做到了。数次人机大战,机器都无可辩驳地完胜了人类,甚至表现出了创造力和直觉这些人类最引以为傲的特质。当AlphaGo去年走出让人汗毛倒竖的那一步棋之后,当时比赛的解说员称,再管它叫电脑程序已经不合适了,你完全能感觉到人工智能的“智能”的存在。
什么是人工智能?它们和人类是什么关系?世界上最顶尖的人工智能实验室里都在发生什么?为什么很多名人都让人们警惕人工智能?人机共生,人类准备好了吗?
对人工智能做了深度探访的杨澜一一给出了回答。
Q=《北京青年》周刊
A=杨澜
相较人工智能,人的可贵之处恰恰在于我们不完美
Q:你在去年春节前就启动了这个专题片的策划,那时AlphaGo还没赢李世石呢,为什么这么有先见之明?
A:是,我团队都在说“杨澜姐你太超前了”。我的确对人工智能特感兴趣,人工智能不只是一个新的技术,它会影响到人类的生产、生活,以及人和人之间的相处模式和这个社会的运行模式。我只是隐隐约约地觉得它的影响要深远得多,而且这一次的规模会来得很大。同时在我身边像李开复、张亚勤这些老友,在说到自己的一些研究和投资的方向的时候,也在不停地说到人工智能。让我觉得这件事情非常了得,却很少有人能说明白。
那我就觉得其实观众也会有同样的兴趣和同样的迷惑,以一个媒体人的嗅觉,我觉得应该去探索这件事儿。
Q:你们花了非常大的工夫,做了到目前为止最全面也最有深度探索人工智能的纪录片,我想知道这个过程中你有什么独特的发现和结论?
A:有很多有意思的发现。
人的智能有很多局限性,比如我们经常健忘,然后我们三分之一的生命是在睡眠中度过的,还会做各种各样奇怪的梦,从纯产出的角度,我们肯定不像人工智能一样可以24小时在那计算和下棋。还有,我们的头脑不是用来处理大数据的,我们不可能同时做50万人的人脸识别,我能认清楚我身边这两百个人已经很不错了。我们人类有这么多的局限,那我们的可贵之处在哪里呢?其实这个可贵之处恰恰在于我们不完美。
正如采访中麻省理工学院的一个教授对我说的,“会忘记是人的高级智慧的体现”,如果我们什么都记得住,我们一进了这个屋子,“啪啪”眼睛一拍照,把這个屋子哪有灰尘哪有小虫子等所有细节都记住,我们就不可能把自己有限的能力集中到我们需要去创造、需要去抓住核心的东西上。
所以人类不用妄自菲薄,不要以为一个机器在围棋上不可战胜了,它就在各个方面都超越了人的智慧,人的智慧是有它的独一无二之处的。
Q:走访世界各地做了这么多功课,有没有哪些场景让你受到震撼?
A:我觉得这种震撼既有你看到的东西,也有你可以想象的东西。
当我到了伦敦的旧码头,作为工业文明的遗迹,那边有很多遗留下来的旧的大库房,库房之间有很多铁的天桥。这个当年是多么宏伟,那种蒸汽腾腾,你都可以想象到伦敦的雾天的那样的场景,但是今天,静谧极了,已经成为一个纯粹的历史遗迹了。
于是你会想到工业革命当时在英国,把几百万的农民变成了工人,让他们进入了城市。其实每次大的技术革命和工业革命发生的时候,就会产生剧烈的社会矛盾,我觉得很震撼的就是:那接下来的这一次技术革命,又会带来怎样的社会冲击?
Q:李开复先生说,“人工智能将会给传统行业带来血腥的颠覆”,“十年之内,50%的工作会被AI取代”, 你怎么看?
A:我更愿意说成是未来十年,50%的工作都会受到冲击和影响。受冲击和被取代不是一个概念,至于是不是“50%的人都要失业”,我认为需要商榷。
但是有些行业肯定会受到比较大的影响。比如卡车司机这个职业,他们有可能在十年之内,真的失去他们的工作,那他们该去哪里?甚至如果将来都是无人驾驶的话,我们都不需要拥有私家车,就像今天的共享单车一样,将来汽车也是共享的,那会对现在的汽车制造业产生多大的影响?
还有,如果说蒸汽机替代了人的肌肉的话,那么这一次的人工智能会替代掉很多简单的白领工作,人的脑力工作也被取代了。比如说律师的助理,可能就是一个人工智能,它可以帮助你查到所有需要的案例和卷宗。比如医生的助理、读片师,人工智能已经可以掌握到一千万个关于肺癌的影像资料,就不需要一个老专家在那儿看半天,还有一定的失误率。还有记者,如果你只是做一个五个W的报道,那现在的人工智能已经在帮你做了。所以这一次的影响更深远,涉及到的人会更多。
Q:无人驾驶使卡车司机失去工作的场景,你觉得在十年之内真的会出现吗?
A:我认为在十年之内,无人驾驶是最容易实现的改变。你可以想象,在一些发达国家或是像中国一样的高速公路非常发达的国家,负责运输的司机可能真的不需要了。也许某些场合还需要有一个人把手放在方向盘上,随时准备着人机切换,但是从理论上讲,起码不需要现在这么多司机了。
我们不排除外星人进攻地球的可能性,但是不是现在就要马上建立一套防御系统呢?
Q:在片子中我们看到,科学界对人工智能的认知也不尽相同,甚至还有核心观点分歧,是这样吗?
A:对。我会发现,人工智能这个领域的科学家,往往都是抱有比较乐观的态度。他们认为人工智能不过是自动化的一个新阶段而已,最终还是可以被人类所控制的。
但是,周边学科的科学家和社会公众,似乎对于人工智能的忧虑更多一些。也可能是因为我们看了不少科幻小说和科幻电影,所以就总会假想,如果机器有了人类不可控的能力怎么办?
斯坦福大学有一位人工智能的专家卡普兰教授,他说,其实人对于未知的,但是又很有力量的东西,总是心怀恐惧的。卡普兰教授比喻,这就像一个人在爬树,然后你就会担心他要是爬到月亮上了该怎么办呢?
Q:你自己更倾向于那种观点?
A:我更倾向于:我们眼前有足够多的事情需要去做。与其去担心一个所谓的智能机器将来会统治我们,不如好好来考虑一下随着人工智能的发展,我们的交通规则是否需要改变,失业的人如何能够维持一個家庭的生计,还有由于大数据的发展所带来的我们的隐私问题到底该怎么保护?我觉得眼前的这些事情,已经足够我们烦恼了。
就像我采访哥伦比亚大学诺贝尔奖的获得者、著名的脑科学专家埃里克,他是研究人的学习能力、人的神经系统的。他说“I worry more about Trump”,他说我更担心的是川普的问题,而不是未来的一个机器……这就像说,我们不能够排除外星人来到地球的可能性,但我们现在是不是要马上建立一个专门为了防御外星人入侵的防御系统呢?
Q:所以你是偏向于更乐观,也更务实的态度?
A:我不代表乐观,我觉得技术永远是一把双刃剑。
人类其实可以仰望星空,让自己的想象力无边地驰骋,但是人工智能将要带来的冲击已经在敲门了,我们还是应该首先来应对目前就已经要发生的改变。而且技术的革命和科技的发展,在人类的历史上,从来没有因为人主观的乐观或者悲观,就停止脚步。从来没有!
Q:科幻片中说的那种人机大战是天方夜谭吗?
A:我认为是天方夜谭!在科幻电影里,是机器人一伙,人类一伙,两方产生了不可避免的冲突。但在现实生活中更可能出现的情况是,一群人带着自己的机器,和另外一群人带着他们的机器,所产生的冲突。所以最终要协调的,还是人的利益冲突,而不是说机器突然有了整体的自我意识,决定要把人给颠覆了。这个我认为只是科幻的场景。
Q:那么你觉得机器人可以具有人的价值观和思维方式吗?
A:我认为它们可以因为被输入的游戏规则而展现出某种人类表达的特质。比如说它被输入了“在某种情况下就要说我爱你”,但这并不意味着它感受到了爱;或者说它可以下一千万盘棋,但它不会像一个人那样,真正地享受下棋的过程。
实际上,我们现在只能证明,人工智能在一些需要处理大数据的垂直的领域具有超快的学习能力,但并没有证据表明它们会形成自我意识。
Q:所以你如何看待柯洁5月份将与AlphaGo进行的终极人机大战?(本刊记者采访杨澜时比赛还未进行)
A:虽然从我的判断上来说,它还是会战胜柯洁的,但是从另外一个角度来说,明明知道面对AlphaGo胜率并不高,柯洁还是愿意接受这个挑战,我觉得这就是体现了人类的智慧。而且,即便它能够战胜世界上所有的围棋高手,So what?
中国现在应该开始为迎接人工智能的时代做制度安排
Q:你认为,人工智能最有可能从什么领域进入到常规的日常生活?
A:我想到的是三个方面,一是无人车,就是无人驾驶,它可能会改变我们的出行方式。
第二个,在中国的场景下,就是医疗。因为中国的医疗资源实在分布得太不均衡,医疗能力实际上是集中在一些大城市的顶级专家的手里。但是因为中国人口基数大,医疗数据库也非常庞大,所以如果能够借用人工智能,就可以给那些乡镇级、社区级的医生提供非常好的诊断服务。
第三个方面,如果你要问李开复先生,他可能会说金融了,但是实际上中国在高频交易这些方面还是有限制的。比如股票,如果它用高于人零点几秒的能力下单的话,它就不得了了,但是它也会扰乱整个市场的秩序。
但我觉得,在法律援助这个方面其实是可以考量的,其实现在律师的很大一部分工作是在搜索和查询相关案例和相关法律条例,以及其他类似案件的判决情况。如果有了人工智能的帮助,可能以后基础的法律咨询就不需要请那么昂贵的律师了。
Q:这次的采访涉及全球,你感觉人工智能领域,中美之间的差距大不大?
A:其实中美两国在人工智能领域都是属于第一方阵的,在技术发展的水平上,我觉得各有优势。
的确在原创核心技术的突破方面,还是美国的实验室能力相对要强。但中国是一个大数据的王国,而所谓的机器学习,实际上是大数据学习,这是我们的天然优势。美国在这方面的资源远不如中国。
Q:中国之前的发展受益于所谓的人口红利,在人工智能时代到来的时候,这会不会成为劣势呢?
A:我认为不能简单地说是优势还是劣势。因为中国巨大的人口规模,会使中國在大数据采集和人工智能的应用层面,具有得天独厚的优势。
但另一方面,过去几十年我们依赖低的劳动力成本和出口所带来的制造业的繁荣,也必然要进入一个新的阶段。如果你不能提升品牌的价值和品质,那么劳动力这个优势,其实正在迅速失去。
那如果很多蓝领要失业了,那这些蓝领应该怎样安排?会给社会带来什么样的不安定因素?这都是应该去面对的。
Q:你会有这样的担心吗?
A:我觉得现在就应该做制度安排,这个事情其实是说来就会来的。你现在去东莞看看,很多流水线都是无人工厂了,工人被机器人取代就是眼下正在发生的事情。所以我觉得像特朗普还在跟美国失业的蓝领工人说“我们要把工作从中国人的手里夺回来的时候”,我心里一阵冷笑,其实拿回美国也只是给机器人做而已,因为这是一场巨大的技术革命,它已经不是从什么人手里夺回来一份工作而已。
所以我觉得像中国这样的制造业大国应该开始做一些制度的安排,来更好地应对随之而来的比如失业问题,再培训问题,和税收的问题。
人工智能必然会带来伦理问题,而且已经就在眼前了
Q:斯坦福大学的李飞飞教授多次提到人工智能带来的伦理问题,你是什么观点?
A:人工智能一定会产生伦理问题,而且涉及很多层面。比如微软做了一款人工智能情感机器人“小冰”,当时放在网络上进行测试的时候,就有很多人故意教它说脏话,教它说一些种族主义和充满暴力的话,那么这个人工智能就像我们说鹦鹉“嘴脏了”一样学会了。其实人工智能就像一面镜子,它照耀的是人类的善与恶,美与丑。
还有像自动驾驶,如果出现一个两难的局面,它究竟应该牺牲车上的一个人,还是牺牲路边的很多人,甚至包括孩子?你要把这个选择权交给一个机器吗?如果你交给了机器的话,那么谁又会出钱买一辆将要牺牲自己的车呢?这是一个极致的问题,却不能说它不存在。
还有隐私问题,它其实也是一个伦理和道德范畴的事情。比如商业机构在多大程度上可以使用我的消费行为数据?我在多大程度上愿意暴露我的私生活?在什么样的环境不允许装这个数据采集器?我觉得这些其实就在眼前了。
Q:这么多的伦理问题又应该怎么解决呢?
A:我觉得这是我们需要面对的问题,但不是无解的问题。就像当年从马车变成了汽车,才有了红绿灯和人行道。社会的治理方式和制度的安排,一直都是跟着技术的发展而不断调整和改变的。
Q:前面说到人口红利和大数据采集,但是这其实也面临一个信息安全的问题。事实上我们今天的消费行为甚至个人资讯已经是透明的。
A:这一点我就觉得挺恐怖的,将来绝不仅仅是某些明星和名人的隐私,而是我们每个人的隐私、我们的消费习惯是不是能够得到足够的保护?因为我不想将来我得到的每一个推送,其实都是人工智能很有心机、很有套路地推送的。你还以为是你自己的要求,其实是别人对你的行为的预测。
并且我觉得中国当下应该开始研究隐私方面的法律保护了,可以说中国是摄像头最多的国家,从人脸识别到人工智能的使用,能够让像G20峰会这样的大型会议在开办之前,可以非常高效地抓到在这个城市潜伏的嫌疑犯,因为他们哪怕是一个侧面(被捕捉)都可以被认出来。
技术进步在推动社会发展的同时,法规和制度建设上的配套一定要跟上。
在我有生之年,我的工作不可能被人工智能替代
Q:你目前的生活跟人工智能的关联度高吗?
A:我主要是用手机,我们家还没有用扫地机器人。包括我现在,到睡觉的时候我都希望把手机彻底关掉,或者把它放到另外一个房间去充电。但是一想到未来的手机也好,空调也好,都在搜集我的数据,我就感到不寒而栗,好像有一种裸奔的感觉。所以我觉得未来可能我会比较有意识地把我的工作环境和我的卧室分开,虽然可能分开了也没啥用……
Q:你觉得自己的生活需要跟机器人隔离开吗?
A:那不会。如果是在工作的场景下,我可能很需要一个人工智能的助理,来帮我安排一些琐碎和需要数据处理方面的事情。比如我做采访之前做功课,需要好几个研究员或编辑来做案头的工作,其实将来可以让语音搜索和图像搜索帮助完成很多工作,所以我觉得它还是会为我的工作和生活带来很大的便利的。
Q:你觉得你的工作会被人工智能替代吗?
A:不会,我认为在我的有生之年,我的工作不会被取代。因为我不仅仅是在做一个简单的播报的工作,背后还有很多综合性的思考。我觉得机器在短期内,没法取代我的工作。
关于人工智能的“权威碰撞”
许多年前有一本小说,书名是《海底两万里》。这部幻想作品中的人,发明了一艘使用核动力的潜水艇。如今这早已经成为寻常的现实了。
某种意义上,我们已经进入了前人所预言的时代。
硅谷流行这样一句话:预测未来的最好方式就是创造它。
人类创造了机器,机器又改变了人类。
2016年5月,一辆特斯拉汽车在美国佛罗里达州与一辆拖车相撞,驾驶员丧生。事故原因是处在自动驾驶模式的汽车没能在明亮的天空下发现拖车的白色车身。
特斯拉汽车“自动驾驶”是一项辅助功能,每一次自动驾驶启动时,车辆都会提醒驾驶员“请始终握住方向盘,准备随时接管”。
放开方向盘,意味着人类将一部分掌控权交给了机器。
这也带来了更多的法律和伦理问题:
例如谁来为交通事故负责?
当汽车成为智能的移动空间万一有黑客入侵,谁来保证乘客的安全呢?
机器也将面临人类的道德困境:
在萬不得已的情况下,自动驾驶汽车到底该优先保护车内的乘客,还是路边的人群呢?
如果选择后者,谁又会愿意购买一辆会牺牲自己的汽车呢?
英国著名物理学家史蒂芬?霍金多次公开表示对人工智能的担忧,他认为:“对于人类来说,强大的人工智能的出现可能是最美妙的事,也可能是最糟糕的事,我们真的不知道结局会怎样。”
特斯拉汽车公司掌门人伊隆·马斯克甚至宣称:随着人工智能的发展,我们将召唤出恶魔。
马文·明斯基是人工智能的先驱之一,他有个著名的说法“如果我们走运的话,机器或许会把我们当宠物养着。”
但是,更多人工智能专家的观点是:
现在担心邪恶的智能机器人奴役人类,就像担心火星上人口过剩。——百度前首席科学家吴恩达
在整个人类历史上,其实只有两次大事件是从根本上改变了人类生存状态,一次是工业革命,一次是农业革命。这一次的智能革命是堪比这两次革命的重大事件,可能更为重要。而且,要快速的多。——牛津大学人类未来研究院院长尼克·博斯特罗姆
人工智能会改变人类社会。因为作为一个那么强大的科技,它不光是针对情感、或意图,它也是对智能本身,对有知觉的存在本身的一个挑战。这是一个很好的哲学社会话题。——斯坦福大学人工智能实验室主任李飞飞
然而,你不可能列一张清单,涵盖一切对人类或人类的价值观重要的事;实现的方法只能是让人工智能来学习人类的价值观。
所以,这会是一个终极问题吗?人工智能可以学习并拥有人类的价值观吗?人工智能会是人类最后的发明吗?……