AI的伦理挑战

刘建华

人工智能技术正变得越来越强大，那些最早开发和部署机器学习、人工智能的企业现在也开始公开讨论其创造的智能机器给伦理道德带来的挑战。

去年年初，昆山市政府公布了一份富士康工厂的机械化数据：自从2014年iPhone 6上市至今，富士康已经使用机器人（又或者是机械手臂）取代了超过一半的工人，当地工人数量由11万人减少到了5万人。“工人的饭碗会不会被机器人给抢走了？”这是机器人大规模进入企业引发的无数劳动者的担忧。

而在去年3月9日，世界冠军、韩国棋手李世石与谷歌“阿尔法狗”（AlphaGo） 在首尔上演的围棋“人机大战”和今年年初AI机器人AlphaGO的改进型Master再次完胜人类围棋顶尖高手，更是引起科学界及社会各界的高度关注和伦理上的争议，原因就在于人们对人工智能超越人类智慧的恐惧与担忧。

目前，无论是学术界，还是工业界，研究人员都对人工智能带来的伦理挑战进行了大量研究，最新消息显示，微软、谷歌等公司已经成立了人工智能伦理委员会，希望能对这一问题提出解决方案。

智能机器产业前景广阔

在《男儿当自强》的激昂旋律中，一红一黄的两只雄狮伴随着音乐的节奏舞着优美的动作。5月3日，《小康》记者走进位于广州开发区科技企业加速器的巨轮（广州）机器人与智能制造有限公司办公大楼，首先跳入视线的便是这两只一红一黄的雄狮，不仔细看，还以为是真人在舞狮欢迎宾客。该公司副总经理洪润龙告诉记者，这是他们公司研发和生产的智能机器迎宾雄狮。

在巨轮（广州）机器人与智能制造有限公司一楼的展厅里，记者还看到了各种大大小小的机器臂手，“这些机器臂手广泛运用到各个行业的生产企业，尤其是汽车行业，机器化生产已达到70%。”研发总监毕辉介绍说，为从事工业机器人及其核心部件、控制系统、柔性自动化技术开发、制造，公司与多家国际著名的智能装备、精密机床企业建立深度紧密伙伴关系，引进全球领先的前沿技术，解决目前制约国产机器人及智能装备发展的控制系统技术与精密制造技术。目前，巨轮（广州）公司在工业机器人控制器以及RV减速器等核心关键技术、部件方面已取得重大突破，公司自主研发的重载、轻载六自由度工业机器人、五轴联动加工中心、自动化立体仓库、柔性自动化生产线等具备高敏捷性、高稳定性、高一致性和高安全性。

“2014年，在国家发改委和广州市政府的引导和支持下成立专业投资企业。主要专注于人工智能相关领域先进技术的研发和引进，并完成相关技术项目的落地与二次开发。” 广州中以智慧产业投资有限公司副总裁张伦明在接受《小康》记者采访时表示，智能机器人作为人工智能最重要的应用场景之一，是一个朝阳产业，其发展前景广阔，借助以色列在智能机器人发展方面的先进技术，公司依托旗下的中以智能制造基金、中以机器人基金、中以机器人研究院以及以色列英飞尼迪投资集团的丰富投资管理经验和庞大的资源优势，专注于智能制造和机器人等领域先进技术的研发与引进，推动相关技术项目在国内特别是在广州的二次开发和落地，促进关键技术创新并带动新兴产业发展。

智能装备和机器人产业作为人工智能最重要的应用场景之一，从中央到地方，都在加速布局。广州提出到2020年将培育形成超千亿元以工业机器人为核心的智能裝备产业集群的目标。事实上，不仅仅是广州，东莞、长沙、武汉等地都在争夺人工智能产业这一蛋糕。广州开发区经济发展局副局长赵必荣告诉《小康》记者，广州开发区智能装备产业主要集中在通用设备、专用设备和机器人三大细分领域，基本形成了从上游关键零部件、中游整机到下游应用集成的完整链条，其中机器人产值规模最大，占智能装备总产值的一半以上。主要发展有自主知识产权、有核心竞争力、有市场前景的工业机器人，重点支持工业机器人本体、控制器、减速器、伺服电机等关键零部件的研发和应用，并培育发展服务机器人、家用机器人。

智能装备产业一直是广州开发区重点发展的产业，目前拥有机器人及智能装备企业73家，2015年实现工业产值132.5亿元，近五年持续保持16%的复合增长率。开发区拥有广州数控、广州启帆、巨轮智能、瑞松、明珞等一大批国内知名的智能装备企业，以及中国（广州）智能装备研究院、国家机器人检测与评定中心广州分中心等以智能装备共性技术研发为主的产业公共服务平台，同时还引进了库卡、发那科等全球机器人巨头。上海发那科机器人有限公司将投资1.08亿元，建设集机器人销售、展示、技术支持、小型加工中心制造与仓储等于一体的华南基地，目前已在“广州机器人产业园”落实4万平方米的用地;库卡机器人公司去年也已在开发区成立广州分公司，目前正在筹备选址设立机器人新工厂，重点开展工业机器人的研发和生产。

广州开发区从2014年开始规划建设占地448公顷的智能装备产业园区，目标是到2020年实现工业产值200亿元，培育1-2家拥有自主知识产权和自主品牌的百亿级工业机器人龙头企业和3-5家相关配套骨干企业。目前，全区集聚智能装备企业75家，2016年实现工业产值110亿元，约占全广州市规模的三分之一。

年轻工人“要做机器人的主人”

近两三年以来，《小康》记者在广州、东莞、佛山等珠三角地区的企业走访时发现，在“转型升级”、人工成本日益上涨等大环境下，诸多劳动力密集型的企业都在积极推进“机器换人”工程。

在东莞，“无人工厂”已经出现，工厂中每天近百台机器手正日夜无休地打磨一个个手机中框结构件，它们被分成10条生产线，每条生产线由一条自动传送带上下料，这个过程不再需要任何人力，需要的只是每条线3名工人负责看线和检查。企业主告诉记者，以前整个工厂要650个工人，现在生产相同的东西，只要60个人就已足够。

去年年初，昆山市政府公布了一份富士康工厂的机械化数据，称自从2014年以来，富士康已经使用机器人（又或者是机械手臂）取代了超过一半的工人，当地工人数量由11万人减少到了5万人。

2011年，富士康CEO郭台铭宣布“百万机器人计划”，计划投入100万台机器人到生产线上，此前富士康自主研发的“FOXBOT”机器人开始在山西晋城批量制造，正式成为富士康的一员。如今，6年过去了，根据富士康自动化技术发展委员会总经理戴佳鹏此前宣布的数据，超过4万台机器人被部署在富士康各个生产流程环节当中。

《小康》记者此前在走访位于汕尾市的深汕合作区部分生产企业时也发现，这里新建的工厂，大部分都以智能机械代替了大量的工人。“机械可以日夜不停地工作，不会喊累，不会闹情绪，不会要加工资，更不会喊要罢工，而且没有安全事故。智能机械的好处显而易见。”大部分企业主都表达了同样的观点。赵必荣在接受采访时也表示，“机器人确实要比工人好管理，最深有体会的应该是生产线部门。”

2013年以来，我国已经连续三年成为全球最大的机器人市场。各地积极推动机器换人有政策引导的倾向，但更多的是基于现实的需要。在中国一些沿海地区，人口红利下降、人力成本上升、人才结构矛盾等问题正在倒逼国内制造企业以机器换人。同时，随着制造业的转型升级，原来的农民工可能难以承接新的工作，企业招录不到所需劳动力，也只能进行机器换人。

虽然实际上目前很多领域单位产量所需机器人的成本并不低于劳动力成本，但“机器换人”这一大趋势依然存在。

然而，工人的饭碗真的会因为机器人的来临而失去吗？

“短期内不会，目前机器人代替的大部分都是机械化的辛苦、危险的工作，都是一些现在80、90、00后不愿意干的又脏又累的活。”毕辉说，机器人逐渐替代人类是产业发展的必然，批量引入机器人不仅要建立在标准化、批量生产的基础上，还要取决于技术的发展和企业的经济实力。张伦明也表示，机器人运用到企业虽然具有很大的优越性，但不可能完全取代人的工作，因为机器人没有思维，只能按照既定程序操作，无法灵活转变。

赵必荣说，人们在谈论机器人或者智能化的时候，潜意识里总会有一个观点，认为机器人与人工是对立的，所以喜欢将它们放在一起比较。但几年下来的现实情况是，智能与人工非但不是对立的，很多时候还是相辅相成相互促进的。

首先，智能制造并不排斥人工，例如人机交互技术就是工人与机器实现协同生产。目前的工业机器人只是代替了一些简单、繁重、危险工序中的人工;服务机器人可在居家养老、医疗康复、教育娱乐等领域解决专业人员不足等难题;而语音识别和人脸识别等人工智能技术也只是帮助人们更有效率、安全地工作和生活。总的来说，智能机器并未对社会就业率带来较大影响。其次，智能机器正在创造新的就业岗位，因其是多种技术的交叉融合，自身发展离不开大量专业技术人员，其催生的新产业生态可吸纳大量劳动力。

但越来越多的年轻人也清楚地意识到，机器换人已是势不可挡。危机，危机，正是危中有机，所以经济大转型时期，机会往往是并存的，就看你有没有敢于改变的勇气与决心。“作为工人的我们，只有通过知识和技能才能改变作为廉价劳动力被剥削的命运。趁此时攒点钱，去学技术，去学知识，达到精通级别，才是我们改变命运的王道。”年轻的工人喊出“要做机器人的主人”。

喜与优 去年年初，昆山市政府公布了一份富士康工厂的机械化数据，称自从2014年以來，富士康已经使用机器人（又或者是机械手臂）取代了超过一半的工人，当地工人数量由11万人减少到了5万人。

人工智能会否超越人类

去年和今年两次的围棋“人机大战”都以人类失败告终，这让许多人质疑人类智慧不如机器，人类可能被人工智能所取代。随着技术的发展，人工智能在陪伴机器人领域中的应用已走入越来越多的家庭，机器承担着越来越多（来自人类）的决策任务，更多人担忧的是，有一天会不会真出现如美国大片里机器人失控追杀人类的场面？

人工智能技术正变得越来越强大，那些最早开发和部署机器学习、人工智能的企业现在也开始公开讨论其创造的智能机器给伦理道德带来的挑战。

针对“人机大战”的两次惨败，计算机科学国家重点实验室主任林惠民认为，人工智能是个复杂概念，有些人工智能处理的是“可测度”的问题，比如各种棋类游戏，不论多复杂，规则是确定的，变化是有限的。计算资源和算法强到一定程度，电脑在计算上总是会胜过人类。但很多领域是不可测度的，包括人的创造力。比如google下棋赢了人，但是设计下棋程序的还是人。

“机器学习、深度学习发展很快，新的算法层出不穷。这个人工智能与多年前的深蓝电脑不一样。当时人们觉得，如果让深蓝来下围棋，它还太小儿科。而如今，人工智能已经可以战胜人类了。”中科院院士吴一戎说，“不过，我觉得人工智能对人类有威胁还是一件很遥远的事情。等我们发展到了这个程度，自然会有相应的科学伦理出台。目前我们要做的，就是跟上人工智能的发展步伐，它将对我们的社会产生深刻的影响。”

在《麻省理工科技评论》的EmTech峰会上，微软研究院的常务董事埃里克·霍维茨（Eric Horvitz）说：“我们正处于人工智能的转折点，人工智能理应受到人类道德的约束和保护。”

其实，去年一年，无论是在学术界还是在工业界，研究人员都对机器学习和人工智能所带来的伦理挑战做了大量研究。加州大学伯克利分校、哈佛大学、剑桥大学、牛津大学和一些研究院都启动了相关项目以应对人工智能对伦理和安全带来的挑战。而亚马逊、微软、谷歌、IBM和Facebook则联合成立了一家非营利性的人工智能合作组织（Partnership on AI）以解决此问题（苹果于2017年1月加入该组织）。

这些公司也正在各自采取相应的技术安全保障措施。谷歌的研究员玛雅·古帕（Maya Gupta）强调谷歌的研究人员正在测试如何纠正机器学习模型的偏差，如何避免模型产生偏见。“机器学习是可控制的，是精确的，是可用统计学来衡量的。并且，这里存在着很多让社会变得更加公正、更加道德的可能性。”