人工智能的伦理关切

周剑铭++柳渝

2017年1月在美国加州阿西洛马（Asilomar）召开的“阿西洛马会议”（the 2017 Asilomar Conference）上，包括844名人工智能和机器人领域的专家们基于对人工智能和机器人（AI和Robot）迅猛发展的深切关注，联合签署了《阿西洛马人工智能原则》（Asilomar AI Principles），呼吁全世界的人工智能领域的工作者遵守这些原则，共同保障人类未来的利益和安全。

对AI和Robot的发展所产生的对人类自身的地位和价值影响的担忧由来已久。稍早，在2014年，由Skype联合创始人Jaan Tallinn、麻省理工学院教授Max Tegmark、物理学家史蒂芬·霍金、SpaceX和Tesla Motors创始人埃隆·马斯克、牛津大学未来人类研究所（Future of Humanity Institute）主任Nick Bostrom等有关的专家教授，以志愿者的身份创立了未来生命研究所（Future of Life Institute，FLI）。2015年1月11日，他们发表了一封公开信：题目是《为稳健性和利益性的人工智能而进行研究》，提出“我们的人工智能必须只做我们要它们做的”，即“有益的人工智能”（Beneficial AI）的口号，而对这样的问题的高度关注，此前已经引起了业内外的广泛注意和严肃讨论并有所行动。更早的时候，在实体机器人出现之前的上世纪四十年代，科幻小说家阿西莫夫著名的《机器人学三大法则》及其之后的多种补充原则，被广泛地引用和争论。

《阿西洛马人工智能原则》实际上是所有对AI和Robot的發展而产生的对人类难以估量的影响的长期观察、思考的一次集中性表达，在更深远的意义上，可以看作是科学家顶替缺位的哲学家、人类学家、伦理学家对人类自身的性质、地位和价值的一次严肃思考。（柳渝为法国亚眠大学计算机系副教授）