AI探索无止境，应用有禁区

马丽霞

著名物理学家史蒂芬·霍金曾言，“创造人工智能可能是人类文明史上最伟大的事件，但也可能是最后一个。”人工智能的正向作用有目共睹，但它将使人类遭遇怎样的伦理困境？人工智能是福是祸？

变革总是充满争议的。人类不断造物的漫漫历史中，每一项变革性技术的问世，总会引发人们一轮又一轮激烈争论，争论的焦点主要不是技术，而是由此可能带来的未知风险和伦理困境。这是必要的，它反映了人对自身性质、地位、价值的严肃思考。

人工智能可能给人类社会带来颠覆性的变革，它的发展必须有伦理的介入和匡正。但是，对于技术，过度期待不可行，深度忧虑亦不可取。技术本身无善恶，这把双刃剑剑指何方取决于人类自身。人的大脑是一个通用的智能系统，可以举一反三、融会贯通。与之相比，当前人工智能仍很“稚嫩”，能理解人类的情感文化，拥有智慧、情商，会推理、“算计”的强人工智能尚只存在于银幕中的虚构世界里。如果因为前方可能存在危险，就停止向前探索的步伐，人类不可能拥有如此丰富多元的今天，也无法创造出更多可能性的明天。

但是，现代科技的不可逆性，也警示我们不能随便拿人类的命运冒险。在人工智能的推进中要注入人文理性，坚持“科技以人为本”的基本原则，伦理学家、人类学家、哲学家等学术各界和社会公众都要积极参与其中。而为了防止技术被某些利益团体利用或造成新的社会不公，除了强调科学家和科学共同体遵守道德义务外，政府的管控、法律的约束不能缺位。要让技术的发展始终在一个社会开放的空间中进行，防止黑箱操作。

人类制造工具，而工具让我们走得更远。人工智能初显的应用前景令人欢欣鼓舞。它的长远化应用，将是全球新一轮产业革命的引爆点。无论是德国的工业4.0，美国的“再工业化”战略，还是我国十九大报告部署的“推动互联网、大数据、人工智能和实体经济深度融合”，都反映出各国对人工智能的高度重视。毕竟，在这场新的技术革命中，谁抢占先机，谁就能获得新一轮产业革命的主动权。

毫无疑问，人工智能越向前发展，人类面临的伦理问题也会越尖锐。但是，技术应用有禁区，科学探索无止境。发展人工智能技术的同时应重视相关伦理问题的思考研究，但未雨绸缪的同时要避免过度敏感。播种善因、规避恶意，才是更加理性的作为。面对人工智能发展道路上接踵而来的问题、挑战，我们要做的，就是努力把控好技术发展的方向，让它造福人类、造福自然。▲

（作者是中国科学院自动化研究所智能感知与计算研究中心高级工程师）