人工智能面临的问题、挑战与伦理

李彦宏

我觉得AI应该做的是让它去帮助人和服务人，不应该做的是让它去伤害人和控制人。如果AI在某些方面，对人的正常活动产生了负面的影响，那我们也要去规范它。

作为新一轮科技革命和产业变革的重要驱动力，人工智能已上升为国家战略。当前，人工智能还处在发展初期，但在某些领域已经接近甚至超过了人的能力，展现出巨大的变革力量。

所以我觉得我们需要从社会、政府和公众的角度来考虑在人工智能这个技术的发展道路上什么是应该做的，什么是不应该做的，什么是好的，什么是坏的，我们及早地把它做一些规范，做一些预判，尽量避免人工智能向不好的方向发展。

比如怎么能够避免大量的失业，怎么能够保证数据的安全，怎么能够不被黑客所攻击等等，这些问题我觉得需要及早地从一个全局的范围来进行考虑。

谈人工智能行业中存在的问题和挑战

人工智能这个领域肯定是有泡沫的，而且泡沫还不小，但是我觉得这个也正常。因为任何一个新的趋势到来的时候大家都会感兴趣，一拥而上。无论是投资也好，创业也好，或者是大的公司研发方向的调整，都会向着这个新的趋势去走，所以一定会产生一些泡沫，包括一些创业公司估值非常高，融资额度很大。这种大的公司，不管适不适合去做人工智能，也都在讲人工智能，也把很多研发资源都投入到人工智能上。

为什么我认为这是一个自然的过程？只有这样大家都一起上的时候，才能够推动这个产业迅速地走向成熟。而这个走向成熟，或者是走向理性的过程，也是一个优胜劣汰的过程，那些不适应市场需求，跟不上时代步伐的公司会逐步地被淘汰掉，剩下的一定是一些少数的公司。不管是创业型的公司也好，大型的公司也好。比如一千个公司，最后剩下20个、30个，这些剩下的公司就会发展得很好，越变越大，它们的技术，它们的产品就会被市场所接受，我觉得这是一个很自然的过程，而且应该说也是一个健康的过程。因为你不把公众的兴趣调动起来，没有那么多资金投进来，很多技术不可能那么快被开发出来。今天大家讲的十个技术里面，可能有九个将来会证明其实没什么价值，但是有一个技术最后慢慢被打磨成了一个非常有价值的技术，这个我觉得是一个自然的规律。我觉得大家也需要有这种心理准备，今天很热的一些公司，可能十个里面有九个在五年以后就不存在了。

我觉得大家对人工智能还是有很多误解，两方面的误解都存在。有一些对技术发展速度比较乐观的人他们开始担心，人工智能一旦有了意志的话，会不会对人产生控制的能力，很多担心的都是说人工智能会超越人、控制人，在这方面有一些担心。我觉得这个担心其实是没必要的，人工智能离这一步其实还非常非常远，我的判断是永远达不到，非常远的意思就是我们不需要担心。另外一个极端就是觉得，人工智能其实现在能做的有意义的事情还不够多，这个市场还处在早期的阶段，所以对它不够重视，这个也挺危险的。因为我们看到人工智能对于人类社会的这种推动作用是方方面面的，不僅仅是对消费者在各个层面的推动作用，比如说信息自动个性化的推荐，视频的理解。更多的是在生产端，比如我们的生产制造，生产出来的钢板有没有瑕疵，组装iPhone的时候，每一个零件是不是合格等等，其实确实在这一方面是可以大规模的提升生产效率的。如果一些企业不能够及早地意识到人工智能在这一方面能够起到的作用，是有可能被淘汰的。所以两个方面的误解我觉得都有，既不能极其悲观，认为人工智能技术还在早期的阶段，不需要现在去做很多准备。但是也没有必要把它夸大成有一天人类就面临灭亡的危险了，我觉得现在离那一步还非常非常遥远。

谈AI伦理、人工智能对现有法律体系产生的挑战及相关建议

我觉得AI的相关立法本身不应该太超前，很多时候确实是新事物刚刚出现，让它稍微跑一段然后再总结经验，找到规律再来立法，这是第一。第二的话，就是在不同的领域，它可能涉及的立法都是不一样的，比如说像无人驾驶，那么在过去就没有相关的法律，我们往五环上一跑，大家就说违法了。但是这个事情一出来之后，其实北京市很重视，马上市长就召集交委开会，说我们得解决这个问题，到今天百度已经拿到了50张左右的自动驾驶测试车证，所以很快有相应的法律来保障你的这种创新能够有序。

刚才我们讲到医疗方面，我也很希望做相关的立法，统一电子病历的格式，必须要有什么样的字段，要有什么样的内容，必须不同的医院、不同的机构之间进行交换，那么必须要保护患者的隐私，你不能把什么样的信息透露给什么人等等，这些我觉得都应该通过立法的方式来解决。其实我只是举了交通和医疗这两个领域，比如说在环保领域、金融领域，各个领域它可能都会遇到一些新的问题，我觉得应该去分析这些问题，找到规律，然后做出相应的立法。

我觉得AI应该做的是让它去帮助人和服务人，不应该做的是让它去伤害人和控制人。当然我刚才讲的，我认为AI发展出来一个超能力、真正控制人类这个是不大现实的。但是跟所有其他技术一样，如果我们不注意去控制它的话，就会出问题的，就好像碰到高压线会被电死，并不是说电比人更聪明，而是这个技术在发展的过程当中，它是有可能出事故的。在这一方面，我们要做相应的预案，要去做防备的措施，不要让它跑偏了。什么叫跑偏了？如果AI的能力出现了会伤害人的地方，那我们要赶紧往回拉一拉，要对它进行控制。如果AI在某些方面，对人的这种正常的活动产生了负面的影响，那我们也要去规范它。国际上其实有一些这种组织已经在讲我们不要去开发AI的武器，不要搞这种杀伤性的武器，这个我觉得就是一个很好的方向，我们不希望它用到不该用的地方去。该用的地方就是要去服务人，帮助人们做一些人们想做的事情。

我再举一个医疗的例子，其实很多住院的病人出问题是什么？就是他在病房里面摔倒没有被人发现，没有被及时的发现，这个时候有出问题了。我们不可能放一个人24小时在任何一个病房里面看着这些病人。但是你可以放一些摄像头，用AI的能力。我就干这一件事，我就监控这个病人有没有摔倒，这个是完全可以做的。类似于这样的应用场景，我们去多挖掘，让它去服务人，去帮助人。所以未来的AI主要的目的不是去替代人，而是帮助人，把人想做的工作做得更好，做得更高效。我觉得这是从AI伦理的角度，是这么一个思考。

谈百度在人工智能行业的发展成果和优势释放

2016年在乌镇互联网大会的时候，我说过百度希望做人工智能这艘巨轮上的甲板，带着大家往前走。我觉得目前百度实现了一小部分，因为我们从那个时候起，就一直在尽力地去建相应的平台，包括自动驾驶的阿波罗平台。阿波罗平台今天大概有130多个合作伙伴，所有的合作伙伴他们大多数都是希望利用阿波罗平台这种开源开放的能力，减少他们在自动驾驶方面的投入。世界著名的这些大的车厂、一级供应商、一些自动驾驶的芯片厂商都在这里面。还有深度学习的框架，我们叫PaddlePaddle，这个也是中国目前唯一一个有一定影响力的深度学习框架，这方面的开发者现在也非常多。而且我们不断地在靠降低门槛，让大家去更好地使用，我们在上面再编一些好的工具。

现在就是说，学术界用这种深度学习框架用得比较多，在工业界、商界用得还不够多。之所以用得不够多，还是因为它门槛比较高，需要花很多时间去学习。那我们自己最近还搞了黄浦学院，教这些企业里面从事深度学习工作的技术人员，教他们怎么更好的上手去运用深度学习的能力，为他们的企业去创造价值。所以，百度这种平台的能力，现在使用的人越来越多了，包括我们的度秘，我刚才讲的小度在家，小度音箱这是我们第一方的硬件，端到端都是百度控制的。其实还有很多第三方，他们在使用百度的人工智能对话的能力，很多的手机，包括华为手机什么的，它的语音助手背后都是百度在提供的，每天也有很多人都在通过各种各样不同的硬件形式来使用这种人工智能的能力。

为什么我说只是实现了一小部分？因为还是不够普及，还是使用的规模还不够大，我觉得就是现状这种规模再乘以十倍，才能够让大家有更明显的感知。这其实不能说是对百度员工提的KPI，更多的是一种价值观，我们每一条产品线，不光是百度整个公司我们自己有这种使命、愿景、价值观、战略。