对人工智能的信任：如何建立全球信心

9月10日，在ISO大会期间召开了主题为“对人工智能的信任：如何建立全球信心”研讨会。会议邀请了ISO和IEC联合技术委员会人工智能分委会主席沃尔·迪亚卜（Wael Diab）、美国Venable法律公司网络安全和保密服务部高级总监海瑟·韦斯特（Heather West），以及新加坡信息通信媒体发展管理局可信人工智能和数据部主任李万喜（音译，Wan Sie Lee）三位专家，来探讨如何防范人工智能技术快速发展可能带来的风险，构建人们对其的信任，以及标准在其中如何发挥关键作用。

会议以现场和线上两种形式同时进行，以下是会议的精选内容。

主持人：目前已经出台了很多关于人工智能的法规，例如欧盟法案和七国集团领导人就人工智能发布的国际指导原则。你怎么看待这些法规和指导原则？在这个问题上已经达成共识了吗？

海瑟·韦斯特：关于人工智能技术已经有大量的法规和指导意见，随着它们进入公众视野，世界各国政府，像ISO这样的国际组织以及各类企业都在试图快速弄清楚如何更好地使用这些工具。

我认为人工智能可以让人们更舒适。我们正在努力实现如何以道德和负责任的方式使用人工智能技术。在开幕式上有专家谈到，当这些新兴技术迅速发展时，不要采取被动应对的策略，我认为这一点非常重要。

其实，我认为全球已经达成了相当大的共识。如果看一下不同国家、组织和标准机构对这些问题的思考，其关键都是放在责任、伦理、协调、安全和保障上。能相对统一地解决这些主题是非常了不起的。多个利益相关方参与的组织已经开始合作制定关于人工智能的指导意见和相关标准，我对此非常乐观。

这些法律法规会考虑到问责制、透明度、消费者保护、人工智能的伦理及其对社会的影响。标准如何将这些不同的考量结合起来？

沃尔·迪亚卜：标准是这个问题解决方案的一个重要部分。本质上，它是社会试图通过法规所传达的内容和关于透明度、伦理等考量之间的桥梁。

新加坡信息通信媒体发展管理局（IMDA）一直致力于在本国建立一个可信的人工智能生态系统，这对企业有什么益处？采用一致的方法很重要吗？

李万喜：在通过建立可信且安全的人工智能生态系统为企业提供支持方面，一致的方法非常重要。不论法规还是标准都是我们可以使用的工具，目的是建立一个可信的生态系统。

企业担心会有风险，消费者则想确保人工智能带来的结果是公平和透明的。我们要确保人们不会因为人工智能而失去工作，还必须解决关于错误信息的担忧。要解决上述问题，不仅需要法规，还需要标准。

我们必须与标准机构合作，强调行业的能力建设。这就是我们开发AI Verify工具包的原因，目的是帮助提升能力。它是一个供组织机构参考的框架，帮助其检查是否建成了可信的人工智能测试系统。

我们还与本地认证机构和国际组织合作，它们会使用AI Verify来确保其人工智能系统符合ISO/IEC 42001：2023标准。

私营领域的创新速度比其他领域更快。在引导这场技术竞赛的过程中，如何确保听取所有人的声音？

海瑟·韦斯特：我认为，这就是像ISO这样国际组织和其他多方利益相关者构成的组织的作用所在。实际上，能真正推动人工智能技术发展的公司并不多。

对其他人而言，人工智能就是我们如何使用它，以及如何在每天的使用过程中对其建立信任。我在与这些人工智能模型互动时，觉得它们非常酷，仿佛是从科幻剧中走出来的。但我们应该对其进行理解，并认真思考，确保我们可以信任它。正如李万喜所说的透明度、伦理和责任，我们不仅要将这些元素融入到系统中，还要向大家有效传达它是道德、安全的。

支持创新、使人工智能对企业友好，以及通过对其的治理保护用户，在这三者之间能否找到平衡？

李万喜：我们必须找到平衡。我认为，找到平衡就是为企业和消费者创造利益，让他们能真正看到人工智能确实改善了他们的生活。我们还应确保设立安全保障措施。这样，企业将获得更多好处，人们会更熟悉并准备好使用人工智能，企业也会为应对人工智能带来的风险做足准备。

企业和组织机构需要指导意见，因为这能为它们提供确定性和方向。因此，我们发布了指南和框架。例如现代治理框架，为组织机构和政策制定者提供行动指引。我们还与标准机构密切合作，对这些框架进行细化。

尽管在2023年发布了ISO/IEC 42001：2023人工智能管理系统国际标准，但要应对能在全球范围内改变整个行业的人工智能技术，难度有多大？

沃尔·迪亚卜：人工智能与传统的IT系统相比有所不同，但也有很多相似之处。通过ISO/IEC JTC 1的工作，目前已经建立了庞大的基础设施。我们不仅要解决人们对新技术缺乏信心的问题，还要跟踪正在发生的变化。ISO/IEC 42001标准是ISO提供的一项独特标准。我们在SC 42中采用了新的使用方法，基本上解决了这些差异问题，并使合规评估、可审计性等成为可能。这样，我们就可以增强消费者和用户对这些系统的信心。

管理系统标准的一个优点是它能扩展到不同行业。通过使用管理系统标准，我们将SC 42所有的工作结合起来，为标准制定和寻求合规评估的组织机构提供了一个平台。我们的目标是制定一套能在垂直领域中使用的标准组合，它们可以从人工智能视角出发，然后将其引入标准生态系统。

管理系统标准不仅可以作为垂直领域的工具，还能扩展到特定行业。值得注意的是，越来越多的中小企业参与进来。SC 42正在编写一本手册，帮助中小企业了解如何使用ISO 42001，这是一个非常令人振奋的时刻。我们不仅看到技术在迅速发展，还有许多行业对使用人工智能很感兴趣。

对任何组织机构来说，数据保护都非常重要。现在有越来越多的网络攻击，组织机构如何确保有健全的数据策略？

海瑟·韦斯特：这是一项基础性工作，但并不容易。我们要有条不紊地去解决问题，找到足够好的方法。

李万喜：大公司中的数据保护负责人有很多资源来帮助他们开展工作，但对于小公司来说，他们需要的是简单的建议或指导，告诉他们如何保护数据。一个方法就是加密数据。如果你对数据进行了加密，即使有人入侵你的系统，他们也无法理解数据。这是一项基础要求。

沃尔·迪亚卜：在安全方面，我们与JTC 1/SC 27分委会密切合作。实际上，我们在制定管理系统标准时，在很多方面借鉴了ISO/IEC 27001在信息安全、网络安全和隐私保护方面的做法。现在已经建立了庞大的标准基础设施。特别是在人工智能领域，我们很早就意识到，不仅从网络安全和可信度角度看，数据非常关键，而且在获得预期结果和避免系统发生不好的结果方面，它也至关重要。

与政府、消费者协会和标准制定组织开展合作来确保人工智能始终有益，这有多重要？

李万喜：我很高兴看到在过去的一年里，国际合作活动非常多，政府之间也在积极沟通合作。对像新加坡这样的国土面积很小的国家来说，和全球组织合作非常重要。通过这些全球平台，我们的标准不再是孤立的框架，我们要确保融入国际发展的趋势中。

人工智能可能带来巨大好处，但负责任和道德地管理它是关键。无论发生什么，消费者和企业都必须确信其使用的新系统和新服务依然像以前一样安全可靠，这也是标准的意义所在吧？

沃尔·迪亚卜：是的。我认为如果我们做好自己的工作，他们就不需要担心。我们应该制定标准，配合监管框架和其他最佳实践，确保人们充满信心。

我们要从整个生态系统的角度来考虑。我们与其他委员会开展密切合作。目前差不多有65个国家参与这方面的标准制定，其中三分之一来自发展中国家。因此，我们在汇集一个多元化的利益相关者社区，而非仅限于那些制定标准的人。