“波音事件”对智能硬件安全发展的启示

卢光明 陈茵

摘   要：利用智能技术对传统硬件产品进行更新改造，不仅是传统产业转型升级的必由之路，而且也是人类进入智能时代的一个重要切入点。但是，如何为智能硬件的发展营造一个相对健康的产业环境，规范相关产业的发展，一直是政府相关主管部门和产业关注的焦点。“波音事件”的发生，在一定程度上为智能硬件的发展提供了借鉴。文章从企业经营、第三方监管、智能系统设计等角度，阐释了智能硬件开发的基本方针和原则，为我国智能硬件的健康发展，提出了建设性建议。

关键词：智能硬件;波音事件;硬件安全;政策建议

中图分类号：X914          文献标识码：C

Abstract： Hardware intelligence is the major direction for the traditional products transformation and upgrading. That is the industry authorities responsibilities to create a constructive environment for the intelligent hardware development. Based on the analysis of “Boeing incident”， from the different angles， such as business operations， regulation， government supervision， etc. This thesis gives the suggestions to promote the hardware intelligence security development.

Key words： intelligent hardware; Boeing incident; hardware security; policy suggestion

1 引言

2018年10月29日，印度尼西亚狮航一架由波音737MAX执飞的飞机，在从雅加达起飞大约13分钟之后失联并坠毁，机上189人不幸全部罹难。2019年3月10日，一架埃塞俄比亚航空公司的波音737MAX型客机起飞后6分钟坠毁，机上的149名乘客和8名机组人员不幸全部遇难。这两起重大事故发生的时间间隔不足半年，从智能硬件的角度进行分析，失事的飞机可以看成是典型的智能硬件产品，也就是在传统的飞机操控系统上加载了智能操控系统，使飞机具有部分或全部的智能。从事件来看，主要是波音飞机所加载的智能驾驶出现了问题，具体是智能驾驶系统中的传感器出现了问题，导致智能驾驶操控系统出现判断失误。同时，在驾驶系统的优先级设置方面，智能系统的优先级高于人工操控系统的优先级，以致在智能驾驶系统出现问题时，人工操作被拒绝，从而导致飞机失事。

1.1“波音事件”本质上是智能时代的转型之痛

纵观整个事件的前因后果，无不体现了在智能时代来临时，企业和消费者的紧张和焦虑，在面对一个突如其来的巨大变革时的茫然无措。在飞机的智能化方面，波音和空客这两家航空企业的路径不同，但是他们的目标基本一致——智能化方面的大胆尝试。因为双方都明白，不仅飞机制造过程的智能化是未来发展的一个方向，而且飞机本身的操控也需要进行智能化改造，以满足航空公司对飞机性能方面的智能化需求。

分析事故的原因，这其中既有飞机生产制造企业方面的问题，也有政府行业监管机构的问题，还有智能系统本身存在的问题，是多种因素共同作用的结果。

1.2“波音事件”体现出智能硬件的安全问题

“波音事件”给智能产品所依赖的智能控制系统的设计、开发和运营提出了警示。如何开发出智能且安全的智能操控系统，已成为未来智能产品开发的重要着眼点。相关行业监管部门，以及智能设备主要的供应商，如何对相关产品进行检测，如何划定彼此的权力和责任，保证用户的生命和财产安全，对于未来智能化产品的开发至关重要。但是，智能化产品的监管不力，却成为不法企业窃取客户信息资料，甚至威胁用户安全的“夺命”产品，急需引起相关政府部门、从事产品智能化企业的内部产品监管部门以及风险监控部门的重视。

尽管目前的智能硬件产品还不能够与波音737MAX大型飞机相比，但是面临的问题及其可能引起的后果仍具有一定的可比性。尤其是在智能硬件产品功能不断升级的背景下，通过对波音事件的剖析，有利于发现我国智能硬件发展面临的问题，并提出必要的解决方案。

2 安全问题成为智能硬件普及的关键

2.1硬件智能化已经成为一种发展趋势

目前，智能硬件正成为继智能手机之后崛起的一个新的技术发展方向，并有可能成为挑战智能手机的一种新型产业形态，成为智能社会的重要技术载体。智能硬件通过软硬件相结合的方式，对传统的硬件设备进行改造，使传统、非智能的硬件具有部分智能功能。传统硬件产品经过智能化改造之后，一般便具备了相应的连接能力，能够通过互联网实现对硬件服务的加载，形成“云+端”的架构，使得硬件设备成为物联网终端，从而根据需要为用户提供相关的增值服务。例如，通过终端系统的计算能力，使其具有相应的智能，或者是通过接入更大的运行监控平台，实现更多样的附加价值。

2.2 硬件智能化主要是商业模式的转变

从表面上看，智能硬件是一个科技概念，通过硬件和軟件结合，实现对传统设备的智能化改造。从深层次来说，智能硬件是一个商业概念，借助无所不在的互联网，以及物联网技术、大数据技术、云计算技术，甚至人工智能技术，赋予传统硬件新的价值，从而创造出基于传统硬件的新型商业模式。但是，正是由于智能硬件的定位，使其从诞生之日起就因其安全问题而备受争议。

在智能硬件的生态系统中，将所有价值链联系起来的是智能硬件在使用过程中所产生的各种数据，因此数据应用是智能硬件产品应用的本质特征。在智能硬件阶段，硬件产品的价值本身发生了改变，商业模式也发生了相应的改变，这些改变所围绕的核心是数据以及对数据的更具有价值的创新应用。在数据的获取和使用过程中，将会涉及很多个人隐私泄露、智能系统缺陷等安全问题。

2.3 安全问题一直是智能硬件产品普及的障碍

对于一般的智能硬件产品来说，用户信息的采集和泄露问题是困扰智能硬件产品的主要问题。采集用户的地理信息、使用习惯、消费行为，本来是智能硬件的应有之义，但是部分智能硬件生产企业，为获得多元的市场竞争力或更佳丰厚的利润，会因不当使用用户信息，导致用户信息泄露，使用户利益受损。目前的智能手机、智能手表、智能电视和其他类型的智能家用电器等传统硬件设备，借助于物联网技术为其赋予了新的价值，但也因此存在着一定的安全隐患。如果智能硬件厂家在智能硬件产品中预装了不良程序，会给用户造成不可估量的损失。

随着计算能力的提升、通讯技术的发展以及感知技术的不断成熟，很多传统的硬件产品都将会实现互联互通，在充分感知的基础上实现软件化和智能化，未来很多领域将实现软件定义以及部分或全部的智能化升级改造。但是，如果安全问题得不到有效的解决，将不利于智能硬件的应用与普及，不利于创造基于硬件智能化的商业模式发展，不利于企业通过产品智能化的升级改造，不利于实现与用户的及时交互，不利于真正利用智能技术价值的社会化。

3 智能系统的知情权成为消费者权益的重要部分

3.1 消费者数据的有效保护有待提升

当前，消费者权益保护的重点主要集中于保护消费者不受经营者的欺诈，减轻或消除欺诈行为对消费者带来的伤害。《中華人民共和国消费者权益保护法（2013修正）》第七条中规定“消费者在购买、使用商品和接受服务时享有人身、财产安全不受损害的权利。消费者有权要求经营者提供的商品和服务，符合保障人身、财产安全的要求”。但是，对于相关的信息安全和数据安全，并没有明确地做出相应的规定。

在智能硬件时代，消费者在购买和使用智能硬件产品时，首先应考虑到对产品智能系统的了解。要了解到智能硬件系统对自身信息的采集情况，对所采集信息的恰当使用以及对使用情况的安全监控。毕竟，对于智能硬件系统来说，智能硬件产品与传统硬件产品的使用有很大的不同，使用过程中产品生产企业与用户会进行大量的交互。因此，传统的产品功能退居次要位置，而在使用过程中产生的大量数据信息才是最具有价值的内容。

3.2 企业有义务对消费者进行培训

对于智能硬件系统来说，尽管硬件是非常熟悉的，但是由于搭载了相关的智能系统，用户在享受硬件智能化所带来好处的同时，还应承担相应的学习成本，以保证智能系统的正确使用。因此，用户对智能硬件系统中新增加的功能，不仅要有充分的知情权，而且产品生产企业还应对用户尽到培训的义务，以保证用户可以在正常和紧急状态下都能够正确地操作智能系统。尤其是当智能系统失灵时，用户要有足够的能力进行手动操作该系统，以保证硬件在各种情况下都能够正常运行。

针对这样的情况，智能硬件生产企业在与消费者发生交易行为时，必须保证消费者对硬件产品可能带来的损害有足够的了解，并保证使用者在智能硬件系统的特殊情况下能够做出正确的应对，以避免因智能硬件系统的故障，导致发生更严重的安全事件。这就需要智能硬件产品在研发时，不仅要设置相应的安全防范措施，从技术方面避免因产品故障而导致更大范围的安全问题出现，而且还需要对消费者进行必要的培训，保证消费者能够应对在极端情况下出现的产品风险，对消费者进行安全教育。

3.3 消费者的知情权成为重点保护权益

消费者的知情权是消费者权益保护的一项重要内容。《中华人民共和国消费者权益保护法（2013修正）》第八条中规定“消费者享有知悉其购买、使用的商品或者接受的服务的真实情况的权利。消费者有权根据商品或者服务的不同情况，要求经营者提供商品的价格、产地、生产者、用途、性能、规格、等级、主要成份、生产日期、有效期限、检验合格证明、使用方法说明书、售后服务，或者服务的内容、规格、费用等有关情况”。对于操作较为复杂、风险较大的智能硬件产品来说，规定中的知情权还应包括对智能硬件产品的智能系统故障以及智能硬件产品操作失误等情况可能带来的安全隐患。

不管未来如何发展，消费者和用户的知情权将是最重要的消费者权利，而且在智能时代，知情权又有了新的内涵和特点。在空难事故中，如果波音公司提供了详细的智能产品功能说明，如果对相关的驾驶人员进行充分的培训，如果驾驶人员经验丰富，这些环节中的任何一个环节没有出现问题，都能够避免悲剧的发生。而这些环节都可以通过波音公司较详尽的售后服务保障方案予以提供。因此，类似的安全事件对于智能硬件企业来说，都可以通过风险防范措施予以控制。对于航空企业的消费者来说，有权对波音公司等企业提出更加详细的服务要求。

4 智能系统要经过严格的认证和检测

4.1认证和检测是主管部门规范市场的重要手段

《中华人民共和国消费者权益保护法（2013修正）》第三十三条中规定“有关行政部门在各自的职责范围内，应当定期或者不定期对经营者提供的商品和服务进行抽查检验，并及时向社会公布抽查检验结果”。因此，相关政府行业主管部门可以通过对产品的抽查检验，维护市场的正常竞争秩序，保护消费者的权益。对于智能硬件产品这一新生事物，政府行业主管部门在积极扶持智能产业发展的同时，还需要规范行业发展秩序，营造行业健康发展环境，避免各种不良产品可能对市场形成的破坏。

当前正处于智能化的起步阶段，很多工作还在探索过程中，相关的标准尚不健全。因此，一些责任意识淡薄的企业，会将不是特别成熟、具有较大安全隐患的智能产品推向市场。为了规避以上问题的产生，在需要企业自律的同时，相关政府主管行业部门也要进行严格的监管，在不扼杀市场创新、不贻误市场机遇的同时，保证产品的安全性、应用的创新性，为市场健康发展保驾护航。

4.2 保证智能系统与人类干预的有效衔接

在智能硬件发展的初期，很难保证智能系统做到完善无暇，能够应对各种可能出现的问题。因此，必须保证智能操作系统与人类干预系统之间的衔接，保证在智能操作系统失灵的情况下，人类能够有效地干预智能操作系统，使其紧急停止运行，或者在人类的有效干预下回归正常的操作。

“智能系统应该处于从属和辅助的地位”，应该成为智能时代人类发展的共识，也应该是智能时代技术的最基本的定位。未来的技术无论再“智能”，都不可能也不应该超越人类，甚至凌驾在人类智慧之上，而应该永远定位于服务人类、造福人类的基础之上。从智能硬件发展的商业逻辑出发，智能也只有服务于人、服务于人类多样化的需求，才能够拥有市场，获得新的市场竞争力。

4.3 保证智能产品透明和数据经营透明

随着智能硬件的普及，产品生产企业可以通过产品的传感器和网络，监控到用户使用产品的情况，从而有针对性地为用户提供相应的服务。

但是，用户在使用产品实现透明的同时，也要求产品生产和服务企业也保持透明状态，这是由市场竞争的逻辑和用户的消费心理所决定的。因为消费者在将其隐私信息交给不同的企业之后，潜意识中也想知道企业对这些隐私信息的使用情况，从而要求企业进行透明化的经营和管理。

对企业透明化的要求，不仅体现在产品的透明、用户数据监管的透明，还要求企业经营以及用户信息使用的相关合规性管理方面的透明。透明是智能的前提，如果没有用户信息的透明，很难推进智能硬件的发展。但是，如果缺乏企业数据运营方面的透明，智能硬件很难取得市场的广泛认可，尤其是第三方监管机构的透明化监管，更是促进市场规范經营的重要保证。

5 营造智能硬件产品安全发展的环境

5.1发展相关智能硬件产品保险

产品责任是生产制造企业对产品缺陷所应承担的责任，其主要是指产品在使用过程中因缺陷造成用户、消费者或公众的人身伤亡或财产损失时，依法应当由产品供给方（包括制造者、销售者、修理者等）承担的民事损害赔偿责任。在这次“波音事件”中，波音公司将承担相应的产品责任，对受害的航空公司以及众多的受害人提供相应的赔偿。

在智能驾驶汽车领域，不仅产品出现问题的风险比较大，而且后果也比较严重，因此智能汽车集成商必须为产品购买相关的保险，否则用户根本不敢购买，或者是购买后也不敢放心使用。事实上，对于生产大型无人机的深圳大疆公司来说，在销售大型无人机时，由于可能存在撞到人或者某些易碎物品的风险，要求购买者必须购买相应的保险，以保证发生事故时，由保险公司进行相应的赔付，避免对公司造成影响。

5.2 政府给予相应的保险补贴

政府行业主管部门支持智能硬件的发展，可以采取扶持产品保险的形式，为相关产品提供保险方面的补贴，而不是直接对智能产品本身进行补贴。通过保险的方式，公司能够转移智能硬件产品可能带来的风险。而从消费者的角度来看，如果发生了相关安全问题，也可以由保险公司进行赔付，使其所受的损失得到有效的保障，从而形成促进智能硬件发展的健康市场环境，化解智能硬件市场初期发展所带来的市场风险。

支持智能硬件生产企业发展，不仅政府行业主管部门发挥着重要作用，同时相关行业中介组织、保险公司等市场和行业主体也可以借助自身的特点，在智能硬件生产的相关技术风险防范中发挥重要作用，营造良好的市场环境。如果产品购买了保险，被保险人生产、销售、分配、使用或修理该产品时发生事故，造成用户、消费者或其他任何人的人身伤害或财产损失，被保险人承担的损害赔偿责任依法应由保险人在保险单规定的赔偿限额内予以赔偿，从而降低企业产品创新所带来的风险和负担，以鼓励市场创新。

6 结束语

任何技术的应用都有正反两个方面的后果，因此在发展智能硬件等智能产品时，不仅要看到产品给人类带来福利的一面，而且还要关注到这种技术有可能造成的负面影响。因此，在规划技术发展和应用路径时，既要考虑将技术的正面效应最大化，同时还要保证该技术发展和应用的负面影响最小化，并对可能带来的且又不可避免的负面影响，提前制定出相应的应对措施，未雨绸缪，防患于未然。这才是在当前技术发展空前繁荣的时代、技术应用效果不确定急剧上升的背景下应有的科学态度。

我国目前正处于智能硬件发展的初期，传统硬件设施需要大规模地进行智能化改造，这无疑会存在“摸着石头过河”的情况。我国当前政府行业监管部门和相关行业中介组织营造一个既保证宽松的、鼓励创新的氛围，又保证安全健康的市场氛围势在必行。

参考文献

[1] 光明网. 波音两起事故“明显相似”[EB/OL]. https：//baijiahao.baidu.com/s？id=1628506968833623156&wfr=spider&for=pc，2019.

[2] 鼎盛军事. 埃航空难新发现：按照波音要求关闭俯冲系统，照样失控坠毁[EB/OL].https：//mbd.baidu.com/newspage/data/landingsuper？context=%7B%22nid%22%3A%22news_9684523504533162369%22%7D&n_type=1&p_from=4，2019.

[3] 新浪财经新闻. 波音董事长发内部信：将确保团队以优先事项为中心[EB/OL]. http：//finance.sina.com.cn/roll/2019-03-12/doc-ihrfqzkc3339038.shtml？source=cj&dv=1，2019.