疫情大考下的人工智能应用和安全思考

魏薇，牛金行，景慧昀

（中国信息通信研究院，北京 100191）

1 引言

近年来，伴随数据量爆发增长、算力显著提升以及深度学习算法的突破性应用，人工智能技术获得了长足发展，但目前主要应用于人脸识别、语音识别等有限场景，新冠肺炎疫情防控为人工智能技术提供了特殊应用场景和实际使用需求。人工智能凭借自主学习、快速感知、实时决策和人工替代等优势，在防疫工作中为病患诊断救治、疫情防控保障、企业复工复产等环节赋能助力，发挥出不可或缺的重要作用。同时，人工智能在疫情防控应用中暴露出一定的安全问题，需及早探索安全管理，保障产业稳步发展。

2 智援疫情

2.1 直接应用抗疫一线，增强诊断救治能力

（1）提升检测诊断效率。百度免费开放线性时间算法，将新冠病毒的全基因组二级结构预测从55分钟缩短至27秒，加速新冠病毒研究和变异检测。基于计算机视觉算法的智能医疗诊断系统可实现单病例肺部CT量化结果的秒级输出，大幅提升新冠肺炎诊断效率。

（2）加快疫苗新药研发。疫情期间，药物研发机构联合阿里、百度等企业共同攻关，利用人工智能技术强大的分析预测能力，进行蛋白质变异分析、活性分子筛选等工作，满足疫苗新药研发过程中海量数据分析和科学超算的需求，全面加速研发进程。

（3）提供医护辅助服务。针对医护人员不足，无人车、服务机器人等智能产品在重点医院中得到广泛应用，可实现无接触、全天候的医疗物资配送、防疫清扫消毒等医护服务，减轻医护人员的工作压力，并降低交叉感染风险。

2.2 优化疫情防控方式，提升服务保障能力

（1）辅助基层人员排查。智能外呼机器人被大量用于基层社区的电话群呼调查回访工作中，日拨打能力可达万余次，并基于采集信息，进行风险分析预判，排查可疑问题和可疑人员，实现精准智控。

（2）提供疫情咨询服务。阿里、腾讯等企业推出线上智能咨询系统，利用语义分析、语音合成技术，提供疫情动态、防护指导、就医问诊等问答服务，并基于话题跟踪技术，识别并破除疫情谣言，协助开展防控宣教，营造良好的社会舆论环境。

（3）优化物资调度配送。针对全国捐助物资调度配送效率不高的问题，杉数科技免费开放PonyPlus智慧物流调度平台，基于优化求解器算法智能化调度决策过程，运输排班用时从小时级大幅缩短至10分钟以内，并优先保障重点地区需求，为战疫胜利提供高效的物流保障。

2.3 推进企业复工复产，赋能快速恢复产能

（1）防控复工人员感染。在火车站、地铁站以及园区入口等人流密集场所,基于“计算机视觉+红外技术”的新型测温可非接触、高效快速的开展体温检测，并对发热人员进行识别、预警，防控复工人员聚集感染。

（2）助力企业产能恢复。针对疫情期间用工缺口，大量制造企业特别是应急医疗用品企业开始采用自动化的智能生产装备。在山东、广东等省的口罩生产企业中，基于计算机视觉的自动口罩机可实现单机日产10万只，有效地提升了产能，缓解了医疗防护物资紧张的状况。

3 问题分析

3.1 部分产品智能不足制约其防疫期间大规模应用

（1）防疫服务机器人智能水平和应用规模有限。当前，消毒清洁、送药送餐等防疫服务机器人尚未有效地解决自适应未知场景、人类行为理解与预判等智能难题。此类机器人主要还是完成固定机械类工作，其正常运行严重依赖应用场景的地图扫描、路径规划等人为工作。这使得防疫服务机器人无法快速大规模部署，只在少量医院试点应用。

（2）国产医疗机器人智能程度距离防疫实用仍有差距。相比美国第一例新冠病人全程由医用治疗机器人辅助完成救治，我国手术机器人、采血等辅助机器人在多模信息精准感知、柔性控制精细操作等关键智能化技术方面存在不足，用于病人治疗的国产机器人数量少，难以满足突发疫情的大量治疗急需。

3.2 网络安全风险在智能防疫应用中不容忽视

（1）智能防疫应用潜藏数据泄露隐患。智能防疫产品应用中需获取大量人脸、CT影像、交通出行等个人敏感数据。部分疫情创新应用系统在紧急上线情况下缺少或者简化安全检测流程，安全防护能力不足。据中国信通院检测发现，部分智能防疫应用存在个人敏感信息可公开下载、敏感信息明文传输等突出的数据安全隐患。

（2）部分智能防疫应用遭受网络攻击。防疫物资免费发放信息平台等智能防疫应用上线初期就遭受黑客攻击，致系统瘫痪，用户无法访问。疫情防控期间，我国安全厂商监测到多起境外组织意图窃取我国医疗、政府等领域数据的境外APT攻击。

3.3 智能算法安全风险应及早防范

部分智能防疫算法鲁棒性弱，对抗样本可使其产生错误输出。目前，在智能测温、智能诊断等防疫产品中，人体检测、人脸识别、图像分类等基于深度神经网络的机器视觉算法已广泛应用。然而，研究者通过真实案例证明对抗样本可使这些智能算法产生错误输出。2019年，华为研究者证实在佩戴的口罩或者额头上粘贴特殊图案可导致人脸识别算法失效。一旦这些方法被恶意利用，将危及智能防疫产品输出结果的准确性和可靠性。

3.4 智能创新应用的安全管理机制亟需完善

为解决疫情防控应急之需，无人消毒车、防疫服务机器人、智能医疗系统等大量智能产品支援抗疫。但是，政府部门现有的管理机制无法有效应对智能创新应用的应急审批需求，多采取简化审批紧急许可，这在管理层面为智能产品安全埋下隐患。而美欧国家的人工智能安全监管原则均以基础性安全监管为主，可借鉴的意义不大。因此，面对智能防疫工作引出的安全管理难题，如不能通过制度创新补足短板，将会因管理失位而导致智能产品安全问题。

4 思考建议

4.1 促进人工智能技术加快推广应用

（1）促进传统行业智能化转型。针对疫情期间出现的用工难题，深入对接工业制造、物流配送等行业需求，总结疫情防控工作中人工智能优秀应用案例，示范推广，深化融合，推动传统人力密集型行业智能化改造升级。

（2）推进人工智能新兴产业的发展。结合疫情防控实践的经验，持续改进智能医疗、智能客服、无人驾驶等新兴行业的产品能力和用户体验，提高社会公众对无人化、无接触服务的认可程度，依托国家“新基建”规划，不断壮大人工智能新兴产业规模。

4.2 着力提升人工智能基础核心能力

（1）加强人工智能基础核心能力研究。针对人工智能应用在疫情防控中出现的智能程度不高、可靠性弱等问题，加大基础核心技术的研发力度，研究发展鲁棒性强的通用人工智能理论和算法，提升智能产品的环境适应能力和认知决策能力。

（2）加强人工智能基础环节生态建设。本次疫情防控期间，人工智能头部企业纷纷开放算力、算法、框架等基础资源，发展合力效果显现，应用水平快速提升。借鉴于此，应强化应用牵引，推进人工智能基础环节生态整合建设，支撑我国人工智能产业自主化、规模化发展。

4.3 建设完善智能产品安全管理体系

（1）加强智能产品安全管理。总结疫情防控应用管理经验，健全人工智能安全管理体系，结合实际领域的应用，加快建立特种服务机器人、无人物流运输车等智能产品的应急安全管理机制，明确政府相关部门管理职责和审批权限。

（2）加快智能产品安全检测。尽快出台智能产品安全风险检测规范，引导企业自测和第三方检测相结合，大力推广为防疫服务相关智能产品和创新平台提供安全检测快速服务。

（3）提升智能产品安全监测预警等能力。研究建立智能产品的安全风险监测预警、快速处置、追踪溯源等机制和技术能力，及时发现和消除安全隐患，对恶意行为和责任者加强惩戒。

5 结束语

疫情防控既是人工智能技术产品应用的“练兵场”，也是人工智能产品智能化水平、安全可靠程度的“试金石”。智能防疫不仅解决了疫情防控燃眉之急，更是发展智能制造、实现智能医疗等国家战略达成的重要推动。本文归纳了新冠肺炎疫情防控工作中人工智能技术及产品的应用场景和赋能成效，总结分析了智能防疫应用中存在的问题和安全风险，并结合疫情防控实践，有针对性的提出促进人工智能应用并保障安全相关的思考建议，对于稳步推进人工智能技术产业的长远发展具有一定借鉴意义。