人工智能的安全风险与隐私保护

张玉清

随着信息技术和网络社会的快速发展,人工智能技术已经广泛应用于各个领域,包括医疗保健、金融、交通、军事等,这些领域的安全问题直接关系到人们的生命财产安全.然而,在使用人工智能技术实现智能化的过程中,也面临着算法安全风险、信息安全风险、数据安全风险、网络安全风险、社会安全风险及国家安全风险.

保护人工智能安全不仅仅是保护个人隐私和确保系统安全,更是保障社会的公平和稳定;保护人工智能安全也是保护个人隐私的必要措施,人工智能系统需要大量的数据对人类进行学习和模拟,其中可能包含个人敏感信息,这些数据一旦被窃取就会有个人隐私泄露和身份盗窃的风险.使用技术依法依规维护人工智能在使用中的安全性和隐私保护,是维护社会和谐稳定、维护公民合法权益、促进人工智能健康有序发展的必然之举和迫切需要.

相比于现实社会,人工智能面对的问题更为复杂,机遇和挑战并存:一方面人工智能作为引领新一轮科技革命和产业革命的战略性技术,其掀起的全球竞争和发展浪潮正风起云涌般蔓延;另一方面人工智能也给维护国家政治安全带来了新的挑战,而政治安全是国家安全的根本,是安邦定国的基石.习近平总书记指出:“要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控”“明者防祸于未萌,智者图患于将来”.面对迅速发展的人工智能技术,既要做到有备无患,又要善于化危为机.人工智能对政治领域前所未有地赋能,在潜伏着诸多技术性风险的同时,也孕育着推动政治安全现代化的新机遇.因此在以政策为导向、以技术为支撑的大环境下,我国的人工智能安全在科学研究、产品开发和平台建设方面取得了一批先期成果.另一方面,从总体来看,在解决政策与技术的协调性和适应性问题、构建完整的人工智能安全体系、实现隐私保护应用等方面仍存在着众多问题,面临着诸多挑战.

《信息安全研究》为加快推动人工智能安全风险与隐私保护协调发展,组织了本期以“人工智能的安全风险与隐私保护”为主题的专刊.论述新时代下的人工智能安全是个宏大的命题,由于篇幅有限,专题在主题上不可能面面俱到,相关问题也不可能一一枚举.本期重在研究人工智能安全风险与隐私保护,涵盖宏观综述、政策建议和微观技术研究.在内容上注重政策与技术的观点互鉴,既能展现网络空间安全、人工智能安全领域的专家视角,也能倾听政策设计、制定相关领域的学者声音.征文中的作者尽可能覆盖“产学研用”,既有来自中国科学院大学、西安电子科技大学、南京理工大学、海南大学、武汉理工大学、燕山大学、河北科技大学等高校的优秀的科研团队,也有中国信息通信研究院、国家信息中心、中电长城网际安全技术研究院等一线队伍,还有国家电网、杭州安恒信息技术股份有限公司等产业先锋.专题组织上注重综述与关键研究的穿插,既为读者提供ChatGPT应用、全生命周期安全等技术发展方向的概览,也呈现后门检测、图像隐写、网络攻击检测等关键技术点上的具体研究工作.期望在有限的篇幅中,尽可能展现我国人工智能安全和隐私保护的概貌.具体如下:

1) 张弛等人从安全赋能和伴生安全2个角度对ChatGPT在网络安全领域的未来进行了归纳总结及展望,指出了其在网络安全领域的未来研究方向.

2) 严驰从多角度切入,从顶层设计入手对人工智能的发展进行深入分析和思考,并进一步探索了GPT4的未来规制方案.

3) 孙雷亮以人工智能数据伪造风险为研究目标,以GPT模型为研究对象,分析安全隐患,重点研究数据伪造可能产生的原因以及其实现过程.

4) 叶露晨等人针对如何鉴别ChatGPT生成的文本,反映创作的真实性,从网络攻防的角度研究新的对抗绕过技巧,分析AI生成文本的检测思路.

5) 朱孟垚等人介绍了ChatGPT及其系列模型的发展历程、工作模式、训练方式和各类安全问题,并对其如何安全可信地发展进行了展望.

6) 张昊星等人针对人工智能在数据安全管理技术中的应用所面临的问题和挑战进行了剖析,并对未来的发展趋势进行了展望.

7) 高亚楠从大模型技术的定义、特点和应用入手,分析其网络安全态势,并提出相应的大模型网络安全治理框架,给出大模型网络安全应对步骤,为大模型网络安全保障工作提供参考.

8) 李宗维等人针对基于人工智能和区块链融合的隐私保护系统的研究现状和发展趋势进行概述,对现有系统中存在的不足和原因深入分析,并提出了有效的改进建议.

9) 屈梦楠等人针对图像隐写技术中存在嵌入图像时质量下降、易受攻击等问题,提出了一个基于隐式对称生成对抗网络的图像隐写提取方案.

10) 蒋明等人针对从图像中提取更显著的隐写特征来提升隐写分析检测精确度的问题,提出了一个基于多注意力机制的孪生网络图像隐写分析方法.

11) 孔维一等人针对智能制造设备群的安全状态验证困难的问题,设计了一种基于远程证明的智能制造系统设备群的主动防御方案.

12) 刘亦纯等人针对在DNN触发恶意攻击者设定的后门时模型出现异常行为而会导致性能下降的问题,提出了一种基于多级度量差值的后门检测方案.

13) 张明明等人为实现网络攻击的智能化检测和分类以阻止恶意行为,提出了一种入侵检测模型对恶意网络攻击进行智能化检测和分类.

14) 曹婉莹等人对比分析了中美两国网络安全漏洞披露与共享的政策法规异同,分析和指出了我国在漏洞披露与共享方面的问题与应对方法.

本专刊刊载的14篇论文展示了我国人工智能安全相关领域的专家学者、科研人员以及信息安全从业人员的部分研究成果.成果去粗取精,求同存异,力图勾勒出最新的人工智能发展态势,为学术研究、产品开发和管理决策提供有实用价值的理论借鉴和技术参考.

本专刊的出版得到了作者、审稿专家和编辑部等各方面的大力支持,作为本专刊特约编委,我衷心感谢各位作者、审稿专家和编辑部等各方的大力支持,希望本专刊能够为广大读者和国内信息安全同行提供一些有益的参考和帮助.