AI技术在新媒体信息安全领域的问题与对策

摘要：当前社会的不断发展和科技的不断进步、大数据智慧库的不断完善，使AI技术逐渐渗透到各行各业当中，尤其对新媒体平台的发展有重要的影响。新媒体蓬勃发展的今天，信息的数量呈现爆炸式增长，大数据的数据存储不断完善，各类AI产生的新功能为人们带来全新体验。AI技术的快速发展为新媒体平台带来巨大的利益，也为新媒体的信息安全带来了问题，传统的信息安全维护架构已经不足以应对AI技术带来的安全威胁。本文从信息安全角度来分析AI技术在新媒体领域的问题并提出应对措施。

关键词：AI技术；新媒体；信息安全；问题与对策

随着大数据和AI技术在新媒体平台的深入应用，新媒体的信息安全问题也逐渐浮现，AI技术被滥用造成公众恐慌、大数据信息泄露、利用AI换脸进行诈骗等都是新技术发展带来的负面事件。如何正确运用AI技术、增强新媒体信息安全是未来新媒体领域重点解决的问题。

一、AI技术在新媒体信息安全领域的利弊分析

（一）AI技术在新媒体领域的应用

AI技术是人们借助计算机科学、心理学、哲学和语言学等学科，模拟人的意识与思维信息过程，实现不同领域高层次应用的技术。AI技术的快速发展为新媒体平台的运营带来极大的便利，在其应用于新媒体传播以后，新媒体传播渠道管理者可以记录受众的行为，并在对受众的行为进行分析的基础上，为不同受众构建不同的专属图表。[1]利用大数据的数据库和AI的智慧筛选、精准投送来提升客户对新媒体平台的满意度，从而使客户更加信赖新媒体平台，为平台增加收益。

AI对于图像的处理和语音的识别也为新媒体平台的图像处理等提供了帮助。AI技术模拟人类的听觉和视觉，可以清楚地表达出用户的思想，而音频和图像的输出是新媒体平台重要的表现形式。以抖音为例，在抖音的视频创作平台上已经引进了AI扩图和AI语音的功能，用户可以利用这些功能来进行图片的扩充和变换，将自己的声音配成AI语音，富有趣味性的同时又能表达出他们的意思。现阶段的AI技术已经在语言与图像识别领域取得了一定的优势，在未来的大数据时代，AI技术会与新媒体平台进行更深层次的融合，为新媒体平台提供更加精确、符合用户画像的图像处理和语音识别能力。

AI具有很强的学习能力。在大数据时代，新媒体平台面临的是复杂的互联网环境，人们为适应时代变化而不断调整新媒体的运营方向和内容，这是一个人类和AI相互学习的过程，AI可以通过计算机模拟来预测新媒体的未来发展趋势，人们通过AI技术的发展来加强自我的深度学习，以此让新媒体平台朝着更高的方向发展。

不仅如此，AI技术在新媒体平台上开始模拟人类行为。以新浪微博为例，近期新浪微博推出了AI智能回复助手罗伯特，会在用户的微博下进行评论，评论内容会随着博主发布的内容而变化。从反馈结果来看，罗伯特的评论回复大都紧扣发布内容，并且言论与人类相似，几乎达到人类思维的地步。从ChatGPT开始，AI进入一个全新时代，目前越来越多的公司会利用AI来开展工作，在新媒体平台上，用AI创作的文案和视频收获了较多的浏览收益，利用AI思维所创作的内容在逻辑处理上并不亚于人类的创作，虽然部分AI作品会在形式上如画面、人物声音处理等方面存在些许漏洞，但总体而言，AI的技术创作为新媒体传播提供一条全新思路。

（二）AI技术在新媒体信息安全领域的弊端

AI的简易操作也为不法分子带来可乘之机。在大数据时代，信息数据价值不断提高，黑客对国家、企业、商业等机密的监听、盗取事件不断增加。[2]黑客偷取信息数据需要专业的技能和知识，而ChatGPT的快速发展不仅方便人们进行翻译等工作，也方便了黑客的偷取信息技术，借助ChatGPT的深度学习能力和海量数据的积累融合，只需对ChatGPT提出基本要求，便可编写恶意软件，威胁信息数据安全。在AI技术盛行之前，想要偷取信息技术，黑客要不断学习专业的知识来攻击防火墙，这对于人的学习能力和智商都有一定的考验，因此，黑客的数量可以得到控制。但随着AI时代的到来，AI可以代替黑客进行攻击，这对黑客的技能要求大大降低。毫不夸张地说，只要掌握基本计算机和AI技术知识，人人都可以成为黑客，这就给信息安全造成巨大的困扰。

同时AI技术的快速发展也会引发更为先进的黑客攻击，利用AI来进行网络攻击，可以加速破解速度，使黑客可以快速获得大数据中的数据信息并加以利用。一些不法分子会利用AI来增强自己的网络系统，给软件维护增加难度，阻止网络安全部门的追踪，给国家信息安全、个人信息安全造成威胁。不法分子利用AI技术肆意窥探大数据中的信息，也会给人们造成恐慌，大量的个人信息被窃取，人们的隐私无法得到保障，形成一种隐私公开化的错觉，使越来越多的人开始质疑AI技术和新媒体、大数据的发展，负面情绪的堆积势必会导致爆发，形成反AI主义，与社会发展的方向相违背，不利于社会的稳定发展。

AI技术的学习能力惊人，基于深度学习而打造的 “深度伪造”技术可以凭空捏造一段视频或对话，在短时间内让人无法分辨真假，再加上AI技术在新媒体平台的深层融合，加大了虚假信息的传播范围。在现实生活中，通过AI换脸、换声音等方式来实现诈骗的事件层出不穷。2019年3月，有犯罪分子利用AI技术模仿英国某能源公司德国母公司CEO的声音，成功诈骗了22万欧元。当AI不断模糊真实与虚假的界限，谁都无法预见科技会将我们带到何处，而且任何人都有可能是受害者。[3]AI未知的学习能力在不法行为者的利用下，时刻威胁着新媒体的网络信息安全，因此，对于AI技术的规范是必要的，也是刻不容缓的。

二、AI技术在新媒体信息安全领域的对策分析

（一）加强网络基础设施建设，更迭AI技术创新

面对AI技术的违法滥用，增强网络基础设施的建设是必要措施。网络安全部门要合理设计建立网络拓扑结构，监督防护内部操作系统，通过安装防火墙等手段，提高系统防护手段，对信息传输进行加密处理，利用大数据的数据库，将每位用户的信息分类存放至存储系统，再通过安全系统进行加码保护，对于国家、企业等机密信息更要建立单独的存储系统来维护，通过多重防火墙建设，采用AI技术与人工验证双重保险来保障机密信息的安全。网络基础设施建设是保障信息安全的基本性操作，只有做好网络设施建设，才能与违法分子相抗衡。

傅莹认为 “没有科技创新就没有国家安全，美国能够在国际竞争中保持优势，很大程度上有赖于其科技创新力量”。[4]面对AI技术造成的信息安全问题，我们也应该不断更新AI新技术加以解决，在现有的信息安全技术的积累上，不断创新AI新技术，发展AI安全信息方面的技能，提升信息安全的抵御力，为信息安全提供可靠的新技术支撑。

（二）建立AI追踪系统，采用人工双核验

随着ChatGPT等技术的不断成熟，越来越多精致的AI作品出现在新媒体平台上。AI技术的改进受到大多数人的欢迎，AI换脸等特效也被人频繁应用。在将AI技术用于娱乐的时候，大部分普通人并不会在意，对AI技术缺乏深层认识的他们没有意识到，AI技术的使用会将个人信息留在AI数据库中，这也加剧了不法分子利用AI来违法犯罪的行为，AI数据库的安全受到了威胁。因此，数据库要打造信息安全系统，为每位用户的AI数据进行加密保护，防止黑客利用AI技术来偷取用户的AI数据库信息。

不仅如此，AI技术在原来的系统基础上应建立追踪系统，同时采用人工、AI双重核验机制，当AI技术被拿来进行扫脸、录音等核验行为时，会自动开启追踪系统，将使用AI技术的人的信息进行数据调查，同时启动人工核验查询，确保操作的合法性。通过建立AI追踪系统和人工双重核验，可以从犯罪的源头上进行打击，在一定程度上阻止AI的违法滥用。

（三）整合大数据技术，共建网络监督系统

互联网的迅速发展不仅给人们带来了很多便利，也给不良信息的传播带来了途径。人工审核具有人员限制、速度慢、反应不及时、存在知识漏洞等缺陷，会让部分负面信息逃过审核，在新媒体平台上快速传播，带来一定的不良影响。大数据时代的到来、AI的快速发展会很大程度上限制违法信息的传播。相较于人工审核，AI技术可以在大数据庞大的数据库基础上，利用关键词、敏感词等来自动搜索相应的信息数据，并迅速做出反应，以此进行高效的网络信息审核。目前，AI技术已经投入审核系统中，虽然部分用户反映AI技术存在 “一刀切”行为，但从长远发展来看，AI技术会大大提高新媒体平台的效率，帮助用户纠正错别字、违规词等，利用自动检索和生成系统来帮助受众快速生成他们需要的作品。可以在AI审核的基础上，形成以AI技术审核为主、人工审核为辅的双重审核机制。

在大数据环境下，新媒体平台可以借助大数据技术鼓励受众行使自身的监督权，并对一些严重危害社会稳定的谣言及虚假信息进行控制。[5]在未来新媒体传播领域的发展中，AI技术应整合大数据系统，共建网络监督系统，通过违禁词语的检索来排查不良信息的入侵，并且执行更为严密完整的算法，在快速检测是否违禁的同时还要检索完整信息来判断是否为误判，以此来提高效率，为用户带来更好的体验，保护用户的信息安全。

（四）推动AI技术立法，加强国际安全合作

AI技术发展速度迅速，国内国外对于AI技术的研究和运用都进入新的阶段。但利用AI进行高科技犯罪的案例也逐渐增加，而AI本身的技术含量高，反追踪能力强，给破案造成了一定的难度。因此，要积极推动以AI技术立法为核心的法律法规新领域建设，为信息安全建设制定与时俱进的法律法规，将网络信息分类标准进行合理的细化，以网络信息安全为总法框架，探索AI技术对新媒体信息安全领域的潜在危害和合理规范化界限，降低AI技术为国家和社会带来的负面影响。同时，要加强AI技术相关的国际安全合作，推动构建人类命运共同体建设，重视AI技术带来的新媒体信息安全问题，推动AI国际立法，预防犯罪分子利用AI技术进行跨国犯罪的行为。

（五）利用新媒体平台进行AI技术安全宣讲教育

新媒体平台是有效宣传AI技术利益与弊端的平台。在互联网时代，人们对于网络的依赖性越来越严重，世界经济论坛发布的 《2022年全球风险报告》将 “数字依赖和网络脆弱性”列为全球六大风险之一，其中95%的网络安全问题是由人为的错误导致的，由此可以推断出新媒体网络信息安全与人存在相辅相成的联d229b074de55d2654a642b880d03978bf40a5c70d97ceae9785b66b786f8d110系。可以利用这种联系来解决AI技术的弊端，利用人们在新媒体平台上获取信息的依赖来宣传AI技术安全教育，在新媒体数据潜移默化的影响下，让AI技术的安全宣传教育深入人心，逐渐加强人们对AI技术的多方面认识，提高网民自身的信息安全防范意识，减少网络信息安全受到侵害的频率。

三、结束语

随着互联网的不断推进，人类进入大数据时代，AI技术渐渐渗透到我们的日常生活，影响我们的行为和思维方式，也逐渐在新媒体领域中起到主导作用。因此，AI技术带来的信息安全问题会不可避免地给人们的日常生活带来麻烦。为了消除AI技术所带来的弊端，要整合大数据，建立完善的智慧审核和数据安全系统。同时，要建立起AI的自我追踪系统，通过AI和人工的双重审核，从源头上切断不法分子利用AI技术进行违法犯罪行为的渠道。相关的AI技术立法和国际合作、公众的AI技术安全意识提高也是必要的，用户的及时监督反馈也为AI技术的修正提供了建议。AI和大数据技术的整合利用势必会为新媒体的信息安全方面带来层层防御保护，保障国家和个人的信息安全。

参考文献：

[1] 侯承.大数据和AI技术在新媒体传播渠道中的运用探讨[J].科技传播，2018，10（10）：98-99.

[2] 刘恒，王伟，靳文虎，等.AI时代网络信息安全问题及对策：以ChatGPT为例[J].网络安全技术与应用，2023（11）：160-162.

[3] 易艳刚.AI换脸打开潘多拉魔盒[J].青年记者，2019（27）：96.

[4] 傅莹.AI对国际关系的影响初析[J].国际政治科学，2019， 4（01）：1-18.

[5] 赵子蒙.大数据和AI技术在新媒体传播渠道中的应用分析[J].新媒体研究，2017，3（22）：26-27.