基于MindSpore框架的智能通信实验教学

2022-09-23 10:37杨伟明郭宇航
实验室研究与探索 2022年6期
关键词:译码精度实验教学

袁 磊, 杨伟明, 郭宇航

(兰州大学信息科学与工程学院,兰州 730030)

0 引 言

人工智能(Artificial Intelligence,AI)已经在计算机视觉、语音识别和机器翻译等领域发挥巨大作用,同时也推动着无线通信行业发展[1]。随着移动数据流量爆炸性增长及业务多样化需求,许多国家将研究重点从5G逐步转移到6G,由AI与无线通信结合的智能通信领域已成为6G发展的主流方向之一[2],近年来该领域在信道估计、信号检测、信道解码、端到端通信系统等方面取得较多研究进展[3-6],但仍处于探索阶段,机遇与挑战并存。

我校通信工程专业入选2019年度国家级一流本科专业建设点,无线通信技术作为本专业必修课,遵循新工科人才培养和工程教育认证的要求,以“智能基座”产教融合协同育人基地建设为契机,借助华为提供的昇腾和MindSpore[7]软硬件资源,以智能通信为改革突破口,将相关最新技术引入无线通信课程中,让学生们紧跟学科发展前沿。课程包含理论讲授和模型实践两部分,教师讲授无线通信和深度学习(Deep Learning,DL)相关基础知识,学生独立在华为一站式开发平台ModelArts[8]上使用华为自研AI框架MindSpore动手开发智能通信模型,促进学生工程意识和专业素养的提高。

1 智能通信实验教学创新

目前,基于DL的教学实验设计日益受到重视。文献[9]中结合冰壶运动和机器人技术,开展人工智能相关实验教学工作,文献[10]中则基于TensorFlow框架设计了垃圾分拣机器人教学实验平台。在国家级一流本科专业建设和人工智能时代到来的推动下,我校通信工程专业积极探索基于DL的智能无线通信教学改革,率先使用国产AI框架和开发平台进行智能通信实验教学,将多个典型的智能通信前沿模型实例带进本科生课堂,实验取得了不错的教学效果,加深了学生对智能通信系统设计的理解,提高了学生们学习的积极性,实验的创新体现在如图1所示的4个方面。

图1 实验创新点

(1)将智能通信首次引入本科教学课堂,融入实验,更新课程内容,为智能通信实验教学改革积累经验。通过实验教学,学生不仅巩固了自身通信专业知识,还掌握了智能通信最新技术。

(2)使用国产AI框架MindSpore和ModelArts平台,两者配套教学资源充足,包含教程文档、实例模型和开源社区,支持学生设计和调试模型,锻炼学生编程能力。

(3)实验采用校企结合方式,邀请华为公司技术骨干进行案例介绍,与学生和教师充分交流,学生积极分享实验成果,锻炼表达能力,及时反馈实验教学信息。

(4)充分利用ModelArts开发平台的灵活性,学生可以随时随地登录ModelArts进行线上实验,不受时间和场地限制,提高学生自主学习能力。

2 MindSpore与ModelArts平台介绍

MindSpore是华为公司推出的新一代深度学习框架,支持终端、边缘、云全场景灵活部署,具有编程简单、端云协同、调试轻松、性能卓越、开源开放等特点[7]。相比TensorFlow和PyTorch等AI框架,MindSpore减少了代码量,提升了代码的可读性和运行效率。

ModelArts是华为推出的一站式AI应用开发和部署平台,其整体架构如图2所示。ModelArts支持数据处理、算法准备、模型训练、评估调优、部署发布等全流程开发,使AI应用开发效率更高、门槛更低、成本更低[8]。

图2 ModelArts架构[8]

学生借助华为云提供的PyCharm ToolKit插件可以方便将开发脚本提交ModelArts公有云训练环境,只需在PyCharm开发工具内或登录ModelArts网页便可查看模型训练日志,灵活安排时间完成实验。图3所示是ModelArts训练作业参数设置界面,学生可以在此界面内选择算法来源、数据来源、资源池及规格,给定训练输出位置和作业日志路径等参数,操作简洁明了,便于学生快速使用。在训练作业运行时,学生可通过点击训练作业,及时获取训练作业的状态信息、运行时间、资源占用情况等信息,及时掌控作业进程。

图3 ModelArts训练作业界面

3 实验案例

我校通信工程专业无线通信技术课程教学改革逐步将智能通信热点引入课堂,实验采取模型复现与创新相结合的方式,将无线通信、AI和DL等理论知识融合,具有综合性、创新性和开放性,适合向通信专业高年级本科生开设。本文将选取教学创新中的两个典型实验进行详细介绍,即基于卷积神经网络(Convolutional Neural Network,CNN)的数字调制类型盲识别和基于神经网络译码器(Neural NetworksDecoder,NND)[11]的低密度奇偶校验(Low Density Parity Check,LDPC)码译码算法。实验内容丰富,包括数据集生成、模型搭建、训练推理和结果分析等步骤,很好地锻炼学生的思维能力和实践能力。

3.1 实验1:数字调制类型盲识别

数字调制类型盲识别一直是国内外无线通信领域研究的热点之一[12]。实验1在此应用场景下设计而成,其整体流程如图4所示,共由以下4部分组成:①训练和验证数据集由4种典型数字调制类型在不同信噪比下生成;②基于AI框架MindSpore搭建CNN模型,用PyCharm ToolKit上传代码至ModelArts开发平台;③在ModelArts上导入模型和数据集,设置运行参数;④进行CNN模型训练推理和调试参数,画出识别精度曲线和分类混淆矩阵,完成数字调制类型盲识别实验。

图4 调制类型盲识别实验流程图

3.1.1 卷积神经网络

实验1选用AlexNet[13]和ResNet50[14]两种经典CNN模型。AlexNet是2012年ImageNet大规模视觉识别挑战赛(ImageNet Large Scale Visual Recognition Challenge,ILSVRC)竞赛冠军模型,结构可用图5表示,主要由5个卷积层和3个全连接层组成。AlexNet作为实验1基础内容,难度中等,适合大多数同学自主完成实验,从而掌握CNN基本结构。ResNet50模型结构稍复杂,作为实验1的提升内容,供学有余力的同学进一步发掘潜能,为日后进行相关科研夯实基础。

图5 AlexNet结构

3.1.2 数字调制数据集

实验选择相移键控(Phase Shift Keying,PSK)和正交幅度调制(Quadrature Amplitude Modulation,QAM)两种调制方式,调制类型包括QPSK、8PSK、16QAM、64QAM。调制信号受加性高斯白噪声干扰,信噪比(Signal Noise Ratio,SNR)取0、2、4、6、8、10 dB。首先将接收信号映射到如图6所示的复平面中的某个点,形成接收星座图。然后将映射区域分割成224×224个大小相同的小网格,每个小网格代表一个像素点,统计每个网格中点的数目,确定颜色,最终生成彩色图像作为实验数据集。每种调制类型在不同SNR下各生成1 050张星座图,其中1 000张作为训练集,50张作为验证集。图7所示为SNR为4 dB和10 dB时数据集中星座图样例。

图6 彩色星座图数据集生成示意图

图7 调制星座图数据集样例

3.1.3 参数设置及实验结果

实验1具体参数设置为:训练次数为50,批数量为32,使用多分类交叉熵函数(Cross Entropy Loss)计算损失,采用Momentum进行参数更新[12],学习率为0.01。在ModelArts上选择专属资源池中Ascend 910 CPU 24核完成训练和推理。

图8所示是SNR为4 dB和10 dB时单独训练AlexNet网络模型的损失和精度曲线。当SNR为10 dB时,训练损失在训练次数为25后稳定在0.025附近不再下降,验证集的精度达到99.69%。当SNR为4 dB时,训练损失最终逐渐收敛在0.045,验证精度约为83%。

图8 AlexNet模型损失和精度曲线

实验1结果的分类混淆矩阵如图9所示,从图9可知,SNR为10 dB时,BPSK、8PSK、16QAM、64QAM 4类数字调制类型的盲识别准确率几乎达到100%,而SNR为4 dB时,识别准确率平均降低15%。

图9 混淆矩阵

为了进一步研究不同SNR下AlexNet模型对4类数字调制类型盲识别的精度和鲁棒性,实验将所有训练数据集作为整体统一输入AlexNet模型进行训练,在不同SNR下的验证集分别推理,画出图10所示的4种调制类型在不同SNR下的盲识别精度曲线。

图10 调制类型盲识别精度曲线

实验1使学生掌握卷积神经网络原理与结构的同时,还能巩固数字调制理论。数据集以彩色图片方式显现,学生能够直观地看到各种调制类型的差异,激发学生的好奇心,加深实验印象。实验结合MindSpore框架和ModelArts开发平台,内容多样,可提高学生综合性实验能力。

3.2 实验2:基于NND的LDPC码译码实验

3.2.1 整体流程

实验2的整体流程如图11所示,具体包括如下3个部分:

(1)老师课堂讲授LDPC码在高斯信道下的置信传播(Belief Propagation,BP)译码算法[15]。长度k=8的信息由码率为0.5的LDPC码编码得到长度为n=16的码字c=(c1,c2,…,cn),其经过BPSK调制得到符号序列X=(x1,x2,…,xn),X受到均值为0,方差为σ2的加性高斯白噪声干扰,得到信道输出序列Y=(y1,y2,…,yn),再根据公式计算Y的对数似然比(Log Likelihood Ratios,LLR),将LLR和码字c分别作为数据集和真实标签保存。

(2)学生使用MindSpore框架搭建由输入层、隐藏层和输出层构成的NND模型,隐藏层采用较为简单的3层全连接神经网络(Fully Connected Neural Networks,FCNN)。NND的各层节点数如图11所示,其推理输出用c′表示。实验还仿真了不同迭代次数的LDPC码BP译码算法,与NND形成对照实验。

图11 基于NND的LDPC码译码实验流程图

(3)学生将数据集和NND模型脚本上传至ModelArts开发平台,创建作业并设置相关运行参数进行模型的训练和推理。收集实验数据,画出NND训练损失与精度曲线及NND与BP译码的比特错误率(Bit Error Rate,BER)和码字错误率(Codeword Error Rate,CER)对照曲线,完成实验。

3.2.2 NND译码模型参数设置

实验2中,加性高斯白噪声信道下的SNR取1~5 dB。为了将所有可能的码字输入NND训练,每个SNR下的训练数据集大小为2n,并额外生成大小为212的验证数据集。训练次数设置为100,批数量为512,由于是0和1的二分类问题,损失用公式

计算均方误差(Mean Square Error,MSE)[11],优化器使用Adam,学习率采用Adam优化器默认值0.001,NND中非线性激活函数使用修正线性单元(Rectified Linear Unit,ReLU)。在ModelArts平台训练和推理时,选择专属资源池中Ascend 910 CPU 24核。

3.2.3 实验结果

NND模型的训练损失和验证精度曲线如图12所示,由图可知,训练次数为80时,损失收敛在0.02附近并不再下降,译码精度最终稳定在98%。

图12 NND的损失和精度曲线

图13是在不同SNR下,NND模型与传统BP译码算法的BER和CER比较结果,NND的BER和CER比BP译码算法在迭代次数(Iteration Number,IN)为5和30时分别提升约1 dB和0.7 dB。实验不仅包含了LDPC码的传统BP译码算法知识,还设计了基于FCNN的NND模型,通过对比实验,将理论与实践相结合,帮助学生养成主动分析问题、亲自动手编程的好习惯。

图13 NND与BP译码算法对比

4 结 语

为了适应未来人工智能时代的通信工程师培养,我校无线通信技术课程教学改革依托MindSpore和ModelArts资源,将智能通信领域最新科研成果引入通信工程专业本科生实验中,开发了基于DL的数字调制类型盲识别实验和基于NND的LDPC码译码实验。学生通过学习智能通信模型、调试参数、数据分析处理等实验步骤,掌握了如何将DL基本理论应用到无线通信系统设计中,锻炼了编程能力和交流表达能力,培养了自主学习和独立思考的习惯,为参加各类竞赛打下坚实基础。

猜你喜欢
译码精度实验教学
关于基础教育阶段实验教学的几点看法
热连轧机组粗轧机精度控制
基于对数似然比与极化信道可靠度的SCF 译码算法
基于扩大候选码元范围的非二元LDPC加权迭代硬可靠度译码算法
分段CRC 辅助极化码SCL 比特翻转译码算法
基于校正搜索宽度的极化码译码算法研究
小议初中化学演示实验教学
电容器的实验教学
对初中化学实验教学的认识和体会
超高精度计时器——原子钟