《并行计算系统》课程的引导性教学与实践

刘敏，张素莉

（1.长春汽车工业高等专科学校公共教学部，长春 130013；2.长春工程学院计算机技术与工程学院，长春 130012）

《并行计算系统》课程的引导性教学与实践

刘敏1，张素莉2

（1.长春汽车工业高等专科学校公共教学部，长春 130013；2.长春工程学院计算机技术与工程学院，长春 130012）

对于《并行计算系统》课程的初学者来说，由于其概念、算法、理论有别于传统的单机知识体系，因而往往会产生高深和新难的预感。为使学生平缓顺利地进入该课程学习，在课程之初增设引导性讲座是一种可行的尝试性教学实践，取得较好的教学效果。

单机体系结构；并行计算体系结构；引导性教学

0 引言

《并行计算系统》课程是计算机及相关专业的高年级本科生或研究生的专业选修课，其特点是既和本科学生的专业基础课及专业课（如计算机导论、计算机组成原理、计算机系统结构、计算机网络、计算方法等）相关联，又在并行计算系统的体系结构、并行算法和并行程序设计等知识体系方面具有跨越式提升。因此，对于《并行计算系统》课程的初学者来说，难免会产生高深和新难的预感。

考虑到尽管该课程的核心是并行算法，然而对于给定问题的求解算法又和具体体系结构，特别是访存结构关联密切。同一个问题可以有不同的求解算法，不同的求解算法适于不同的体系结构。《并行计算系统》的3部分（并行计算系统的体系结构、并行算法和并行程序设计）的课程设置也恰恰是以并行计算系统的体系结构作为开篇的。考虑到计算机软件专业的学生往往侧重算法和程序设计方面的知识体系，而对体系结构知识和重要性比较淡化，作者根据多年的教学实践，在开课之初以体系结构为切入点，增设了以“单机体系结构与并行计算体系结构的相关性发展”为题的引导性讲座环节，目的使学生平缓顺利地进入该课程学习，实效较好。

1 单机体系结构及相关问题回顾

这个环节首先从学生在早期本科学生的专业基础课及专业课（如计算机导论、计算机组成原理、计算机系统结构等）中已经熟悉的单机体系结构开始，介绍及结构特点：运算器采用单/多CPU结构，控制器采用集中式控制方式，存储器采用全局统一编址和分时共享策略，I/O系统采用总线互联技术。

同时强调指出：（1）流水线技术中，当完成流水线的建立之后，就已经进入了部件级并行，这已经可以称之为并行计算的原始或初级阶段；（2）多CPU结构发展为紧密耦合的多处理机结构，就可以实现处理机之间的并行计算。但由于其仍然采用全局统一的操作系统集中式控制和全局统一的地址空间分时共享，因而相对于多计算机系统而言它仍然应该归属于单机范畴，实现的是某一时间段上的并行计算，而不是某一时间点上的并行计算。深层次的原因是由于存储器总线的单一性，决定了存储器访问的分时性，从而限制了指令流和数据流输入/输出的并行性。

这个环节的作用帮助学生回顾了单机体系结构的相关问题，萌生并行计算系统的概念性模型。

2 单机体系结构与并行计算系统体系结构的关联性

这个环节里进一步将单机体系结构与并行计算系统结构做出关联性介绍。单机体系结构的运算器经过单/多CPU结构、紧密耦合的多处理机结构已经发展为松散耦合的多计算机结构；控制器从集中式控制方式发展为服务器+网络操作系统或分布式操作系统管理下的集中与分布相结合的控制方式；存储器从全局统一编址和分时共享策略发展为物理上分布、逻辑上共享的分布式存储、分布式共享存储以及云存储策略；I/O系统从总线互联技术发展为互联网络共享I/O设备的技术。

值得指出的是互联网络承载着并行计算系统中的“运算器”、“控制器”、“存储器”和“I//O系统”等所有计算资源的互联互通的任务，因而并行计算系统具有其特殊性。

首先，对于给定问题的求解算法和具体体系结构，特别是访存结构关联密切。同一个问题可以有不同的求解算法，不同的求解算法适于不同的体系结构；

其次，求解算法与体系结构的匹配程度，又决定了算法性能的优劣。因此，也可以解释为并行计算系统（含算法和体系结构）与具体的体系结构有关。

这里以采用流水线技术的傅里叶变换和采用分治技术的傅里叶变换为例来说明。两种求解算法是完全不同的，所采用的处理机结构也是完全不同的。前者采用的是具有专用处理功能部件的脉动式流水线处理机，后者采用的是具有并行输入/输出功能的通用型处理机。

这个环节的作用是向学生展现了单机体系结构与并行计算系统体系结构的关联性，初步淡化学生对并行计算系统的高深和新难的预感，同时也强调了体系结构问题在并行计算系统中的重要作用。

3 并行计算系统的特殊性问题

这个环节的目的是在同学们已经完成了从单机体系结构到并行计算系统体系结构的过渡性认识和充分认识了并行计算系统体系结构的重要性的基础上，阐述和体系结构相关的3个特殊性问题，引导学生（特别是软件专业的学生）在整个课程学习过程中充分关注其重要性和关联性问题。

3.1 通信开销

在单机体系结构下所使用的计算资源是采用总线连接的，无需特殊考虑通信开销问题。而在很大一部分并行计算系统的体系结构中，计算资源是网络互联的，这就使得通信开销（报文数量、通信延迟、拥塞解决等等）也成为总体系统开销的一个部分，甚至是很大一部分，这是并行计算系统必须同时考虑的特殊性问题。它不仅直接影响并行计算的访存模型，从而也直接影响到并行计算系统的综合性能。

3.2 访存模型

并行计算系统体系结构的差异性突出体现在访存模型的差异性上，这种差异性不仅决定着计算模型的差异性，而且也影响着计算性能的差异性。并行计算的访存模型包括：均匀访存模型（UMA）、非均匀访存模型（NUMA）、Cache一致性非均匀访存模型（CC-NUMA）、全局Cache访存模型（COMA）、非远程访存模型（NORMA）等，这些访存模型的差异性都是受存储器的互联模式所决定的。

3.3 性能评价

如前所述，对于给定问题的求解算法和具体体系结构，特别是访存结构关联密切。同一个问题可以有不同的求解算法，不同的求解算法适于不同的体系结构。因此，对并行计算系统的计算性能的评价不仅仅是对算法本身的评价，也包含着对体系结构和通信体系的评价。

并行计算系统有两个评价体系，一个是加速比评价体系，另一个是可扩展性评价体系，两者的评价参数设置可以充分反映上述观点。

在这个环节中，以网络互联为纽带，把通信开销、访存模型以及性能评价3个具有特殊性和关联性的问题展现给学生，为学生在整个后续课程的学习过程中起到一个提示性和引导性作用。

4 结语

在从事《并行计算系统》课程的教学工作中，作者发现对课程的初学者来说，往往会带有高深和新难的预感。考虑到单机体系结构问题是本科学生的专业基础课及专业课（如计算机导论、计算机组成原理、计算机系统结构等）中已经熟悉或熟知的问题，而且并行计算系统的体系结构问题又是并行计算系统课程（体系结构、并行算法和并行程序设计）中的重要组成部分，因此笔者在开课之初增设了引导性讲座（“单机体系结构与并行计算体系结构的相关性发展”）环节。该讲座以体系结构为切入点，向学生展现了单机体系结构与并行计算系统体系结构的相关性，帮助学生从对传统的单机的学习和思维模式向并行计算系统的学习和思维模式的平缓的转变，并使学生顺利地进入该课程学习，实效较好。

[1]陈国良.并行计算结构算法编程.北京：高等教育出版社，2012.

Guiding Teaching and Practice of Parallel Computing System

LI Min1，ZHANG Su-li2
（1.Public Course Department,Changchun Automobile Industry Institute，Changchun 130013；2.School of Computer Technology and Engineering,Changchun Institute of Technology，Changchun 130012）

For the beginner of the Parallel Computing System course,because of its concept,algorithm,theory is different from the traditional standalone knowledge system,which often has a deep and new difficult premonition.In order to enable the students enter the course smoothly, it is a feasible and practical teaching practice at the beginning of the course,it makes a good teaching effect.

Single Machine Architecture;Parallel Computing Architecture;Guiding Teaching

1007-1423（2016）36-0036-03

10.3969/j.issn.1007-1423.2016.36.009

刘敏（1974-），女，吉林长春人，本科，副教授，研究方向为计算机应用

2016-12-13

2016-12-23

基金支持：

长春工程学院2014年校内教改课题“面向产业需求的《软件工程》、专业人才培养模式改革与实践”支持；吉林省教育科学十二五规划课题（GH12199）

张素莉（1974-），女，吉林四平人，博士，副教授，研究方向为智能信息处理