基于Virtools虚拟现实技术的三维解剖图谱开发*

2014-09-13 12:35焦培峰张美超李本富
计算机工程与科学 2014年8期
关键词:解剖学虚拟现实图谱

焦培峰,张美超,李本富

(1.南方医科大学基础医学院人体解剖学教研室生物力学实验室,广东 广州 510515;2.南方医科大学生物医学工程学院,广东 广州 510515)

基于Virtools虚拟现实技术的三维解剖图谱开发*

焦培峰1,张美超1,李本富2

(1.南方医科大学基础医学院人体解剖学教研室生物力学实验室,广东 广州 510515;2.南方医科大学生物医学工程学院,广东 广州 510515)

解剖图谱在医学教育中一直占据非常重要的地位,然而传统图谱空间信息不足,现有电子图谱图像失真且交互性差。运用虚拟现实技术开发交互性强的三维人体解剖学图谱,首先利用CT设备扫描的真实人体断层数据进行三维重建,获得结构完整的人体局部解剖三维模型;然后基于解剖学知识区分不同结构并利用3DSMAX建立骨骼、血管等独立模型并设置贴图,再导入Virtools中,配以文字、图片等多媒体材料,设置丰富的人机交互手段;最后打包生成可在Windows下直接使用的三维图谱软件。将支持游戏开发的三维引擎用于人体解剖图谱的制作中,强调其交互的丰富性,同时具有真实感强、开发周期短等优点,图谱软件有利于课堂施教和学生自学。

Virtools;虚拟现实;图谱;真实感;互动

1 引言

人体解剖学是现代医学教育中最重要的基础课程之一。多年来,解剖学图谱都是临床诊断、医学教育和科学研究中不可或缺的辅助工具。传统的解剖图谱以纸为载体,只能显示人体结构的表面或投影等二维信息,因此往往以多幅图片来展示不同角度及层次结构,实际使用效果差强人意。近年来随着办公自动化的普及,多媒体成为教学中的新宠,然而最重要的形态表现仍以图片为主,为数不多的三维图谱也未被广泛接受。毋庸置疑,三维电子图谱拥有传统图谱无可比拟的优势,其未获推广普及的原因主要有以下两点:第一,三维图谱的逼真度不够,目前大多数三维图谱都是利用三维模型来展示局部结构,三维模型的构建及渲染贴图都存在不够逼真的问题,使用者观看时会觉得不真实或不够专业,尤其如果与真实标本图像进行比较,这种感觉会更加强烈;第二,目前多数三维图谱的交互性功能设置较差,不能满足使用者的要求,更无法激发其求知兴趣。目前,国内外有很多的免费工具可以读取临床影像数据,甚至进行快速的三维重建,但其重建过程都是纯粹的图像处理,没有包含解剖学知识在内,重建后的图形是否正确以及是否适合观察等问题也没有解决。此外,交互手段的单一也使得这类软件不易用于学习。

虚拟现实技术VR(Virtual Reality)是以浸没感、交互性和构想性为主要特征的计算机高级人机界面[1]。它利用计算机生成逼真的三维视觉,辅以听觉和嗅觉等,通过适当装置使人与虚拟世界进行主动体验。该技术集成了计算机图形技术、仿真技术、人工智能、传感技术以及网络处理技术等,是一种由计算机技术辅助生成的模拟系统[2,3]。虚拟现实技术已经在诸多领域获得广泛应用,尤其以电脑游戏领域为最,甚至年轻人中出现了沉迷于网络游戏等不良习惯,可见虚拟现实技术的强大吸引力。如果能够将应用于开发电脑游戏的技术应用于制作教学辅助工具,势必会产生出更具吸引力的教学软件,甚至可能带来教学方法的变革[4]。

有鉴于此,本文利用医用CT设备对真实人体标本的扫描来获取数据,以专业医学建模软件建立局部三维模型,参考传统图谱及实物照片区分人体内不同结构,在3DSMAX中进行贴图设置和修整,最后在Virtools中添加丰富的交互手段,制作出的三维解剖图谱真实感强、互动功能丰富,试用者反映效果颇佳。

2 系统总体设计

2.1 工具简介

Mimics10.01是以医学图像为处理对象的三维图像生成及编辑软件,它能直接导入各种成像设备(如CT及MRI等)获取的标准DICOM格式数据,建立三维模型并进行编辑,还可输出通用的物理模型、有限元模型等,并可在PC机上进行大规模数据转换处理。

Virtools是三维引擎支持下的虚拟现实编辑软件,它可将二维图像、三维模型以及视频音频等元素进行整合,生成具有丰富交互功能的虚拟现实作品。此外,开发者还可应用VSL自己编制行为模块,与软件自带的500多种行为模块一起对虚拟现实进行更深入的开发[5~8]。Virtools多用于三维游戏开发中,其丰富的交互手段是开发三维图谱最大优势所在,也是本文的核心内容。

2.2 设计思路

以真实人体数据为基础建立人体局部结构三维模型,在3DSMAX中进行贴图加工,以获得更加逼真的显示效果,最后导入Virtools中进行交互功能设置。总体设计思路如图1所示。

Figure 1 Design of whole system图1 总体设计思路

3 系统实现方法

3.1 建模与贴图

本文以真实人体数据重建人体三维模型,具体方法为:取形态较好的人体标本作为建模对象,对其进行扫描前的处理,包括标本的消毒清洗、整体修饰、血管造影灌注等步骤。考虑到标本显影的问题,血管灌注材料中添加了少量造影剂,目的是扫描后的图像中血管断面清晰,又比骨骼断面亮度弱,容易区分。所有标本都用CT设备获取断层图像序列,层厚均为1 mm,获得图像大小512×512像素,以标准文件格式DICOM输出。三维建模软件为Mimics 10.01,主要步骤包括:(1)将序列文件导入软件中,首先以灰度阈值法初步提取骨骼及血管断面图像;然后根据断层解剖学知识区分其他如肌肉等结构,并利用图像处理算子及人工干预进行断面数据修饰;最后分别构建出骨骼、动脉、静脉、神经、肌肉以及皮肤组织的三维模型,导出存储为obj格式。(2)在3DSMAX 2010中导入模型文件,对所有模型进行进一步的修饰,包括去噪点以及适度平滑等处理,结合图谱及实物照片生成模型贴图,给模型着色或贴图,以获得更好的显示效果[9,10]。

3.2 Virtools交互设计与实现

以三维模型和对应名词为导航入口,通过鼠标和键盘的配合完成各种交互功能,根据不同需求显示内置文本、图片及音频视频等多媒体信息,并在界面上添加用户自定义功能,如利用百度进行内容搜索等。交互设计思路如图2所示。

Figure 3 Set for dynamic connecting line图3 动态连线的实现

Figure 4 Set for rotate function图4 旋转功能的实现

Figure 5 Set for transparent adjusting图5 透明度调节的实现

Figure 2 Design for interactive function图2 交互功能设计

根据教学中的体会,传统图谱中结构—线条—名称的形式最易被接受,因此本文也采用这种形式来指示局部结构。交互状态下模型会有不同位置及姿态的变动,要求指示结构的连线也随时跟踪,因此连线实际为动态显示,通过设置实时渲染的控制点连线实现此功能,其设置如图3所示。

本文使用鼠标和键盘响应作为触发器,通过加载对应行为互动模组来实现缩放、拖曳及旋转等操作,最终可以使用鼠标左键和不同的按键组合控制模型,其设置如图4所示。

设置模型的着色及可调节的透明度来实现局部模型不同层次结构的显示,实现方法是构建滑动控制条,其滑动数值与透明度显示相关联,设置方法如图5所示。

本文还吸收了多媒体课件的优点,将双语文字说明、实物图像、断层图像以及视频音频等多媒体因素也加入到图谱中,并且根据模型所处的互动状态来显示相应的多媒体信息。此外考虑到用户可能的使用要求,设置了如对结构名称添加不同颜色以示区别、允许用户添加书签和备注、提供在百度内搜索相关内容等便捷功能,其实现方法都较为简单。

3.3 系统的发布及使用

Virtools软件本身并没有打包发布的模块,其作品常常需要特定的播放器才能使用,本文利用VC与Virtools的接口,将作品打包生成可在Windows下独立运行的可执行文件,摆脱了特定播放器的限制。

发布的三维图谱软件使用非常简单,以鼠标及按键组合来控制拖曳、旋转及缩放等功能,拉动滑动控制条的滑块可控制透明度及选择着色效果,其他多媒体的显示及切换仅需鼠标点选链接入口和关闭即可。图6显示独立寰椎的三维图谱与传统图谱的对比(参考图谱来自暨南大学网络课程),图7显示人手局部结构的互动效果。

4 结束语

虚拟现实技术是计算机领域极具发展潜力的新

技术,在一些医疗及教学科研设备中已经展示出其独特的优势。本文介绍的基于Virtools的三维人体解剖图谱注重模型的逼真感和图谱的互动效果,给使用者带来了更好的体验。由于本文仍以拉线式图谱为主要表现形式,因此很多交互功能都没有添加,将在下一步开发人体结构漫游系统中加以应用。

[1] Fu Zhao-guo,Wang Tian-wei, Ni Xiao-peng, et al. The virtual reality technology and its application in special equiment education based on Virtools[J].Computer Engineering & Science,2012,34(6):97-100.(in Chinese)

Figure 6 Comparison of the 3D atlas and traditional atlas (left:3D atlas, right:traditional atlas)图6 三维图谱显示与传统图谱对比(左为三维图谱,右为传统图谱)

Figure 7 Anatomy interactive interface of the hand图7 手局部解剖交互界面

[2] Luo Jian-qin, Sun Ming, Sun Li-jun. Interactive animation:Virtools & 3ds Max virtual technology [M].Beijing:Science Technology Press, 2010. (in Chinese)

[3] Wang Li-qun,Li Hong-song.Computer games design:A concise course for Virools[M].Shanghai:Fudan University Press,2008. (in Chinese)

[4] Wu Jing,He Qiang.Designing teaching software based on Virtools[J]. Microcomputer Information, 2010,26(6):199-201.(in Chinese)

[5] Luo Hong, Wang Shi-yong. Virtual teaching system designing and realizing based on Virtools[J]. Modern Educational Technology,2007(10):57-60. (in Chinese)

[6] Zhang Jian-li, Zhu Yong-mei. Research on interactive virtual presentation technology based on Virtools[J]. Modern Manufacturing Engineering,2010(5):36-39. (in Chinese)

[7] Liu Jing-yan, Huai Yong-jian, Shuai Li. The design and implementation of interactive costume exhibition system based on Virtools[J]. Microcomputer Information, 2010,26(1):195-197. (in Chinese)

[8] Li Chang-guo, Zhu Fu-quan, Tan Liang. Research on development approches of virtual experiment based on 3D and Virtools technologies [J].Computer Engineering and Applications, 2006,42(31):84-86.(in Chinese)

[9] Fan Xiao-liang, Li Yu-zhen, Mao Xing-fei.Research on virual fixture assembly system based on 3DSMAX and Virtools[J].Machinery Design & Manufacture, 2010(8):237-239. (in Chinese)

[10] Hu Liang, Wang Lan-mei, Song Hong-peng, et al. SolidWorks、3DSMax combined with Virtools for virtual reality[J].Journal of Shandong University of Technology(Natural Science Edition), 2010,24(3):103-106. (in Chinese)

附中文参考文献:

[1] 傅招国,王天威,倪小鹏,等.基于Virtools的虚拟现实技术及在特种教学设备中的应用[J].计算机工程与科学,2012,34(6):97-100.

[2] 罗建勤,孙明,孙立军. 交互式漫游动画:Virtools +3ds Max 虚拟技术整合[M] . 北京:中国科学技术出版社, 2010.

[3] 王立群,李红松.电脑游戏策划与设计:Virtools 简明教程[ M].上海:复旦大学出版社, 2008.

[4] 吴静,何强.基于Virtools 的教学软件设计与实现[J].微计算机信息,2010,26(6):199-201.

[5] 罗虹,王士勇.基于Virtools技术的虚拟教学系统的设计与实现[J].现代教育技术,2007(10):57-60.

[6] 张剑利,朱永梅.以Virtools为基的交互式产品虚拟展示技术研究[J].现代制造工程,2010(5):36-39.

[7] 刘鶄燕,淮永建,帅立.交互式虚拟服装展示系统设计与实现[J].微计算机信息,2010,26(1):195-197.

[8] 李昌国,朱福全,谭良.基于3D和Virtools技术的虚拟实验开发方法研究[J].计算机工程与应用,2006,42(31):84-86.

[9] 范孝良,李玉珍,茅兴飞.基于3DSMAX和Virtools技术的夹具虚拟装配系统研究[J].机械设计与制造,2010(8):237-239.

[10] 胡亮,王兰美,宋宏鹏,等.SolidWorks、3DSMax结合Virtools实现虚拟现实应用研究[J].山东理工大学学报(自然科学版),2010,24(3):103-106.

JIAOPei-feng,born in 1977,PhD candidate,lecturer,his research interest includes medical biomechanics.

张美超(1974 -),男,湖北蕲春人,博士,副教授,研究方向为医学生物力学及有限元仿真。E-mail:zmc@fimmu.com

ZHANGMei-chao,born in 1974,PhD,associate professor,his research interests include medical biomechanics and finite element simulation.

Developmentof3DanatomyatlaswiththevirtualrealitytechnologybasedonVirtools

JIAO Pei-feng1,ZHANG Mei-chao1,Li Ben-fu2

(1.Biomechanics Laboratory,Department of Human Anatomy,Basic Medical School,Southern Medical University,Guangzhou 510515;2.School of Biomedical Engineering,Southern Medical University,Guangzhou 510515,China)

The anatomy atlas plays an important role in the medical education, but the traditional atlas cannot provide enough 3D information, and the existing electronic atlases have poor visions and interactions. A 3D human anatomy atlas focusing on interaction is developed with the virtual reality technology. Firstly, the 3D regional models are reconstructed with the CT scanning data from the real human specimen. Secondly, the different structures such as bones and vessels are distinguished and mapped with textures in 3DSMAX, and then interactions are set with other materials such as texts and pictures in Virtools. Finally, a 3D atlas is published as an independent software that can be executed in Windows OS. The 3D game engine is used to do the atlas so that rich interactions are available. The atlas owns strong realistic visions but a short development period, and will be beneficial for teaching or self-learning.

Virtools;virtual reality;atlas;realistic;interaction

1007-130X(2014)08-1555-05

2012-08-21;

:2013-02-25

国家863计划资助项目(2012AA02A603);国家自然科学基金资助项目(31200708)

:张美超(zmc@fimmu.com)

TP391.4

:A

10.3969/j.issn.1007-130X.2014.08.023

焦培峰(1977-),男,山西太原人,博士生,讲师,研究方向为医学生物力学。E-mail:jiaopeifeng@126.com

通信地址:510515 广东省广州市南方医科大学基础医学院

Address:Basic Medical School,Southern Medical University,Guangzhou 510515,Guangdong,P.R.China.

猜你喜欢
解剖学虚拟现实图谱
绘一张成长图谱
CBL结合微课在神经解剖学实验教学中的应用
REALITY BITES
补肾强身片UPLC指纹图谱
风口上的虚拟现实
虚拟现实技术向科幻小说借灵感
主动对接你思维的知识图谱
解剖学教师培养模式的探索
正常人体解剖学知识竞赛的规划设计与组织开展
不同教学模式在人体解剖学教学中的应用与探讨