当前位置:首页 期刊杂志

分布式VR-GIS海量三维空间数据存储调度模型研究

时间:2024-05-22

江媛媛,周圣川,韩 勇,马纯永

(1.中国海洋大学 信息科学与工程学院 海洋技术系,山东 青岛 266100;2.中国海洋大学 海洋遥感教育部重点实验室,山东 青岛 266100)

网络化虚拟地理信息系统利用网络优势向用户提供超媒体、交互式、分布式的空间信息,具有传统虚拟地理信息系统所不具备的优势[1-3],使得VR和GIS处理海量空间数据的方式从原来的集中、独占走向分布、共享。但是,受网络传输带宽和海量空间数据实时绘制中图形设备、数据吞吐效率的制约,在分布式VR-GIS研究中还存在诸多问题[4-6]。针对现有海量空间数据网络化索引、调度、存取方面的不足,并考虑技术实施的可行性,本文研究了空间数据索引与文件系统索引性能的最优化组合,建立了面向网络应用的海量三维空间数据库结构和高效数据访问模型。通过对海量三维空间数据渲染与网络传输数据流负载平衡性能模型的研究,为虚拟城市等空间数据处理和应用系统提供了智能的网络化性能检测、优化方法,也为相关的VR-GIS理论研究开拓了新的方向。

1 研究内容

1)分布式三维空间数据索引算法及其与分布式存储系统的最优化结合。从现有的多源、异构、海量三维空间数据出发,对三维空间数据进行分类,分析空间数据的性质及其结构特点[7,8]。对已有的多种空间数据索引,如R-树、R+树、四叉树、网格索引、B树索引等进行深入研究,分析其在分布式存储模型中的性能特点、优势与不足。以此为基础,研究了网络化分布式文件系统中的三维空间数据索引模型,在网络化存储集群上研究基于分布式存储的三维空间数据索引模型[9];进一步,对单个数据节点,研究和探索空间数据索引结构与物理文件索引结构的性能最优化结合方法,设计专用于三维空间数据的文件系统结构,通过在性能因子上的拟合使2种索引相互优化,在分布式网络环境中实现最佳的三维空间数据运算和调度传输性能。

2)网络化三维空间数据库系统模型及其优化方法。针对三维空间数据特殊的数据结构,设计了与之对应的空间数据物理分布模型,研究支持三维空间数据高并发、高吞吐量网络化访问的分布式数据库系统模型[10,11]。该数据库模型以面向三维空间数据的分布式文件索引结构为基础,通过高效的三维空间数据索引控制数据在分布式子网和外网中流转,着重对空间数据的外存组织、物理节点分布模型进行研究,实现具备强鲁棒性、高可靠性、高效率的海量三维空间数据分布式存储与分发管理机制。

3)三维空间数据库网络化调度、可视化性能指标及影响因子的提取与量化。研究分析了影响虚拟城市等网络化空间数据处理应用系统性能的因素,量化分布式网络环境下三维空间数据索引、数据库模型的性能参数,主要包括:

①分布式网络环境下海量三维空间数据内外存调度、网络传输性能评价指标及量化方法,主要包括数据传输吞吐量、数据传输率、单位时间服务对象数、并发数、页面帧速、页面帧速方差等。

②量化影响虚拟城市计算机系统性能的指标,包括内存、显存、硬盘转速、服务节点树、磁盘页面分布规律等,以及其对整体性能的影响。

③量化海量三维空间数据处理过程以及应用系统数据组成结构、组织方式对整体性能的影响,主要包括数据整体的空间分布特点、几何面片数、纹理数据量、对象节点个数及空间数据索引模型等。

④使用数据建模方法对获取的性能实测数据进行拟合,建立性能预测模型,主要包括影响空间数据检索、运算的性能因素与影响数据流负载平衡的性能因素,结合带宽、节点数、拓扑结构等网络环境指标,实现网络环境下对空间数据的存取、调度性能变化的预判和估计。

2 技术方案

研究遵循理论与实验相结合的方式,以应用需求为导向,按照数据集获取、建立模型、网络化集成、反馈分析的流程进行开发。总体研究路线如图1所示。

图1 总体研究路线图

1)数据集选取。有效的测试数据集是研究的基础,也是衡量系统是否满足需求的重要评判标准。本研究拟采用多类型数据集结合的方式构建基础测试数据集。其中,在三维模型方面,使用“数字青岛”20 GB全城区建筑模型数据,其中包含青岛市区内的所有建筑模型和高清晰度纹理数据;在DOM、DEM数据方面,使用总数据量为200 GB的美国阿拉斯加州10 m×10 m分辨率地形数据和“数字青岛”3 m×3 m分辨率的高清晰度地形数据。此外,还综合大量的测试用SHP数据、CAD数据等常用空间数据,在保证测试数据量的同时,保证研究结果对常用空间数据的普适性。

2)分布式文件系统与空间数据索引性能的最优化结合。将空间数据索引与分布式文件系统的物理节点分布结合,设计一种新的二次索引或混合式空间索引模式,以应对不同分辨率、不同类型、不同分布模式的三维空间数据,实现其在分布式文件系统上的性能最优化。进一步,将Hilbert与空间索引相结合,能在获得最优三维空间查询性能的同时,使服务器的单节点和网络I/O最小化。

3)分布式三维空间数据库模型的建立。将空间数据的分布特点与分布式数据库系统的节点组织结构相结合,充分考虑三维空间数据组成结构、空间数据索引结构、网络节点分布、DP次数等影响因素,对传统分布式数据库模型进行修正。构建三维空间数据库物理层和网络层模型,结合Hilbert空间填充曲线改变硬盘存储器的分页存储模式,形成磁盘页面属性与空间属性结合的数据分布模式。在分布式网络传输方面,实现三维空间数据自适应压缩算法,通过在传输前对空间数据进行压缩降低可视化数据的传输量;在网络节点解压时,依据客户端配置进行完全或部分解压,并评估加压率对数据传输和网络负载的影响。此外,通过对基于三维空间索引的优化算法的研究,使传输的数据量和协议通讯I/O最小化。

4)分布式空间数据索引与数据调度性能的建模与优化。建立分布式空间索引和三维空间数据库性能模型并进行验证与仿真,性能建模的流程主要包括:运行简化情况;运行状况跟踪;在线图形显示;连续测试,将输入参数作小的改变,然后进行多次仿真,对任何一个输入参数作小的变化,应该产生一个小的输出变化,如果输出变化很大,则应该进行着重分析;退化检测,将模型工作在系统、配置、负载等的极值状态看测试结果;一致性检测,输入参数值的改变应该在输出有类似的改变。试着采用不同方法进行多次仿真,看其结果。此外,在收集大量性能测试结果的基础上进行性能曲线的建模、拟合,实现对空间索引和数据库模型性能变化的预测,并给出自动优化的方案。

3 研究目标的实现

本文研究了网络化分布式存储模型中的三维空间数据高效索引与调度模型,突破了海量空间数据索引和调度算法的二维局限性和网络局限性,建立了分布式文件系统,设计了分布式三维空间数据索引算法并探讨了三维空间数据索引与分布式文件索引的性能最优化结合方法(见图2)。本文还研究了海量三维空间数据在分布式网络环境中的节点分布、数据结构和服务模型,提出了适用于三维空间数据和分布式网络环境的数据调度算法,建立了充分优化的网络化三维空间数据库模型,实现了能支持TB级三维空间数据在线交互式渲染的分布式三维空间数据库系统,如图3所示。

通过本模型的研究,建立了网络环境下基于分布式三维空间数据存储与索引机制的调度传输及可视化性能模型,收集了当前运行环境下的性能指标参数,采用统计学习的方法来有效准确地预测系统在不同负载压力下的性能,为性能建模领域的研究提供了新的研究方法和技术路线。

图2 网络环境下的三维模型调度

图3 网络环境下导航与属性调度

[1]李德仁.数码城市(CyberCity)的概念、技术支撑和典型应用[D].数字湖北与湖北经济研讨会论文集,2001

[2]朱庆,林珲.数码城市地理信息系统[M].武汉:武汉大学出版社,2004

[3]承继成.数字城市——理论方法与应用[M].北京:科学出版社,2007

[4]Cavagna R,Royan J, Gioia P, et al. Peer-to-peer Visualization of Very Large 3D Landscape and City Models using MPEG-4[J].Singal Processing: Image Communication, 2009,24(1):115-121

[5]Cignoni P, Montani C, Rocchini C, et al. External Memory Management and Simplification of Huge Meshes[J]. IEEE Transactions on Visualization and Computer Graphics,2003,9:525-537

[6]Brooks S, J. Multilayer J W Hybrid Visualization to Support 3D GIS[J]. Computer, Environment and Urban Systems, 2008,32:278-292

[7]Kashiyama K, Takada T, Miyachi H. Large Scale Finite Element Modeling, Simulation and Visualization for Wind Flows in Urban Area Using Virtual Reality[J]. Tsinghua Sicence and Teachnology, 2008,13:84-89

[8]Mitas, Brown, William M. Role of Dynamic Cartography in Simulations of Landscape Processes Based on Multivariate Fields[J]. Computers & Geosciences, 1997,23(4): 437-446

[9]Cervelle, LA. 3D Topological Modeling and Visualization for 3D GIS[J]. Computers and Graphics, 1999,23(4): 469-478

[10]常魁,高金良,袁一星,等.基于虚拟现实的城市供水管网仿真系统[J].华南理工大学学报:自然科学版,2008,36(12):43-46

[11]王丽英,华炜,鲍虎军. 规则驱动的虚拟城市道路网络和建筑布局建模[J]. 计算机辅助设计与图形学学报,2006,18 (11):1 704-1 709

免责声明

我们致力于保护作者版权,注重分享,被刊用文章因无法核实真实出处,未能及时与作者取得联系,或有版权异议的,请联系管理员,我们会立即处理! 部分文章是来自各大过期杂志,内容仅供学习参考,不准确地方联系删除处理!