摘 要: 高性能電力應(yīng)用致力于搭建用于調(diào)度數(shù)據(jù)的統(tǒng)一管理、集中處理平臺。數(shù)據(jù)網(wǎng)格易于海量數(shù)據(jù)共享的特點使其適用于實現(xiàn)調(diào)度主站一體化,。構(gòu)建了調(diào)度主站數(shù)據(jù)網(wǎng)格的基本架構(gòu),,利用網(wǎng)格軟件Globus Toolkit建立網(wǎng)格環(huán)境,在此基礎(chǔ)上配置數(shù)據(jù)庫訪問中間件OGSA-DAI來建立面向調(diào)度主站一體化的數(shù)據(jù)網(wǎng)格實驗平臺,。
關(guān)鍵詞: 調(diào)度主站一體化,;數(shù)據(jù)網(wǎng)格;網(wǎng)格服務(wù),;統(tǒng)一訪問
電力計算需要在分布式區(qū)域建立數(shù)據(jù)交換與共享,,以實現(xiàn)電網(wǎng)的整體分析計算,提高實時監(jiān)控性能與分布式計算的能力,。而數(shù)據(jù)網(wǎng)格通過統(tǒng)一分享平臺,,實現(xiàn)對于資源的統(tǒng)一管理和動態(tài)組合,為用戶提供能夠完成高性能計算的一體化平臺,。電力數(shù)據(jù)網(wǎng)格致力于建立一種高性能、支持分布式電力計算的協(xié)作環(huán)境,,滿足電力系統(tǒng)新型并行與分布式協(xié)作型業(yè)務(wù)的需要,,提高信息系統(tǒng)的資源利用率[1-2]。
OGSA-DAI是目前技術(shù)較為成熟的數(shù)據(jù)網(wǎng)格中間件,,建立在Globus Toolkit的網(wǎng)格環(huán)境上,,通過屏蔽下層操作來實現(xiàn)對異構(gòu)數(shù)據(jù)庫的統(tǒng)一化訪問[3]。利用數(shù)據(jù)網(wǎng)格便于異構(gòu)資源管理和共享的功能,,實現(xiàn)分布式數(shù)據(jù)資源管理和共享,。
1 數(shù)據(jù)網(wǎng)格
1.1 數(shù)據(jù)網(wǎng)格環(huán)境
Globus是一種用于構(gòu)建計算網(wǎng)格的開放體系結(jié)構(gòu)、開放標(biāo)準(zhǔn)的項目,,對資源管理,、安全與信息服務(wù)及數(shù)據(jù)管理等網(wǎng)格計算的關(guān)鍵理論進行研究并提供了基本的機制和接口,適合大型網(wǎng)格系統(tǒng)運行的大型應(yīng)用程序的開發(fā),。Globus Toolkit工具包來源于Globus項目,,是一個開放源碼的網(wǎng)格的基礎(chǔ)平臺,基于開放結(jié)構(gòu),、開放服務(wù)資源和軟件庫,,并支持網(wǎng)格和網(wǎng)格應(yīng)用,目的是為構(gòu)建網(wǎng)格應(yīng)用提供中間件服務(wù)和程序庫,。
1.2 中間件
OGSA-DAI中間件完全由Java編寫,,因而適用于各種系統(tǒng)平臺。通過Web service進行數(shù)據(jù)訪問,,即屏蔽服務(wù)內(nèi)部的配置,,將查詢動作以服務(wù)的方式執(zhí)行,為構(gòu)建高層次的數(shù)據(jù)網(wǎng)格服務(wù)提供開發(fā)工具。
2 調(diào)度主站網(wǎng)格架構(gòu)
數(shù)據(jù)網(wǎng)格適用于解決數(shù)據(jù)密集型電力計算應(yīng)用中方便高效使用分布式數(shù)據(jù)資源的問題,,其內(nèi)容主要集中在廣域,、異構(gòu)、分布環(huán)境下如何對數(shù)據(jù)進行管理,;如何從調(diào)度主站的各種異構(gòu)數(shù)據(jù)資源中獲取數(shù)據(jù),;并通過地域分布的協(xié)作和處理,從數(shù)據(jù)源中獲取有用信息,。面向調(diào)度主站的數(shù)據(jù)網(wǎng)格架構(gòu)分為數(shù)據(jù)服務(wù)源,、數(shù)據(jù)網(wǎng)格中間件和調(diào)度應(yīng)用三個層次,如圖1所示,。
數(shù)據(jù)網(wǎng)格可以理解為是調(diào)度應(yīng)用同底層存儲系統(tǒng)之間的綜合服務(wù)代理,,它對應(yīng)用程序提供一致的管理以及統(tǒng)一的數(shù)據(jù)結(jié)構(gòu),屏蔽操作的復(fù)雜性和網(wǎng)絡(luò)上存儲系統(tǒng)的異構(gòu)性,。該架構(gòu)以數(shù)據(jù)網(wǎng)格為基礎(chǔ),,建立輸網(wǎng)調(diào)度自動化系統(tǒng)、電能計量自動化系統(tǒng)的數(shù)據(jù)一體化查詢和管理平臺,。
3 調(diào)度主站網(wǎng)格設(shè)計實現(xiàn)
網(wǎng)格中間件,,在整個查詢的過程中涉及到多個模塊的應(yīng)用。整個軟件的實現(xiàn)是建立在Globus Toolkit以及在此軟件平臺上的OGSA-DAI軟件包,。其實現(xiàn)包括實現(xiàn)數(shù)據(jù)網(wǎng)格中間件軟件配置和數(shù)據(jù)管理應(yīng)用接口編程,。
3.1 中間件配置
中間軟件配置是數(shù)據(jù)網(wǎng)格的實現(xiàn)基礎(chǔ)和開發(fā)平臺。首先安裝Globus Toolkit,,重點是配置Globus的認證機制,,正確分配用戶證書;之后需要將OGSA-DAI作為Globus Toolkit中的新服務(wù),,配置到網(wǎng)格環(huán)境下的服務(wù)容器中,,最后將數(shù)據(jù)庫作為數(shù)據(jù)服務(wù)源配置到新服務(wù)下。中間件模塊如圖2所示,。
OGSA-DAI在網(wǎng)格環(huán)境的服務(wù)容器中添加專門用來和數(shù)據(jù)庫交互的網(wǎng)格服務(wù),,可以通過這個服務(wù)來查詢數(shù)據(jù)庫的數(shù)據(jù),并返回查詢的結(jié)果,,在這個過程中實現(xiàn)的是將數(shù)據(jù)庫注冊到服務(wù)中,,以便在訪問能夠得知都能訪問的數(shù)據(jù)的目錄。單個服務(wù)可以對應(yīng)多個數(shù)據(jù)源,,通過Resource ID來進行識別,。
網(wǎng)格服務(wù)管理和發(fā)現(xiàn)模塊是由Globus Toolkit實現(xiàn)的,調(diào)節(jié)各個服務(wù)的執(zhí)行,,具體的調(diào)用管理由Globus Toolkit自動實現(xiàn),。
3.2 數(shù)據(jù)管理接口
設(shè)計目的是將數(shù)據(jù)網(wǎng)格的基本管理功能封裝起來的中間件軟件模塊,,提供簡單、方便的數(shù)據(jù)調(diào)用和管理接口,,為上層應(yīng)用提供統(tǒng)一,、共享的數(shù)據(jù)資源。而實現(xiàn)調(diào)度主站一體化,,需要給應(yīng)用提供異構(gòu)電力數(shù)據(jù)庫數(shù)據(jù)的統(tǒng)一查詢,,以及提供對底層的數(shù)據(jù)庫的統(tǒng)一管理。調(diào)度主站數(shù)據(jù)網(wǎng)格的數(shù)據(jù)管理接口模塊如圖3所示,。
?。?)元數(shù)據(jù)提取
元數(shù)據(jù)也就是用來描述數(shù)據(jù)的數(shù)據(jù)。在數(shù)據(jù)源注冊的過程中,,除需要向平臺提交數(shù)據(jù)庫的類型,、服務(wù)器IP、端口號,、數(shù)據(jù)庫名稱,、只讀用戶與口令等參數(shù)外,可以通過元數(shù)據(jù)提取模塊來提取各個數(shù)據(jù)庫中的信息,,包括包含的表,、字段名等,以便能夠建立所謂的虛擬數(shù)據(jù)庫,,方便定位到所需的服務(wù)和數(shù)據(jù)源。
?。?)服務(wù)定位和數(shù)據(jù)庫連接
在訪問數(shù)據(jù)庫之前,,當(dāng)然要連接到數(shù)據(jù)庫。這個過程可以分為兩個部分:服務(wù)定位和數(shù)據(jù)庫連接,。
?、俜?wù)定位:如果建立了虛擬數(shù)據(jù)庫,這可以通過程序在虛擬數(shù)據(jù)庫中查找到所需的服務(wù)和相對應(yīng)的數(shù)據(jù)源,。而在簡單的情況下,,可以直接使用URL來連接數(shù)據(jù)服務(wù),Resource ID來確定需要訪問的數(shù)據(jù)庫,。
?、跀?shù)據(jù)庫連接:部署數(shù)據(jù)源時同時也部署了JDBC,它是一種用于執(zhí)行SQL語句的Java API,,可以為多種關(guān)系數(shù)據(jù)庫提供統(tǒng)一訪問,,是由一組用Java語言編寫的類和接口組成。當(dāng)確定了服務(wù)和數(shù)據(jù)源后軟件就通過JDBC實現(xiàn)對數(shù)據(jù)庫的連接,。
?。?)SQL查詢
SQL查詢是軟件最關(guān)鍵的部分,,也是軟件的目的。首先涉及到的就是對于查詢語句的分析,。如果訪問單個數(shù)據(jù)庫,,則直接將Sql語句添加到執(zhí)行文檔,然后發(fā)送給數(shù)據(jù)庫直接執(zhí)行查詢就可以,。當(dāng)Sql語句涉及到多個數(shù)據(jù)源時,,就需要對Sql語句進行分析、拆分,,然后再發(fā)送給對應(yīng)的數(shù)據(jù)源,。在整個執(zhí)行的過程中,由于數(shù)據(jù)是以流的形式傳送,,也需要數(shù)據(jù)流化和存儲模塊的參與,。
(4)結(jié)果處理
對于執(zhí)行結(jié)果的處理涉及到數(shù)據(jù)集成,、數(shù)據(jù)格式轉(zhuǎn)換,、查詢結(jié)果重組這三個模塊。
?、贁?shù)據(jù)集成:輸配一體化的數(shù)據(jù)管理包括EMS,、DMS以及計量數(shù)據(jù)庫的統(tǒng)一訪問。在某些查詢中需要來自不同數(shù)據(jù)庫的結(jié)果集成到一張表中,。軟件中采用的方法是連接到一個具有多個數(shù)據(jù)資源的數(shù)據(jù)服務(wù)在其中一個數(shù)據(jù)庫中建立新表,,將涉及到的數(shù)據(jù)庫的查詢結(jié)果匯總到這張表上。
?、跀?shù)據(jù)格式轉(zhuǎn)換:最后的查詢結(jié)果是以響應(yīng)文檔反應(yīng)的,。不同的應(yīng)用客戶端可能會對結(jié)果的形式有不同的要求,而軟件的數(shù)據(jù)格式轉(zhuǎn)化模塊中的XSlTransform活動可以實現(xiàn)將xml的響應(yīng)文檔轉(zhuǎn)換為任何形式的文本文檔,,比如轉(zhuǎn)換為HTML以便在瀏覽器中顯示,。
③查詢結(jié)果重組:這個過程可以說就是將集成和格式轉(zhuǎn)換后的查詢結(jié)果以客戶端要求的形式通過網(wǎng)格服務(wù)接口傳送到相應(yīng)的應(yīng)用,。
3.3 接口程序執(zhí)行流程
OGSA-DAI是實現(xiàn)異構(gòu)數(shù)據(jù)庫訪問的軟件包,,它提供了許多編譯好的class程序以便在編程時通過import調(diào)用??梢哉f整個編程的過程就是涉及到的class程序的調(diào)用和執(zhí)行,,而對于數(shù)據(jù)庫的連接則是采用JDBC驅(qū)動實現(xiàn)的。接口程序流程圖如圖4所示,。
調(diào)度主站一體化數(shù)據(jù)涉及到EMS和計量數(shù)據(jù)庫,,平臺設(shè)計的目的就是要實現(xiàn)對數(shù)據(jù)庫的統(tǒng)一訪問。假如需要查詢某個變電站的所有信息:首先是接口接收到用戶或者應(yīng)用程序的查詢需求信息,,通過調(diào)用程序形成執(zhí)行文檔,;然后是中間件,,對執(zhí)行文檔進行分析,根據(jù)數(shù)據(jù)庫的元數(shù)據(jù)判斷是否需要對Sql語句進行拆分,,也就是說,,如果這個變電站的信息分別保存在多個數(shù)據(jù)庫中,就需要對Sql語句進行邏輯拆分,,在確定了Resource ID后連接數(shù)據(jù)庫,,執(zhí)行完Sql語句后可生成響應(yīng)文檔,響應(yīng)文檔中涉及到模塊的完成情況,;最后是針對不同的應(yīng)用而對結(jié)果做相應(yīng)的處理,,包括數(shù)據(jù)流的存儲、數(shù)據(jù)集成以及數(shù)據(jù)格式的轉(zhuǎn)換,,以需要的形式將查詢的變電站所有信息傳送回客戶端或者電力應(yīng)用,。
OGSA-DAI通過面向文檔的接口支持與數(shù)據(jù)服務(wù)源的交互過程如圖5所示。調(diào)度應(yīng)用程序不需要直接操作數(shù)據(jù)服務(wù)源,,而是通過向數(shù)據(jù)服務(wù)發(fā)送一個執(zhí)行文檔,,然后數(shù)據(jù)服務(wù)將文檔轉(zhuǎn)送給代表實際數(shù)據(jù)源的數(shù)據(jù)服務(wù)源。數(shù)據(jù)服務(wù)源解析執(zhí)行文檔,,并且執(zhí)行文檔中指定的動作,。數(shù)據(jù)源再創(chuàng)建描述請求結(jié)果的響應(yīng)文檔,并且通過數(shù)據(jù)服務(wù)將響應(yīng)文檔返還到調(diào)度程序[4],。
4 數(shù)據(jù)網(wǎng)格實驗系統(tǒng)
調(diào)度主站數(shù)據(jù)網(wǎng)格實驗平臺利用局域網(wǎng)模擬分布在不同地理位置的數(shù)據(jù)庫或者文件服務(wù)器,,并通過網(wǎng)格環(huán)境將各個服務(wù)器作為統(tǒng)一資源進行管理,實現(xiàn)異構(gòu)數(shù)據(jù)庫的訪問,,并為上層的電力應(yīng)用提供統(tǒng)一數(shù)據(jù)查詢工作,。平臺的結(jié)構(gòu)包括軟件配置和硬件兩個部分,如圖6所示,。作為實驗平臺,硬件主要是數(shù)據(jù)庫服務(wù)器并通過網(wǎng)絡(luò)互聯(lián),,軟件配置主要是網(wǎng)格運行環(huán)境和為應(yīng)用程序?qū)崿F(xiàn)遠程,、異構(gòu)數(shù)據(jù)庫安全訪問而開發(fā)的業(yè)務(wù)應(yīng)用中間件。
數(shù)據(jù)庫服務(wù)器模擬網(wǎng)格節(jié)點,,并安裝配置Globus Toolkit網(wǎng)格運行中間件,,具有安全服務(wù)認證功能。遠程訪問的主機則作為客戶機通過安全證書認證后具有訪問數(shù)據(jù)網(wǎng)格節(jié)點權(quán)限,。在網(wǎng)格環(huán)境內(nèi)部可以實現(xiàn)在客戶主機上統(tǒng)一訪問位于遠程不同網(wǎng)絡(luò)上的異構(gòu)數(shù)據(jù)庫,,并將計量數(shù)據(jù)庫、EMS數(shù)據(jù)庫安裝在不同數(shù)據(jù)網(wǎng)格節(jié)點上,。在網(wǎng)格外部,,面向調(diào)度主站的接口可實現(xiàn)對網(wǎng)格節(jié)點數(shù)據(jù)庫服務(wù)器統(tǒng)一的數(shù)據(jù)訪問,。實驗平臺可完成復(fù)雜、具有不同標(biāo)識的輸配電數(shù)據(jù)查詢功能,,通過向接口程序提交查詢要求,,通過OGSA-DAI數(shù)據(jù)庫訪問中間件的SQL語句處理后可以在為調(diào)度應(yīng)用提供統(tǒng)一數(shù)據(jù)結(jié)構(gòu)的各個數(shù)據(jù)庫中存儲的數(shù)據(jù)。經(jīng)過查詢,,系統(tǒng)已得到欲查詢的一次設(shè)備的相關(guān)實時量測數(shù)據(jù),,最后通過數(shù)據(jù)顯示模塊,系統(tǒng)將量測配置信息及相關(guān)實時量測數(shù)據(jù)分別顯示在界面上,,供用戶查看參考,。
在數(shù)據(jù)網(wǎng)格環(huán)境下,開發(fā)了基于OGSA-DAI的數(shù)據(jù)網(wǎng)格中間件以實現(xiàn)底層異構(gòu)數(shù)據(jù)管理與訪問,,利用數(shù)據(jù)網(wǎng)格中間件,,建立分布式數(shù)據(jù)體系的統(tǒng)一通用的基本信息框架。將調(diào)度主站的各自動化系統(tǒng)與實時數(shù)據(jù)庫真正統(tǒng)一在一起,,直接查出各數(shù)據(jù)平臺上涉及到的所有相關(guān)實時量測數(shù)據(jù)功能,。OGSA-DAI能夠十分有效地屏蔽數(shù)據(jù)庫的下層管理,用于異構(gòu)數(shù)據(jù)的管理與訪問,,實現(xiàn)廣泛的分布式數(shù)據(jù)資源管理和共享,。
參考文獻
[1] DOBRZELECKI B, KRAUSE A,, HUME A C,, et al.Integrating distributed data sources with OGSA-DAI DQP and VIEWS[C]. UK e-Science All Hands Meeting,2010.
[2] LIU X H,, SHI Y M,, XU Y B, et al. Heterogeneous database integration of EPR system based on OGSA-DAI [C]. 2nd International Conference on High Performance Computing and Applications,,2009.
[3] 羅清地,,蔣秀鳳.網(wǎng)格環(huán)境下基于OGSA-DAI的異構(gòu)數(shù)據(jù)集成研究[J].計算機技術(shù)與發(fā)展,2009(3):144-147.
[4] MARIA S,, JEMAL H. An agent architecture for managing data resources in a grid environment[J]. Future Generation Computer Systems,,2009(7):295-303.
[5] PACITTI E, VALDURIEZ P,, MATTOSO M. Grid data management: open problems and new issues[J]. Journal of Grid Computing,, 2007,5(3):273-281.