關鍵詞: 智能混合系統(tǒng) 自然智能 神經(jīng)網(wǎng)絡 專家系統(tǒng) 模糊邏輯
人工智能的核心任務是模擬自然智能,。而自然智能表現(xiàn)在不同的層次和不同的方面,因此仿智的方法有多種,,如模擬抽象思維層次的符號主義,,模擬形象思維層次的聯(lián)接主義,模擬智能行為層次的行為主義等,。雖然各種智能信息處理方法與概念都已提出,,并取得不少成果,,但相關的研究工作還處在較低的水平,在單獨模擬人類智能活動時,,尚存在各種局限性,。生物物理、心理認知學的研究表明,,智能信息處理能力是包括上述各種智能處理能力的綜合集成,。可以相信,,今后智能本質和智能綜合集成方面的系統(tǒng)研究將是非常重要的研究領域,。
盡管自然智能覆蓋面廣,但人是萬物之靈,,應將對人的智能的研究作為重點,,并輔以對其他自然智能的研究,從而最終解開智能的奧秘,。同時,,在研究智能綜合集成方面,由于抽象思維和形象思維是人類最主要的二種思維形式,,并且符號主義和聯(lián)接主義學派的方法和理論較為充實,,因此,應重點進行上述二者的集成研究,,然后將其原理和方法推廣到其他廣義人工智能的綜合集成中,。
1 四類典型的智能混合系統(tǒng)
智能混合系統(tǒng)主要涉及專家系統(tǒng)(Expert System,ES),、神經(jīng)網(wǎng)絡(Artificial Neural Network,,ANN)和模糊邏輯(Fuzzy Logic,F(xiàn)L)三種技術,。神經(jīng)網(wǎng)絡易于表達感性知識,,專家系統(tǒng)易于表達理性知識,而理性知識中又含有大量的模糊知識,,因此需要使用模糊邏輯來描述,。于是,不同技術的組合,,便構成了不同類型的智能混合系統(tǒng),,主要有四種(如圖1所示)。
1.1 神經(jīng)網(wǎng)絡與專家系統(tǒng)結合
神經(jīng)網(wǎng)絡與專家系統(tǒng)主要有三種結合方式,,下面分別予以介紹,。
(1)基于神經(jīng)網(wǎng)絡的專家系統(tǒng)
這類系統(tǒng)又稱聯(lián)接專家系統(tǒng),其全部或部分功能由神經(jīng)網(wǎng)絡實現(xiàn),,實現(xiàn)方式有兩種,。
①從神經(jīng)網(wǎng)絡中抽取規(guī)則構造專家系統(tǒng)
這種方式希望將神經(jīng)網(wǎng)絡的隱式“黑箱”知識表示為顯式規(guī)則形式,,并用于推理或解釋神經(jīng)網(wǎng)絡的行為。在訓練前不需要了解領域知識的結構,,也不需要將領域知識的結構強加于神經(jīng)網(wǎng)絡,,關鍵是通過神經(jīng)網(wǎng)絡的自組織、自學習來獲得易于人類認識,、理解的領域知識,。
②規(guī)則知識編碼于神經(jīng)網(wǎng)絡系統(tǒng)
這種方式比較簡單,,實質是利用神經(jīng)網(wǎng)絡將己有的領域知識進行優(yōu)化求精,所訓練的神經(jīng)網(wǎng)絡在形式上直接對應于專家系統(tǒng)的推理網(wǎng)絡,,可以直接用于推理和解釋神經(jīng)網(wǎng)絡的結論和行為,。
上述兩種方法的區(qū)別在于:前者在對神經(jīng)網(wǎng)絡進行訓練之前無需將領域知識的結構強加于神經(jīng)網(wǎng)絡,所學得的神經(jīng)網(wǎng)絡難以進行自我解釋,,神經(jīng)網(wǎng)絡中的知識只有抽取出來并表示為規(guī)則知識后才成為易于理解的顯式知識,;后者在對神經(jīng)網(wǎng)絡進行訓練之前需要將領域知識的結構編碼于神經(jīng)網(wǎng)絡中,所學得的神經(jīng)網(wǎng)絡己將知識進行了顯式表示,,因而具有自我解釋能力,。
很多學者進行了這方面的研究和開發(fā)工作。Gallant[1]首次提出并建立了聯(lián)接專家系統(tǒng),,Caudill[2]提出了建立額外的小型規(guī)則系統(tǒng)用于解釋神經(jīng)網(wǎng)絡行為的方法等,。
這類混合系統(tǒng)優(yōu)勢在于自學習和自適應能力,可以有效克服專家系統(tǒng)在知識獲取方面所遇到的困難,,開發(fā)時間較短,;缺點在于對神經(jīng)網(wǎng)絡拓撲結構、非線性活動函數(shù)及各種參數(shù)的選擇缺乏系統(tǒng)的指導原則,,應用領域較窄,,其解釋能力方面也有待進一步研究。
(2)基于知識的神經(jīng)網(wǎng)絡系統(tǒng)
這類系統(tǒng)也稱為專家網(wǎng)絡,,是由專家系統(tǒng)作為神經(jīng)模塊構成的事件驅動網(wǎng)絡,。在該系統(tǒng)中,神經(jīng)元包括“與”,、“或”,、“非”等邏輯神經(jīng)元和前提、結論神經(jīng)元,,它們之間的聯(lián)接權代表專家系統(tǒng)中的確定性因子,,故可將專家系統(tǒng)規(guī)則集表達為專家網(wǎng)絡。
這方面的研究成果主要有:Kuncicky[3]提出的專家網(wǎng)絡,,Towell[4]提出的一種基于知識的人工神經(jīng)網(wǎng)絡,??梢钥闯觯瑢<揖W(wǎng)絡的缺點是學習時只改變權值,,而不能改變網(wǎng)絡的拓撲結構,,因而不能向不完全的初始規(guī)則集增加新的符號規(guī)則。為了使專家系統(tǒng)具備學習能力,,以期根本解決知識獲取的瓶頸問題,,對專家系統(tǒng)進行合理描述并且開發(fā)有效的學習算法將是十分重要的研究方向。
(3)基于神經(jīng)網(wǎng)絡與專家系統(tǒng)的混合系統(tǒng)
這類系統(tǒng)的基本出發(fā)點是將復雜系統(tǒng)分解成各種功能子系統(tǒng),,分別由神經(jīng)網(wǎng)絡或專家系統(tǒng)實現(xiàn),,研究的主要問題包括混合專家系統(tǒng)的結構框架和選擇實現(xiàn)功能子系統(tǒng)方式的準則兩方面的問題。這兩個問題的研究相輔相成,,不可分割,。混合方式有兩種:①從應用的角度出發(fā),,對易于獲取其產(chǎn)生式規(guī)則的子系統(tǒng)使用專家系統(tǒng)技術,,其余的功能由神經(jīng)網(wǎng)絡來實現(xiàn),此時系統(tǒng)的結構由實際問題來決定,。②從功能的角度出發(fā),,可以用神經(jīng)網(wǎng)絡實現(xiàn)專家系統(tǒng)的規(guī)則推理、知識獲取等功能,,專家系統(tǒng)則負責知識的顯式表示和神經(jīng)網(wǎng)絡結論的驗證和解釋工作,。
基于此,Suddarth[5]提出將復雜系統(tǒng)分解為功能子系統(tǒng)的混合系統(tǒng)結構,,Tirri[6]則另辟蹊徑,,用神經(jīng)網(wǎng)絡實現(xiàn)專家系統(tǒng)規(guī)則集前提條件。
雖然神經(jīng)網(wǎng)絡與專家系統(tǒng)結合兼有二者之長,,但同時也帶來了單一技術不曾遇到的問題:①神經(jīng)網(wǎng)絡與專家系統(tǒng)的信息交互問題,;②學習過程所引發(fā)的系統(tǒng)可信度問題。前者的解決依賴于神經(jīng)網(wǎng)絡與專家系統(tǒng)知識表示的轉換機制或同時適合兩者的公共知識表示體系,,后者的解決有賴于不同體制下的知識的公共表示和統(tǒng)一的參數(shù)學習機制,。顯然,解決上述兩個問題己成為實現(xiàn)神經(jīng)網(wǎng)絡與專家系統(tǒng)相結合的當務之急,。
1.2 模糊神經(jīng)網(wǎng)絡
模糊神經(jīng)網(wǎng)絡(Fuzzy Neural Network,,F(xiàn)NN)是模糊理論同神經(jīng)網(wǎng)絡相結合的產(chǎn)物。它匯集了神經(jīng)網(wǎng)絡與模糊理論的優(yōu)點,,集學習,、聯(lián)想、識別,、自適應及模糊信息處理于一體,。近年來,,F(xiàn)NN的理論及應用得到了飛速發(fā)展,各種新的FNN模型的提出以及與其相適應的學習算法的研究不僅加速了 FNN理論的完善,,而且它們在實際中得到了非常廣泛的應用,。本文以此為基礎,進一步討論完整意義上的FNN的網(wǎng)絡模型,、學習算法,、模糊函數(shù)逼近性能和學習能力等關鍵問題,并對今后的研究提出自己的看法,。
(1)FNN模型和算法
目前FNN模型絕大多數(shù)都是多層前向網(wǎng)絡結構,,主要區(qū)別在于隸屬度函數(shù)、模糊加權算子,、模糊激勵函數(shù)和輸入輸出的形式,,以及結構與參數(shù)的設定和調整方法。
FNN可以分為單純型和混合型兩種:①單純型FNN:輸入輸出和連接權全部或部分采用模糊實數(shù),,計算結點輸出的權相加采用模糊算術算子,函數(shù)計算采用擴展原理,;②混合型FNN:輸入輸出和連接權全部或部分采用模糊實數(shù),,計算結點輸出的權相加還采用了除模糊算術算子以外的模糊邏輯算子,函數(shù)計算采用擴展原理,。這兩種模型既可以處理模糊信息,,也可以處理非模糊信息,因為普通實數(shù)可以作為一種特殊的模糊數(shù),。
這方面成果很多,,重要的有:Chen[7]針對基于模糊訓練樣本的模式分類問題提出了多類FNN分類器,模糊自適應諧振理論(ART)[8]成功解決了模糊信息的存儲和記憶問題,。除此之外,,還有不少文獻也都提出了各種各樣的FNN模型和算法,不再贅述,。
(2)FNN的函數(shù)逼近問題
已經(jīng)證明普通多層前向NN和模糊系統(tǒng)(輸入輸出均為非模糊數(shù))是連續(xù)函數(shù)逼近器,,并且系統(tǒng)之間可以等價互換,這為在輸入輸出非模糊的環(huán)境下設計模糊神經(jīng)網(wǎng)絡混合系統(tǒng)提供了扎實的理論基礎,。雖然模糊神經(jīng)網(wǎng)絡系統(tǒng)逼近問題取得了許多理論成果,,但是己有結果僅僅是針對采用單值模糊產(chǎn)生器的模糊系統(tǒng)得到的,對于輸入輸出均為模糊數(shù)的FNN函數(shù)逼近問題的研究相對比較薄弱,,而在設計FNN的同時論證設計模型的逼近性能有時非常必要,。因此,F(xiàn)NN函數(shù)逼近問題的研究重點是:①尋找能夠作為連續(xù)模糊函數(shù)逼近器的FNN,;②給出通用的作為連續(xù)模糊函數(shù)逼近器的FNN的構造型定理,。
在這方面Buckley[9]做了開創(chuàng)性的工作,,定義了模糊函數(shù)、連續(xù)模糊函數(shù)和連續(xù)模糊函數(shù)逼近器等概念,,并且證明如果FNN模型是單純型,,則它不可能是一個連續(xù)模糊函數(shù)逼近器;如果FNN模型是混合型,,則它可能是一個連續(xù)模糊函數(shù)逼近器,。但是,這不是一個構造型定理,,它沒有給出設計連續(xù)模糊函數(shù)逼近器的FNN的方法,。Feuring[10]在研究FNN的構造方面做出了突出貢獻,給出了一種連續(xù)模糊函數(shù)逼近器的FNN的構造方法,。這些結果對實際系統(tǒng)設計中模糊函數(shù)的選取具有指導性的意義,。
(3)關于FNN的學習能力
FNN的學習包括兩個方面:一是有效的學習算法,二是學習的精度和普適性,。通常,,由于模糊運算的復雜性和一些算子的不連續(xù)性,在多層前向NN中常用的BP算法和其他一些優(yōu)化算法不能直接用于多層前向FNN,,而修改后的Fuzzy BP規(guī)則解決了此問題,。為簡化學習算法,F(xiàn)NN的許多學習算法都采用經(jīng)驗學習公式或規(guī)則,,盡管缺乏完備的理論,,但效果顯著。
FNN的學習精度和函數(shù)逼近性能密切相關,。盡管訓練樣本有限,,但只要網(wǎng)絡足夠大,學習算法有效,,達到高精度的學習目標并非難事,。然而訓練樣本的有限性導致學習結果的普適性變差已成為學習的主要矛盾。目前關于FNN系統(tǒng)的普適性問題成果很少,,因此,,如何將非模糊學習機的普適性分析方法推廣到模糊學習機,成為FNN學習問題研究的關鍵,。
盡管這幾年FNN成果不菲,,但仍然存在如下問題:
①FNN模型的研究主要是NN的模糊化和FS的神經(jīng)網(wǎng)絡化,,很少從人腦對模糊信息的處理機制上考慮問題,。應從智能問題本身創(chuàng)造性地設計FNN模型,體現(xiàn)新的解決智能問題的思想。②FNN的數(shù)值計算導致嚴重的計算量問題,。因此,,有必要建立語言層次上的計算理論。③反饋FNN可以有效地解決成組,、約束和動態(tài)學習以及空間關系學習等許多單項FNN很難解決的問題,。因此,要加強反饋FNN的研究,。
1.3 模糊專家系統(tǒng)
專家系統(tǒng)中模糊性的一個最主要表現(xiàn)就是模糊概念的存在,。很好地表達模糊概念并不等于問題的根本解決,還要解決其使用問題,。也就是在這樣的專家系統(tǒng)中如何進行推理,。這方面的成果不多,僅集中在專家系統(tǒng)中模糊概念的表達與推理方法的研究上,。
1.4 模糊神經(jīng)網(wǎng)絡專家系統(tǒng)
專家系統(tǒng)的知識獲取及經(jīng)驗性知識處理需要融合神經(jīng)網(wǎng)絡的高質量,、高效率的學習能力與模糊邏輯出色的對于不完善知識的描述能力。發(fā)揮各自優(yōu)勢,,能明顯提高專家系統(tǒng)的性能,。
(1)知識表示問題
在實際問題中含有大量的模糊知識,僅用傳統(tǒng)的知識表示方法是不夠的,。因此,,模糊規(guī)則和隸屬函數(shù)的引入成為必然。
(2)信念傳播問題
推理期間可能有多條相同結論的規(guī)則同時滿足條件,,在傳統(tǒng)的專家系統(tǒng)中,總是采用最大優(yōu)先級規(guī)則,,誤差較大,。為了解決這個問題,采用神經(jīng)網(wǎng)絡進行推理,,結論的可信度是各條規(guī)則結論可信度的組合,,權系數(shù)是通過訓練網(wǎng)絡得到的。
(3)更有效的推理
由于推理是通過神經(jīng)網(wǎng)絡實現(xiàn)的,,減少了規(guī)則匹配過程,,從而加快了推理速度。
(4)學習問題
利用神經(jīng)網(wǎng)絡的學習能力可容易地求精模糊規(guī)則,,從而提高系統(tǒng)的適應能力,。
Zha[11]提出了一種神經(jīng)模糊專家Petri網(wǎng)模型,Li[12]開發(fā)了一個混合智能系統(tǒng),,還有不少文獻在這方面也作了相應的研究工作,。
綜上所述,以神經(jīng)網(wǎng)絡與專家系統(tǒng)的結合、模糊神經(jīng)網(wǎng)絡,、模糊專家系統(tǒng)以及模糊神經(jīng)網(wǎng)絡專家系統(tǒng)四種類型為主的智能混合系統(tǒng)成果頗多,,代表了目前智能混合系統(tǒng)發(fā)展的主流方向。所涉及的技術主要有專家系統(tǒng),、神經(jīng)網(wǎng)絡和模糊理論三種,。但是智能混合系統(tǒng)絕不僅限于此,還有許多智能技術,,如粗糙集,、遺傳算法、Petri網(wǎng)等也成為智能混合系統(tǒng)集成技術的研究熱點,,不少文獻在這方面做出了突出的貢獻,。
2 成果總結及進一步的研究方向
目前,智能混合系統(tǒng)己經(jīng)取得了許多成果,,在眾多領域中得到了相當成功的應用,,解決了許多單一智能系統(tǒng)不能解決的復雜問題,并且正在向著更深的研究層次挺進,。這些成果集中表現(xiàn)在以下方面,。
(1)利用神經(jīng)網(wǎng)絡優(yōu)良的自組織、自學習和自適應能力初步解決了專家系統(tǒng)知識獲取的“瓶頸問題”,。
(2)利用專家系統(tǒng)良好的解釋機能較好地解釋了神經(jīng)網(wǎng)絡的行為,,彌補了神經(jīng)網(wǎng)絡中知識表達的“黑箱結構”。
(3)神經(jīng)網(wǎng)絡與專家系統(tǒng)混合的系統(tǒng)通過融合模糊邏輯進行知識描述與推理,,明顯地改善了專家系統(tǒng)的性能,。
盡管智能混合系統(tǒng)的研究取得了許多矚目的成果,但其理論體系還很不完善,,需從以下幾個方面進一步深入研究,。
(1)立足于廣義人工智能,以模擬自然智能為目的,,從思維科學的角度出發(fā),,研究人類認知過程中抽象思維與形象思維在功能、知識表達,、思維活動等方面的內在關系,。
(2)智能混合系統(tǒng)需要統(tǒng)一的知識表示方法,需要研究接近于人類思維模式的知識表示機理,。
(3)利用神經(jīng)網(wǎng)絡有效地進行知識獲取,。
(4)研究實用的神經(jīng)網(wǎng)絡推理及結果解釋方法。
(5)將已取得的智能混合系統(tǒng)研究成果向其他智能形式的綜合集成中推廣,,從而進行更廣泛的智能系統(tǒng)集成方法研究,。
3 結 論
智能混合系統(tǒng)研究應從人類智能行為本質入手,著眼于知識在人腦中表示、存儲及實現(xiàn)各種人類思維方式的生理基礎,。隨著對人類生物神經(jīng)系統(tǒng),、思維模式的進一步認識,研究各種新的集成系統(tǒng)模型,,實現(xiàn)大腦思維過程的模擬,,進而實現(xiàn)整個自然智能的模擬,從而最終揭開智能的奧秘,。
參考文獻
1 Gallant I S.Connectionist expert systems.Communication of the ACM,,1988;31(2):152
2 Caudill M.Using neural nets:Hybrid expert networks.AI Expert,,1990,;5(11):49
3 Kuncicky D C,Hruska S I,,Lacher R C.Hybrid systems:the equivalence of rule-based expert systems and artificial neural network inference.Int.J.of Expert Systems,,1991;4(3):281
4 Towell G G,,Shavlik J W,,Noordewier M O.Refinement of approximate domain theories by knowledge-based neural networks.In:Proc.AAAI-90,August,,1990:861
5 Suddarth S C,,Holden A D C.Symbolic-neural systems and the use of hints for developing comples systems.Int.J. Pattern Recognition,1991,;5(4):503
6 Tirri H.Implementation expert system rule conditions by neural networks.New Generation Comput.,,1991;10:55
7 Chen K H.A multiclass neural network classifier with fuzzy teaching inputs.Fuzzy Sets and Systems,,1997,;91:15
8 Carpenter G A,Grossberg A,,Rosen D B.Fuzzy ART fast stable learning and categorization of analog patterns by an adaptive resonance systems.Neural Networks,1991,;4:759
9 Buckley J J,,Hayashi Y.Fuzzy neural networks:a survey. Fuzzy Sets and Systems,1994,;66:1
10 Feuring T,,Lippe W.The fuzzy neural network approximation lemma.Fuzzy Sets and Systems,1999,;102:227