香農(nóng)的信息論的局限性及其推廣研究模板

香農(nóng)的信息論的局限性及其推廣研究資料內(nèi)容僅供參考，如有不當(dāng)或者侵權(quán)，請聯(lián)系本人改正或者刪除。香農(nóng)的信息論的局限性及其推廣研究(一)立項依據(jù)與研究內(nèi)容項目的立項依據(jù)【研究意義】關(guān)于香農(nóng)信息論的局限性一直都有研究,可是信息的可靠性的研究一直在很大程度上受到忽視,比如香農(nóng)(Shannon,又譯申農(nóng)、仙農(nóng))的信息論只是涉及到信息傳輸過程中的可靠性,香農(nóng)對信息的定義和度量都從隨機不確定性的角度來進行考慮。當(dāng)前信息的定義超過80種之多,可是信息的定義都缺乏對信息可靠性的考慮,一些信息的定義把信息當(dāng)作對事物的一種真實的反映,然而信息的不可靠性是廣泛存在的,從嚴(yán)格的角度來講,信息很難是絕對可靠的,包括一些科學(xué)規(guī)律(一種特別的信息),也只能被證偽,而不能被證明是正確的,用于獲取信息的人的感官和各種儀器設(shè)備也存在一定的不可靠性。信息的不完備性,也是廣泛存在的,往往由于條件的限制而不能得到完全的信息,如何將許多片面的信息進行融合,讓信息更加完備,也是一個很重要的問題(特別說明:這里的可靠性是信息本身的可靠性,而不是信息傳遞、存儲等方面的可靠性)。信息的價值之因此存在,還是因為信息具有一定的可靠性,我們處于信息社會,各種各樣的信息在急遽增長,如何很好利用信息,識別信息,提高信息的可靠性,將各種不完備,不可靠的信息進行利用、融合和提取,顯然是非常重要的。信息的可靠性不能完全靠人工來鑒別,人工作業(yè)有其不精確性,主觀性,應(yīng)當(dāng)盡量采用信息技術(shù)來自動解決,減少人為判斷?；ヂ?lián)網(wǎng)的出現(xiàn)使得信息不斷急遽增長,人工處理這些浩如煙海的信息將是很困難,不現(xiàn)實的,需要建立相關(guān)的信息理論來經(jīng)過計算機融合信息。然而香農(nóng)的信息論并不能解決這些問題,她的信息論僅僅適應(yīng)于通信等很局限的領(lǐng)域。一些學(xué)者提出了廣義信息論、全信息理論,統(tǒng)一信息理論擴展了她的理論,可是這些理論都沒有考慮信息的可靠性方面。另外,它與其它的一些信息相關(guān)的學(xué)科在一定程度上是隔離的。在申請人提出了信息的可靠性問題后,一些學(xué)者認為可靠性是信息的重要方面,建議筆者建立可靠信息論。由于可靠性可能過于狹隘,而采用相對信息論命名,除了考慮可靠性外,它具有更加深遠的意義,有助于解決和解釋更多的問題。在密碼分析方面,缺乏對信息的不確定性和信息融合的研究,比如當(dāng)多個偽密鑰存在的情況下,如何進行判斷分析。密碼分析前已知的信息與密碼分析得到的信息如何進行融合,密碼分析得到的信息是不可靠的時候,或者密碼分析得到的信息只能得出某些需要了解的信息的不確定的概率分布且事先也對這些需要了解的信息從其它的角度得出某一概率分布時候,如何來得出更加完備和可靠的信息,都是尚未研究的領(lǐng)域?！緡鴥?nèi)外研究現(xiàn)狀及發(fā)展動態(tài)分析】香農(nóng)信息論的局限性很早就被認識到,包括香農(nóng)本人。香農(nóng)的信息論誕生不久,許多人將它推廣到日常信息交流場合,于是出現(xiàn)紕漏。香農(nóng)也曾經(jīng)輯文反對信息論的濫用。和Shannon合著《通信的數(shù)學(xué)理論》一書的W.Weaver就提出通信的三個水平,而香農(nóng)理論僅僅是其中一個水平。為了解決語義信息問題,R.Carnap等人提出用邏輯概率代替普通概率,然后用Shannon熵度量語義信息。50年代末,Kullback提出Kullback信息公式。60年代初,Brillouin提出可用Hartley公式的改進形式來度量非概率信息,比如測量數(shù)據(jù)的信息。1965年,L.A.Zadeh提出模糊集合論,1968年,她又提出模糊事件,即模糊集合A中事件的概率,和模糊集合的熵。1972年,德魯卡和特爾米尼提出了用來測度模糊事件的信息量的模糊信息熵公式。70年代,H.Gottinger提出非概率信息,S.Guiasu提出了加權(quán)熵和效用信息,都產(chǎn)生了一定影響。G.Jumarie還提出采用洛倫茲變換的相對信息,可惜相對信息的定義并不自然,它與本項目的相對信息有很大的差別。此后,R.Yager,M.Higashi和G.Klir,D.Dubois和H.Prade等人又提出或討論了可能不確定性測度及相應(yīng)的廣義熵,這類方法只采用隸屬度等主觀測度而不使用事件發(fā)生的概率。吳偉陵教授對廣義熵和模糊信息做過探討。中國學(xué)者鐘義信先生1981年針對香農(nóng)信息論的熵公式只能度量概率信息的缺陷,提出了一種"廣義信息函數(shù)"。1985年,她又把該公式推廣到語義信息和語用信息的度量,得到了語法,語義和語用信息的綜合測度公式,即所謂"全信息"的計量模型。1993年,魯晨光提出廣義信息論,指出香農(nóng)信息論的局限性具體表現(xiàn)在:不便于度量語義信息、感覺信息、信源信道可變時的信息以及單個信號的信息。魯晨光提出了廣義通信模型和可度量語義信息、感覺信息及測量信號信息的廣義信息測度;討論了預(yù)測和檢測的信息準(zhǔn)則和優(yōu)化理論。GeorgeJ.Klir則在模糊邏輯,不分明集這些不確定性方面作出了許多的研究。斯托尼爾在90年代初提出統(tǒng)一的信息理論,她把信息看成是宇宙的一種基本屬性,其目標(biāo)是在信息物理學(xué)的基礎(chǔ)上,并綜合現(xiàn)有的控制論,符號學(xué),語言學(xué),認知心理學(xué)等學(xué)科,構(gòu)建一個所謂一般信息理論的框架。這些新的理論都是在香農(nóng)的基礎(chǔ)上進行擴展,認識到了香農(nóng)的一些局限性,都很重視對單重不確定性(信息熵)的研究,可是都沒有考慮的信息的可靠性這一問題,即信息與客觀事實和真理的符合程度,從信息表示的角度,也就是說沒有考慮到信息的表示是不確定性的,如信息的表示中概率是變動的,隨機的。另外關(guān)于信息的定義非常多,可是并不存在公認的定義,絕大多數(shù)定義都沒有考慮信息的可靠性,信息的定義也是以”信息是消除不確定性的東西”得到廣泛的重視。關(guān)于不確定性理論,相關(guān)的推理模型沒有一個統(tǒng)一的模型,種類不計其數(shù),其中比較著名的有:Shortliffe在1975年結(jié)合醫(yī)療專家系統(tǒng)MYCIN建立的確定性理論,Duda在1976年結(jié)合探礦專家系統(tǒng)PROSPECTOR建立的主觀Bayes推理,DempsterShafer在1976年提出的證據(jù)理論,Zadeh在1978年提出的可能性理論,1983年提出的模糊邏輯和邏輯推理,Nilsson在1986年提出的概率邏輯,Pearl在1986年提出的信任網(wǎng)絡(luò)。八十年代以后,人們又提出了灰色系統(tǒng)理論、粗集理論、概念圖、基于信比概念的知識處理和集對分析等新方法。國內(nèi)學(xué)者李德毅提出了云模型,何華燦提出了泛邏輯學(xué)。可是不確定性理論一般是不夠嚴(yán)謹?shù)?甚至還存在一些沖突和悖論。這些理論與概率論和信息論都是出現(xiàn)了不應(yīng)該有的隔離,特別是與信息論與不確定性理論、信息融合相去甚遠。能夠說信息與知識和智能已經(jīng)隔離了,國內(nèi)學(xué)者鐘義信認識到這一問題,提出信息－知識－智能轉(zhuǎn)換的規(guī)律,提出了一些框架。在可靠性理論方面,主要是研究工程、產(chǎn)品和系統(tǒng)的可靠性,其中包括軟件產(chǎn)品的可靠性,涉及到信息的主要是針對信息系統(tǒng)的可靠性、可靠性相關(guān)的信息的處理軟件系統(tǒng)以及可靠性相關(guān)的信息的分析和利用設(shè)計。除申請人提出了信息的可靠性問題,而且分析了它與不確定性的關(guān)系外,當(dāng)前尚未見到有對信息本身的可靠性相關(guān)的其它研究,而信息的可靠性問題比一般的可靠性問題更加復(fù)雜?！局饕獏⒖嘉墨I】[1]. ShannonCE.Amathematicaltheoryofcommunication,BellSystemTechnicalJournal,27(1948),379—429,623—656[2]. 美〕威弗爾.通訊的數(shù)學(xué)理論的新發(fā)展,系統(tǒng)論控制論信息論經(jīng)典文獻選編,求實出版社,1989,612—636[3]. 汪培莊.模糊集和隨機集落影,北京師范大學(xué)出版社,1984.[4]. 宛天巍,王浣塵,張旭,信息測度方法的綜述,系統(tǒng)工程理論方法應(yīng)用,第14卷第6期,12月[5]. Wierman,M.J.,Tastle,W.J.PlacingtheDissonanceMeasureintheContextofGeneralizedInformationTheory,FuzzyInformationProcessingSociety,.NAFIPS.AnnualmeetingoftheNorthAmerican,3-6JunePage(s):253-256[6]. PeterFleissner,WolfgangHofkirchner,EmergentinformationTowardsaunifiedinformationtheoryIn:BioSystems2-3(38)/1996,243-248[7]. KullbackS.InformationandStatistics,JohnWiley&SonsInc.,NewYork,1959[8]. AczelJandForteB.Generalizedentropiesandthemaximumentropyprinciple,In:BayesianEntropyandBayesianMethodsinAppliedStastics,CambridgeUniversityPress,Cambridge,1986,95—100[9]. BrillouinL.ScienceandInformationTheory,AcademicPress,NewYork,1962[10]. ZadehLA.Probabilitymeasuresoffuzzyevents,JournalofmathematicalAnalysesandApplications23(1968),421—427[11]. DeLucaAandTerminiS.Adefinitionofnonprobabilisticentropyinthesettingoffuzzysets,Infor.Contr.20(1972),201—312[12]. GottingerHW.LecturenotesonconceptsandMeasuresofinformation,In'InformationTheory:NewtrendsandOpenProblems',G.Longoeds.,SpringerVerlag,CISM(1975)[13]. 郝建民,紀(jì)念信息論創(chuàng)立五十周年,遙測遙控,1999年5月,第20卷第3期[14]. 鐘義信．面向智能研究的全信息理論[J]．北京郵電大學(xué)學(xué)報,,(1)[15].Klir,G.J.UncertaintyandInformation:FoundationsofGeneralizedInformationTheory.JohnWiley,Hoboken,[16]. 鐘義信.信息科學(xué)原理,福建人民出版社,1988[17]. 魯晨光．廣義信息論,中國科技大學(xué)出版社,1993[18]. Klir,G.J.Measuringuncertaintyassociatedwithconvexsetsofprobabilitydistributions:anewapproach,FuzzyInformationProcessingSociety,.NAFIPS.AnnualMeetingoftheNorthAmerican26-28JunePage(s):61-64[19]. 王勇,論信息的相對性,武漢:首屆全國社會信息科學(xué)研討會論文集,06月[20].GeorgeJ.Klir.Anupdateongeneralizedinformationtheory[A].ISIPTA[C]..321～334[21]. 王勇.香農(nóng)信息論的局限性分析.中國科技論文在線().07月18日[22]. 李德毅,不確定性人工智能,國防工業(yè)出版社,7月項目的研究內(nèi)容、研究目標(biāo),以及擬解決的關(guān)鍵科學(xué)問題【項目研究內(nèi)容】(1)本項目借鑒前人對信息論的局限性的分析,從可靠性的角度來分析香農(nóng)信息論的局限性,以及其產(chǎn)生的根源,而且將信息論從相對信息的角度來進行推廣。提出相對信息論,基于相對信息理論提出(精確的)集合下信息的可靠度和信息的差別指標(biāo),提出一些算法,用于解釋一些概率沖突,而且用于信息融合。(2)將相對信息理論應(yīng)用在密碼分析中,研究在密碼分析中,如何將密碼分析的結(jié)果與事先已知的信息進行融合。將相對信息理論應(yīng)用于解釋各種社會分歧和沖突。(3)研究量子信息與經(jīng)典信息論的融合和統(tǒng)一問題,用于發(fā)展相對信息理論?！卷椖垦芯磕繕?biāo)】分析香農(nóng)信息論尚未研究的局限性,指出信息論的潛在條件和適用范圍,而且根據(jù)局限性,推廣信息理論,從信息可靠性和相對性角度建立廣義的信息理論,提出一些度量指標(biāo)和一些算法,而且用它來解釋各種現(xiàn)象,將信息論和原來與之相對獨立的人工智能、信息融合等領(lǐng)域真正融合起來。將推廣的信息理論應(yīng)用在密碼分析中?！緮M解決的關(guān)鍵科學(xué)問題】(1)對信息論忽視信息的可靠性來進行剖析,而且給出信息可靠性的表征方式,研究如何將各種不可靠的,不完備(完全)的信息進行融合,提出相關(guān)算法,建立相對信息論。(2)將相對信息理論的信息融合算法用于將密碼分析的結(jié)果與事先已知的信息進行融合,以及不能確定真?zhèn)蚊荑€情況下的信息融合。(3)用相對信息論來解釋自然科學(xué)和社會科學(xué)現(xiàn)象,特別是解釋各種文化沖突、多元化、各種派別的分歧、信仰差異、科學(xué)與偽科學(xué)之爭。將原本分離的信息論、不確定性理論和信息融合理論的整合。擬采取的研究方案及可行性分析【研究方案】本項目研究采取的是理論分析、數(shù)學(xué)證明、實例檢驗、公理化方法、舉反例以及在適當(dāng)條件下爭取實證研究相結(jié)合的研究方法。為了保證成果的可靠性,一些成果將會在網(wǎng)絡(luò)上接受質(zhì)疑,而且參加學(xué)術(shù)會議與學(xué)者交流辯論。主要利用概率論、信息論、不確定性理論、信息融合理論以及人工智能和信息處理等領(lǐng)域的一些理論知識。(1)以不確定性理論、信息融合理論、可靠性理論、概率論來對信息論忽視信息的可靠性的局限性進行剖析,對香農(nóng)對信息的表示方式的局限性進行分析,即香農(nóng)信息的概率是定值,可是現(xiàn)實中概率本身往往也具有一定的不確定性,以概率論方法來表征信息的可靠性,從而將信息融合問題歸結(jié)為概率論的問題,同時充分借鑒可靠性理論、超熵理論和云模型的方法。用公理化方法以及概率論來給出多個條件下信息的融合問題的算法而且驗證,采用數(shù)學(xué)分析方法來分析相關(guān)的性質(zhì)。(2)借鑒香農(nóng)對通信的可靠性的考慮以及香農(nóng)對信息的可靠性的考慮(雖然香農(nóng)沒有明示),研究信息的可靠性。(3)針對信息的可靠性相關(guān)的一系列問題,還需要經(jīng)過進一步與專家學(xué)者探討、辯論,保證項目的質(zhì)量。重視從多個方面來說明問題,除了直接說明問題,還需要間接證據(jù)支撐。以各種社會科學(xué)和自然科學(xué)領(lǐng)域的分歧與沖突為依據(jù),研究科學(xué)規(guī)律和理論這些特殊信息的相對性和沖突的根源,完善相對信息理論。(4)對密碼分析中的各種信息的特點進行分析,根據(jù)條件對(前面建立的)算法的適用性來確定將密碼分析的結(jié)果與事先已知的信息進行融合的算法?！究尚行苑治觥勘卷椖康目尚行约畜w現(xiàn)于:新穎的學(xué)術(shù)思想項目研究既借鑒已有的理論,又充分分析已有理論的一些局限,根據(jù)這些局限性,采取去掉約束的方法來推廣理論。從信息可靠性、完備性、信息的多重不確定性這些尚未研究,可是卻很重要的方面來分析研究信息,將會使得信息的研究更加符合現(xiàn)實需求,同時在這些方面也有能夠借鑒的理論,比如概率論、香農(nóng)信息論、可靠性理論等。良好的實施條件和項目組織方式申請者一直從事本項目相關(guān)的研究和實踐,特別在信息可靠性方面已取得了階段性成果,為后續(xù)研究打下了基礎(chǔ);項目組成員大多數(shù)為35周歲以下年輕學(xué)者,鉆勁足、視野開闊、創(chuàng)新意識強,均主持或參加過多個科研項目,具有較強的科研能力和項目組織管理經(jīng)驗。本項目將充分利用網(wǎng)絡(luò)加強聯(lián)系和管理,拓展吸納項目組成員的方式,加強知識產(chǎn)權(quán)保護和管理以及科研管理,經(jīng)過網(wǎng)絡(luò)開放項目,制定規(guī)范和制度,開誠布公,強化和便利化項目管理,增加項目討論的渠道,另外項目組已經(jīng)建立了開放項目開放科研項目和教改項目吧(),以期充分利用和吸納自愿參與的人才,以提高項目的質(zhì)量和加快進度。另外,項目組還將在相關(guān)的網(wǎng)絡(luò),特別是一些關(guān)于信息論研究方面的論壇上交流。本項目的特色與創(chuàng)新之處(1)本項目中,我們將信息與信息表示的原對象區(qū)分開,研究它們的差異,經(jīng)過信息的這種指向性,我們充分研究信息廣泛存在的非絕對可靠和完備的性質(zhì),從信息論的角度來考慮信息的可靠性和完備性。(2)以概率論為基礎(chǔ)來表征信息,可是這里的概率相對于香農(nóng)的信息論中概率是固定值而言,差別在于信息的概率依然是隨機不確定的,即對信息的多重隨機不確定性進行研究而且表征。(3)根據(jù)多個條件下概率滿足的一般性質(zhì)來建立某些簡單公理,用公理化方法以及概率論來給出多個片面(不完備)條件下信息的融合問題的算法而且加以驗證。將這些理論應(yīng)用在密碼分析中。(4)研究針對相同事物的各種信息分歧產(chǎn)生的根源,為化解沖突和矛盾提供理論依據(jù),從而促進社會和諧。年度研究計劃及預(yù)期研究結(jié)果【年度研究計劃】-01-01至-12-31國內(nèi)外現(xiàn)狀的進一步掌握,項目調(diào)研和前期工作,分析香農(nóng)關(guān)于信息定義和信息論的多方面局限性,而且進行推廣。-01-01至-12-31根據(jù)香農(nóng)信息論的局限性,從可靠性的角度將信息論拓展到通信以外的領(lǐng)域,比如信息融合、人工智能以及各種其它信息處理的領(lǐng)域。建立信息的可靠度和信息差別度量指標(biāo)。-01-01至-12-31將本理論應(yīng)用在密碼分析中,解決密碼分析中的一些信息融合問題。研究現(xiàn)實中信息分歧產(chǎn)生的根源,而且建立相關(guān)的理論。補充完善前面工作基礎(chǔ)上,對本理論在其它等領(lǐng)域進行探索性研究,進行項目總結(jié)?！绢A(yù)期研究成果】從多個新的角度指出香農(nóng)信息論的局限性,融合信息論、信息融合與人工智能等領(lǐng)域,建立基于可靠性的相對信息論,而且將它應(yīng)用在密碼分析中。預(yù)期發(fā)表高質(zhì)量的學(xué)術(shù)論文5－15篇,被三大檢索收錄1－3篇,完成一篇完整的研究性的結(jié)題報告,參加5次以上學(xué)術(shù)會議。出版廣義信息論領(lǐng)域?qū)W術(shù)專著一本?；谠撜n題,至少聯(lián)合培養(yǎng)碩士生3名及博士生1名。(二)研究基礎(chǔ)與工作條件 一、關(guān)于你的項目的同行評議意見如下:<1>申請人從Shannon信息論有關(guān)信息定義的局限性開始,對信息論進行推廣,以建立更為廣泛適用的信息論。申請書對國內(nèi)外有關(guān)研究Shannon信息論局限性問題的發(fā)展過程和存在的問題等作了較為詳細的描述,立論依據(jù)較充份。有關(guān)Shannon信息論的局限性和推廣等問題,并不是一個新問題,國內(nèi)外早已有人