偷窥国产在线91,亚洲无线国产观看原创,日本精品aⅴ一区二区三区,久久九九兔免费精品6

簡介：語言學(xué)大戰(zhàn),模糊語法、格語法擴展了的標(biāo)準(zhǔn)理論與經(jīng)過修正的擴展了的標(biāo)準(zhǔn)理論,語言學(xué)大戰(zhàn)的序幕,JOHNROSS和他的貢獻生成語義學(xué)（語義表達式）模糊語法語言學(xué)大戰(zhàn),,VVVVVVVCAUSEBECOMENOTALIVE使變得不活KILL殺死,,,,,,,,,,,格語法,CHARLESFILLMOREAPROPOSALCONCERNINGENGLISHPREPOSITIONS1966THECASEFORCASE1968TOWARDAMODERNTHEORYFORCASE1969類別信息與題元信息非常深的深層結(jié)構(gòu)格的排序,,SMODEPROPOSITIONPERFVOIA開KNPKNPKNP0N用N0N門鑰匙周華,,,,,,,,,,,,,,,,,,,,,,,,格的排序,A主事（AGENTB經(jīng)事（EXPERIENCERC工具（INSTRUMENTD受事（OBJECTE來源（SOURCEF對象（GOALG處所（LOCATIONH時間（TIME,擴展了的標(biāo)準(zhǔn)理論,關(guān)于動詞名物化的一些看法（1970）深層結(jié)構(gòu)，表層結(jié)構(gòu)及語義說明（1971）轉(zhuǎn)換的必要條件（1973）,擴展了的標(biāo)準(zhǔn)理論的主要精神,新的短語結(jié)構(gòu)式新的句法流程轉(zhuǎn)換的盲目性和獨立性以及廣義限制規(guī)則新的小句結(jié)構(gòu)式虛跡的概念,新的短語結(jié)構(gòu)式,AS?NVBX?SPEC，XXCX?XY,新的句法流程,,,短語搭配規(guī)則詞匯插入規(guī)則轉(zhuǎn)換規(guī)則音系規(guī)則,語義表達式,,,,,,,,語義說明規(guī)則,,,深層結(jié)構(gòu),,表層結(jié)構(gòu),詞庫,語音表達式,廣義限制規(guī)則,時態(tài)句條件。在XΑY這樣的結(jié)構(gòu)中，如果Α是一個有時態(tài)的小句，那么任何規(guī)則都不可以同時與X及Y發(fā)生關(guān)系。近鄰原則轉(zhuǎn)換規(guī)則的運用應(yīng)該限制在一個周期性節(jié)點的統(tǒng)轄范圍之內(nèi)，或者是在兩個緊挨著的周期性節(jié)點的統(tǒng)轄范圍之內(nèi)。,新的小句結(jié)構(gòu)式,S’COMPS,,,虛跡,這件事情I我早就聽TI周華說過TI了。,,,,,,,經(jīng)過修正的擴展了的標(biāo)準(zhǔn)理論,語法規(guī)則的必要條件（1976）論WH移動（1977）過濾器及控制（CHOMSKYANDLASNIK1977,經(jīng)過修正的擴展了的標(biāo)準(zhǔn)理論之主要精神,移動Α新的句法流程過濾器,,短語結(jié)構(gòu)規(guī)則D結(jié)構(gòu)移動ΑS結(jié)構(gòu)邏輯形式語義表達式語義規(guī)則（1）語義規(guī)則（2）語音規(guī)則語音表達式,,,,,,,過濾器,ASTHATSNPTBWHOIDOYOUTHINKTHATTISAWBILLNPNPTENSEVPAΑNPTOVP，UNLESSΑNPORFOLLOWSVORPBITISUNCLEARWHATJOHNTODOCABOOKTOREADDTOFORCEHIMTOLEAVECOMPWHPHRASEΦ，Φ≠E,,A連發(fā)現(xiàn)他I的警察都立了二等功的那個持槍搶劫犯IB連發(fā)現(xiàn)TI的警察都立了二等功的那個持槍搶劫犯I,,NPS’NPCOMPS那個小偷K（那個小偷KNP立了二等功S’NPCOMPS警察I（警察）ITI抓住TK（的）,,,,,,,,,,,,,,,,,,,,,,,請畫出下面短語的簡單樹形圖,熱衷戲劇的人都喜歡的那種蘋果腐爛的原因,

簡介：論國家語言資源,國家語言資源監(jiān)測與研究中心平面媒體分中心北京語言大學(xué)應(yīng)用語言學(xué)研究所張普,報告內(nèi)容,國家語言資源監(jiān)測與研究中心論資源論國家資源論語言資源論國家語言資源,國家語言資源監(jiān)測與研究中心,2004年6月底，鑒于新世紀(jì)語言文字發(fā)展和應(yīng)用的需求，經(jīng)教育部語言文字應(yīng)用管理司具體運作，教育部與北京語言大學(xué)共建了一個機構(gòu)“國家語言資源監(jiān)測與研究中心（平面媒體）”。,國家語言資源監(jiān)測與研究中心,國家語言資源監(jiān)測與研究中心（平面媒體分中心）國家語言資源監(jiān)測與研究中心（有聲媒體分中心）國家語言資源監(jiān)測與研究中心（網(wǎng)絡(luò)媒體分中心）國家語言資源監(jiān)測與研究中心（教育教材分中心）海外華語媒體語言資源監(jiān)測與研究中心,,,DCC,國家語言資源檢測研究中心平面媒體分中心,語信司,語言大學(xué),中宣部,信息產(chǎn)業(yè)部,教育部,廣電部,國務(wù)院新聞辦,新聞出版署,中心領(lǐng)導(dǎo),研究所,培訓(xùn),,,,,,,,,,,,國家語言資源檢測研究中心有聲媒體分中心,,傳媒大學(xué),,,,,,中國語言生活狀況報告（2005）,置疑,語言是資源語言是國家資源,報告內(nèi)容,國家語言資源監(jiān)測與研究中心論資源論國家資源論語言資源論國家語言資源,論資源,辭?！百Y財?shù)膩碓础Ｒ话阒柑烊坏呢斣??！爆F(xiàn)代漢語詞典修訂本“生產(chǎn)資料或生活資料的天然來源地下～│水利～│?旅游～?！彪S著人類社會的發(fā)展與科學(xué)技術(shù)的進步，資源的內(nèi)涵與外延不斷深化與擴大，使用頻度在不斷提高?！，F(xiàn)在不僅自然的物質(zhì)的財富（例如國土、礦產(chǎn)、森林、水）是資源，而且人力是資源，信息也是資源。甚至連“關(guān)系”、“人脈”、“身體”都被認為是資源，可開發(fā)、利用。,資源科學(xué),關(guān)于資源的研究已經(jīng)形成一門科學(xué)，就叫“資源科學(xué)”。中國自然資源叢書（４２卷本）開始編纂，１９９５年陸續(xù)出版。中國資源科學(xué)百科全書２０００年。卷首的論文資源科學(xué)指出“資源科學(xué)是研究資源的形成、演化、質(zhì)量特征與時空分布及其與人類社會發(fā)展之相互關(guān)系的科學(xué)?！?資源科學(xué)的分類,資源科學(xué)一文給出“資源科學(xué)”最上位的分類是“綜合資源學(xué)”、“部門自然資源學(xué)”和“社會資源（學(xué)）”。兩點認識其一，２０００年，資源科學(xué)領(lǐng)域就已經(jīng)對“社會資源”有十分明確的認識和權(quán)威論述。其二，２０００年，資源科學(xué)領(lǐng)域認為“社會資源（學(xué)）”相對后起，學(xué)科還不夠系統(tǒng)、深入、全面、成熟，“（學(xué)）”還帶著括號，“社會資源學(xué)”作為學(xué)科還不能完全獨立。中國資源科學(xué)百科全書近1000頁,屬于社會資源部分的篇幅僅有區(qū)區(qū)25頁。,報告內(nèi)容,國家語言資源監(jiān)測與研究中心論資源論國家資源論語言資源論國家語言資源,論國家資源,國家資源,國家自然資源,國家人文資源,,不可再生資源,礦山,海洋,國土,可再生資源,森林,水,氧氣,,,,,,,,,,,,,,原生態(tài)資源,非原生態(tài)資源,人口,,,,民族,語言,,人力,教育,衛(wèi)生,文化,信息,,,,,,,,論國家資源,資源的所有制資源的開發(fā)與利用資源的普查、監(jiān)測與立法,國力象征,管理水平生態(tài)環(huán)境,執(zhí)政能力,和諧基礎(chǔ),依法管理,國家自然資源,是指“人類可以利用的、自然生成的物質(zhì)與能量。它是人類生存的物質(zhì)基礎(chǔ)?！比绲V產(chǎn)資源、土地資源、海洋資源、水資源、森林資源。自然資源已經(jīng)受到國際和國內(nèi)的高度重視，進行了深入的研究，納入了依法管理的軌道。我國土地資源、水資源、礦產(chǎn)資源、能源、氣候資源、生物資源、海洋資源等都有相關(guān)的法律法規(guī)。自然資源可以從各種角度進行分類。按照能否再生可以分為不可再生資源與可再生資源。按資源的蘊藏之處又可分為“陸地自然資源”、“海洋自然資源”和“太空自然資源”。,國家社會資源,現(xiàn)代漢語詞典“生產(chǎn)資料或生活資料的天然來源”，舉例卻是“地下│水利?旅游?！毕柴R拉雅山、長白山、天山五臺山、武當(dāng)山、峨眉山是旅游資源，則除了天然的部分似乎又多了宗教的成分長城、故宮、天壇、兵馬俑作為旅游資源則更強調(diào)歷史文化的成分新疆、云南、西藏是旅游資源大省，除了自然資源、歷史文化資源外，更加強調(diào)的還有民族、民俗的資源。至于絲綢之路、雕塑蠟染、石窟巖畫、南方水鄉(xiāng)、北方大院，甚至特色旅游、農(nóng)家旅游、紅色旅游等等，這些人文的、社會的旅游資源，似乎就不是“天然來源”所能概括的了。,國家社會資源,從“貝”的“資”和“財”，雖然本來與上古時代作為錢幣的天然動物“貝”有關(guān)，但是作為貨幣，就已經(jīng)是人類社會的、經(jīng)濟的產(chǎn)物，籌“資”與計“財”更與天然無關(guān)了。,國家社會資源,資源RESOURCES“‘資財之源’，或者說資源是創(chuàng)造人類社會財富的源泉。馬克思認為創(chuàng)造社會財富的源泉是自然資源和勞動力資源?！薄百Y源按其屬性分為自然資源和社會資源兩類。自然資源是指自然界存在的對人類有用的自然物，例如土地、水流、森林、礦產(chǎn)、野生動植物等。社會資源包括范圍相當(dāng)廣，在當(dāng)前的技術(shù)經(jīng)濟條件下，主要是指構(gòu)成社會生產(chǎn)力要素的勞動力資源，利用自然資源加工創(chuàng)造的生產(chǎn)資料以及直接為生產(chǎn)服務(wù)的商業(yè)、運輸、信息、通信、科技、管理等非實物形態(tài)的資源或勞務(wù)。”中國資源科學(xué)百科全書,社會資源（學(xué)）,社會資源（學(xué)）的分支學(xué)科是“研究社會資源的分類、屬性、質(zhì)量評價與時空特征及其與自然資源開發(fā)利用的相互關(guān)系的學(xué)科。它是資源科學(xué)與社會科學(xué)之間一門交叉性學(xué)科。主要研究內(nèi)容包括人力資源（學(xué)）、資本資源（學(xué)）、科技資源（學(xué)）與教育資源（學(xué)）?！?社會資源（學(xué)）的發(fā)展,“資源是一個可變的歷史范疇”?！白鳛橘Y源主體的自然資源和勞動力資源的種類、形態(tài)、結(jié)構(gòu)和功能依各個歷史時期的社會生產(chǎn)力水平和科學(xué)技術(shù)水平的變化而變化?！薄白匀毁Y源向?qū)嵨镔Y源演變”、“從生活資料性的資源擴展到生產(chǎn)資料性的資源”、“從實物性的資源擴展到非實物性的資源”、“勞動力資源的消耗從體力勞動逐漸向智力勞動演變”等。這種變化已經(jīng)越來越顯著、越來越受到社會和學(xué)術(shù)界的關(guān)注。社會資源和社會資源學(xué)正在迅猛發(fā)展，語言資源正是社會資源中極其重要的一部分。,社會資源（學(xué)）的發(fā)展,首都資源優(yōu)勢卻是市場資源配制、金融資源、科技資源、教育資源、學(xué)習(xí)資源、文化資源、旅游資源、人才資源等，這些資源就是資源科學(xué)領(lǐng)域所指的社會資源。綱要不僅突出強調(diào)了北京的社會資源，還突出了“支持城市優(yōu)質(zhì)教育資源向農(nóng)村輻射”、“加快優(yōu)質(zhì)衛(wèi)生資源向農(nóng)村轉(zhuǎn)移”等對社會資源的政策性指導(dǎo)，更加彰顯了對社會資源的重視。今天社會資源的合理配置、監(jiān)管、公平、市場化都已經(jīng)是和自然資源一樣重要或者是更加重要的研究課題。,社會資源（學(xué)）的發(fā)展,文化部已經(jīng)在２００６年１月底從３１個省市和相關(guān)部門推薦的１３１５個項目中審議篩選了５０１項作為第一批國家非物質(zhì)文化遺產(chǎn)名錄向社會公示。據(jù)統(tǒng)計，到２００４年７月，全球有世界遺產(chǎn)７８８項，其中文化遺產(chǎn)６１１項，自然遺產(chǎn)１５３項，雙遺產(chǎn)２３項，自然遺產(chǎn)的比例不到２０％。,社會資源（學(xué)）的發(fā)展,中國教育資源網(wǎng)、中國法律資源網(wǎng)、中國旅游資源網(wǎng)、中國考試資源網(wǎng)、中國環(huán)境資源網(wǎng)、中國產(chǎn)品資源網(wǎng)、中國電子資源網(wǎng)、中國科幻資源網(wǎng)、中國創(chuàng)新資源網(wǎng)、中國管理資源網(wǎng)等等。不以中國打頭的更有國家基礎(chǔ)教育資源網(wǎng)、中小學(xué)語文教育資源網(wǎng)、中學(xué)語文中考、高考資源網(wǎng)、中小學(xué)教學(xué)課件資源網(wǎng)、中學(xué)生物教學(xué)資源網(wǎng)、衛(wèi)生教育資源網(wǎng)、德育資源網(wǎng)、運動資源網(wǎng)、武術(shù)資源網(wǎng)、影視資源網(wǎng)等等。,報告內(nèi)容,國家語言資源監(jiān)測與研究中心論資源論國家資源論語言資源論國家語言資源,論語言資源,國家語言資源中心的成立，其任務(wù)就是要把語言作為資源（特別是作為“國家語言資源”）來進行監(jiān)測和檢測，就是要推進社會資源學(xué)下的“語言資源（學(xué)）”的建立與發(fā)展。,論語言資源,1、語言資源是社會資源的重要組成部分語言是社會的產(chǎn)物，是人類社會最重要的交際工具，是構(gòu)成社會的人的最重要的社會屬性，語言資源當(dāng)然是人類社會的社會資源的重要組成部分。無論是廣義的還是狹義的解釋，社會資源都必須包括語言資源。,論語言資源,2、語言資源是最基礎(chǔ)的社會資源，是負載非物質(zhì)形態(tài)社會資源的資源。會創(chuàng)造并使用語言和記錄語言的文字符號系統(tǒng)，是人與其他動物的最重要的區(qū)別。語言能力是人的最基本的能力，語言文字是人類進入社會以來從人口資源、人力資源走向人才資源的最重要的依據(jù)，因為其他一切非物質(zhì)形態(tài)的“科學(xué)技術(shù)、教育、信息、管理、文化”等社會資源，離開了語言和文字就無從談起，語言和文字是社會資源中最重要、最基礎(chǔ)的資源，是負載其他智力資源的資源?？傊?，是語言資源支撐著人力資源走向智力資源、人才資源，然后我們才能創(chuàng)造知識經(jīng)濟、創(chuàng)新經(jīng)濟、網(wǎng)絡(luò)經(jīng)濟、數(shù)字經(jīng)濟、綠色經(jīng)濟，才能進入信息社會和知識社會以求生存。,論語言資源,3、語言資源是信息社會最重要的信息資源信息資源是信息社會國家重要的戰(zhàn)略資源。數(shù)字化信息資源的擁有量、利用率、處理水平、更新速度、安全程度等都是衡量一個國家進入信息社會的發(fā)展水平的重要指標(biāo)。語言資源既是國家物質(zhì)資源信息也是非物質(zhì)資源信息的載體，所以語言資源也是國家進入信息社會的最重要的信息資源。語言資源的利用、管理、研究成為提高國家語言信息處理水平的關(guān)鍵，國家對于信息社會的語言資源，必須及時地有效地進行監(jiān)測與研究。有關(guān)語言資源和語言資源評估的國際研討會（2004）也已經(jīng)舉行?！皣H中文語言資源聯(lián)盟”２００６年１月１４日召開的最新的年會在清華大學(xué)舉行，應(yīng)引起傳統(tǒng)語言學(xué)界的重視。,論語言資源,４、漢語和漢字也是人類非物質(zhì)文化遺產(chǎn)，構(gòu)成物質(zhì)的和非物質(zhì)文化資源。語言資源涉及語言學(xué)和文字學(xué)，也涉及民族學(xué)、人類學(xué)、哲學(xué)、宗教、文化藝術(shù)、認知科學(xué)等。漢語、漢字可以說是人類的一筆豐富的非物質(zhì)文化遺產(chǎn)。包括漢語各種地區(qū)方言、社會方言，都是漢語史的活化石，隨著全球化趨勢的加強和現(xiàn)代大眾傳媒與現(xiàn)代信息科技產(chǎn)業(yè)的迅猛發(fā)展，語言資源正在迅速地發(fā)生變異。語言隨著一代人或幾代人的更迭發(fā)生異化、受損以至消亡都是可能的，也是不可避免的。中國乃至全世界的文化生態(tài)正在發(fā)生變化，一些無形文化遺產(chǎn)正在消失和破壞，其中許多遺產(chǎn)也是不可再生的。目前文化部公示的５０１項非物質(zhì)文化遺產(chǎn)中，從春節(jié)、清明節(jié)、端午節(jié)、七夕節(jié)、中秋節(jié)，到中和韶樂、納西古樂、蘇繡、云錦、全聚德、唐三彩，哪一項離得了語言文字的解釋與說明更不要說語言文字本來就是遺產(chǎn)的組成部分的評彈、昆曲、皮影戲、川江號子等等。就連江永女書都已經(jīng)列入非物質(zhì)文化遺產(chǎn)，世界上使用人口最多、歷史最悠久的語言與文字漢語、漢字，當(dāng)然應(yīng)該是重要的非物質(zhì)文化遺產(chǎn)、非物質(zhì)文化資源。,語言資源的分類,語言資源類語言的本體資源。中國的語言收錄迄今發(fā)現(xiàn)的中國的語言１３０種左右。言語資源類語言的社會應(yīng)用資源?！皣艺Z言資源監(jiān)測與研究中心”監(jiān)測的語言資源。語言學(xué)習(xí)資源類一類是自然語言學(xué)習(xí)資源，一類是非自然語言（或稱人工語言）的學(xué)習(xí)資源。自然語言學(xué)習(xí)資源又分為兩類，一類是母語的學(xué)習(xí)資源，任何一個民族都需要有自己本民族語言的學(xué)習(xí)資源，就我國而言，非漢族的少數(shù)民族和漢族的方言地區(qū)的人民群眾還需要有通用語言文字的學(xué)習(xí)資源。另一類是外語的學(xué)習(xí)資源，或者稱為第二語言學(xué)習(xí)資源。,報告內(nèi)容,國家語言資源監(jiān)測與研究中心論資源論國家資源論語言資源論國家語言資源,論國家語言資源,我們必須把語言資源納入國家資源的體系，才能受到各方重視，才能受到法律的保護，我們也才有依據(jù)依法處置。２００３年，我在關(guān)于漢語語料庫的建設(shè)與發(fā)展問題的思考一文中寫到,論國家語言資源,“我們認為所謂‘國家語料庫’的建設(shè)、開發(fā)、保護應(yīng)該是一種國家行為，在信息社會和數(shù)字化生存時代，我們要把語言資料的收集、保護、開發(fā)提高到一種對待國家資源的高度來認識。國家要像對待人力資源、地礦資源、國土資源、森林資源、水資源一樣對待語言資源，語言資源是國家最重要的信息資源。語料庫的建設(shè)、保護、開發(fā)要站在國家面向未來的一種戰(zhàn)略決策高度，要作為一種對待國家資源的行為，才能得到法律的保護，納入法制的軌道?！?論國家語言資源,“當(dāng)前，愈來愈多的人已經(jīng)認識到了環(huán)境保護、物種保護、水土保護、文物保護等的重要性和迫切性，社會宣傳的力度、采取的保護措施和投入的人力物力都比較大。但是非常遺憾的是，卻很少有人意識到語言保護的重要性和迫切性?！保钣蠲?論國家語言資源,我們認為語言文字的標(biāo)準(zhǔn)化和規(guī)范化有三方面的服務(wù)作用，一是服務(wù)于國民的語文教育，二是服務(wù)于語言文字的社會應(yīng)用，三是服務(wù)于國家的信息化建設(shè)。我們將服務(wù)于國家的信息化建設(shè)單獨列出來，主要是要突出這種社會服務(wù)的特殊性和重要性。為此，國家對于信息社會的語言文字應(yīng)用必須及時進行監(jiān)測與研究。目前我們所說的需要進行監(jiān)測與研究的國家語言資源，特指在國家大眾傳媒上公開流通傳播的中國的語言文字所構(gòu)成的言語應(yīng)用資源，以及九年義務(wù)制教育的語文教材及其他基礎(chǔ)教育學(xué)科教材所使用的語言文字資源。這樣的文字都有知識產(chǎn)權(quán)，都受到中華人民共和國著作權(quán)法的保護，所以，國家必須依法對國家語言資源進行監(jiān)測、管理和研究。不包括經(jīng)國務(wù)院相關(guān)部門批準(zhǔn)的在國家大眾傳媒上公開流通傳播的外國語言文字；也不包括在一些公共場所的廣播和用字；一些社會上的招牌、廣告用語用字（大眾傳媒上出現(xiàn)的除外）；商品的包裝、說明上的用語用字；更不包括個人所使用的不在大眾傳媒上流通傳播的語言、文字。,論國家語言資源,國家語言資源，就包括出現(xiàn)在中國境內(nèi)的下述大眾傳播媒體上的語言文字中國境內(nèi)出版、發(fā)行、發(fā)布的平面媒體（報紙、雜志、圖書等）的文稿以及相關(guān)通訊社的電訊稿；中國境內(nèi)出版、運行的有聲媒體（廣播、電影、電視、錄音帶、錄象帶、光盤、電子圖書）的文稿、錄音與圖像；中國境內(nèi)注冊運作的網(wǎng)絡(luò)媒體（包含次級界面，不包含跨網(wǎng)站鏈接，不包含傳統(tǒng)媒體的上網(wǎng)部分）上的文稿、錄音與圖像；中國境內(nèi)電信媒體支持服務(wù)的手機短信、彩信、短新聞等。,論國家語言資源,我們還認為國家少數(shù)民族語言文字大眾傳媒上的語言資源；港澳特別行政區(qū)和臺灣地區(qū)的大眾傳媒上的語言資源；盲文、手語等特殊語言文字作為載體的大眾傳媒的語言資源；某些特殊媒體上的語言資源。中華人民共和國境外漢字、漢語大眾傳媒和華文、華語大眾傳媒上的語言資源。,論國家語言資源,目前在世界59個主要國家的資源績效水平的排序中，中國尚排在倒數(shù)第6位，如果就社會資源的開發(fā)、利用和績效進行排序，位置恐怕更不堪設(shè)想。這些無不鞭策我們要加速研究、開發(fā)、利用“社會資源”。就語言學(xué)領(lǐng)域而言，就是要加快“語言資源學(xué)”的研究，迅速推進對“國家語言資源”的開發(fā)、利用和管理，讓語言資源真正作為社會的基礎(chǔ)資源服務(wù)于國家在新形勢下的建設(shè)和發(fā)展的需要。,,謝謝,關(guān)于國家語言資源的監(jiān)測,監(jiān)測什么監(jiān)測什么在變化和怎樣變化（動態(tài)）監(jiān)測什么不變化和怎樣的不變化（穩(wěn)態(tài)）當(dāng)前階段主要監(jiān)測字、詞、語的使用及字、詞、語之間的關(guān)系怎樣監(jiān)測監(jiān)測大眾傳媒對語言文字的使用監(jiān)測教材對語言文字的使用監(jiān)測大眾傳媒和教材對口語的影響監(jiān)測的深化要從靜態(tài)向動態(tài)深化要從頻度向使用度、實用度和流通度深化要從單純監(jiān)測字、詞、語深化到監(jiān)測三者之間的關(guān)系,

簡介：1,網(wǎng)絡(luò)編程語言,2,應(yīng)用程序程序編程接口（套接字）,實現(xiàn)網(wǎng)絡(luò)應(yīng)用時，要從由網(wǎng)絡(luò)輸出的接口開始。既然大多數(shù)網(wǎng)絡(luò)協(xié)議都是由軟件實現(xiàn)的（特別是協(xié)議棧中的高層協(xié)議），而且?guī)缀跛械挠嬎銠C系統(tǒng)都將網(wǎng)絡(luò)協(xié)議的實現(xiàn)作為操作系統(tǒng)的一部分，因而我們說“由網(wǎng)絡(luò)輸出的”接口時，通常指的是操作系統(tǒng)為它的網(wǎng)絡(luò)子系統(tǒng)提供的接口。這個接口叫做網(wǎng)絡(luò)的應(yīng)用程序編程接口（API）。雖然每個操作系統(tǒng)都可以自由地定義自己的API，但隨著時間的推移，有些API已獲得了廣泛的支持；也就是說，除了它們原始的系統(tǒng)外，它們還被移植到操作系統(tǒng)中。,3,應(yīng)用程序程序編程接口（套接字）,套接字接（SOCKETINTERFACE）口它最初是由加州大學(xué)伯克利分校的UNIX小組開發(fā)，而現(xiàn)在幾乎所有流行的操作系統(tǒng)都支持它。業(yè)界支持單一API的優(yōu)點是使得應(yīng)用程序可以很簡單地從一個操作系統(tǒng)移植到另一個操作系統(tǒng)。但是我們得記住一點，通常應(yīng)用程序與操作系統(tǒng)許多部分相互作用，而不僅僅與網(wǎng)絡(luò)相互作用。例如，讀寫文件，產(chǎn)生并行進程和輸出圖形顯示。每個協(xié)議提供了一系列服務(wù)（SERVICE），API則提供了特定操作系統(tǒng)中調(diào)用這些服務(wù)所用的語法（SYNTAX）。然后，實現(xiàn)的作用是把API定義的具體操作和對象映射到協(xié)議定義的抽象服務(wù)集上。,4,應(yīng)用程序程序編程接口（套接字）,套接字接口的主要概念是套接字（SOCKET）。理解套接字的好方法是把它看作本地應(yīng)用進程與網(wǎng)絡(luò)的接入點。接口定義了各種操作，包括創(chuàng)建套接字、將套接字連到網(wǎng)上、通過套接字發(fā)送/接收消息，關(guān)閉套接字。為了簡化討論，我們在此只討論TCP中如何使用套接字。第一步是創(chuàng)建套接字，用如下操作實現(xiàn)該操作有三個參數(shù)是因為套接字接口被設(shè)計成通用的，定義支持任意的底層協(xié)議集。,,5,應(yīng)用程序程序編程接口（套接字）,,2TYPE參數(shù)表明通信的語義。SOCK_STREAM說明是字節(jié)流。SOCK_DGRAM則表明是面向消息的服務(wù)，像UDP提供的一樣。,,3PROTOCOL參數(shù)則指明將要用到的特定協(xié)議。,,SOCKET返回值是新創(chuàng)建套接字的句柄（HANDLE），即以后引用該套接字時使用的標(biāo)識符。在套接字的其他操作中，它也將作為一個參數(shù)。,,1DOMAIN參數(shù)描述將使用的協(xié)議族。AF_INET用于表示因特網(wǎng)協(xié)議族。AF_UNIX用于表示UNIX管道功能,6,客戶/服務(wù)器模式,在TCP/IP網(wǎng)絡(luò)應(yīng)用中，通信的兩個進程間相互作用的主要模式是客戶/服務(wù)器模式（CLIENT/SERVERMODEL），即客戶向服務(wù)器發(fā)出服務(wù)請求，服務(wù)器接收到請求后，提供相應(yīng)的服務(wù)。客戶/服務(wù)器模式的建立基于以下兩點首先，建立網(wǎng)絡(luò)的起因是網(wǎng)絡(luò)中軟硬件資源、運算能力和信息不均等，需要共享，從而造就擁有眾多資源的主機提供服務(wù)，資源較少的客戶請求服務(wù)這一非對等作用。其次，網(wǎng)間進程通信完全是異步的，相互通信的進程間既不存在父子關(guān)系，又不共享內(nèi)存緩沖區(qū)，因此需要一種機制為希望通信的進程間建立聯(lián)系，為二者的數(shù)據(jù)交換提供同步，這就是基于客戶/服務(wù)器模式的TCP/IP。,,7,客戶/服務(wù)器模式,客戶/服務(wù)器模式在操作過程中采取的是主動請求方式首先服務(wù)器方要先啟動，并根據(jù)請求提供相應(yīng)服務(wù)1打開一通信通道并告知本地主機，它愿意在某一公認地址上（周知口，如FTP為21）接收客戶請求；2等待客戶請求到達該端口；3接收到重復(fù)服務(wù)請求，處理該請求并發(fā)送應(yīng)答信號。接收到并發(fā)服務(wù)請求，要激活一新進程來處理這個客戶請求（如UNIX系統(tǒng)中用FORK、EXEC）。新進程處理此客戶請求，并不需要對其它請求作出應(yīng)答。服務(wù)完成后，關(guān)閉此新進程與客戶的通信鏈路，并終止。4返回第二步，等待另一客戶請求。5關(guān)閉服務(wù)器,8,客戶/服務(wù)器模式,客戶方1打開一通信通道，并連接到服務(wù)器所在主機的特定端口；2向服務(wù)器發(fā)服務(wù)請求報文，等待并接收應(yīng)答；繼續(xù)提出請求3請求結(jié)束后關(guān)閉通信通道并終止。從上面所描述過程可知1客戶與服務(wù)器進程的作用是非對稱的，因此編碼不同。2服務(wù)進程一般是先于客戶請求而啟動的。只要系統(tǒng)運行，該服務(wù)進程一直存在，直到正常或強迫終止。,9,應(yīng)用程序程序編程接口（套接字）,下一步看你是客戶還是服務(wù)器。如果是服務(wù)器在服務(wù)器主機上，應(yīng)用進程執(zhí)行一個被動的打開，即服務(wù)器表明它已準(zhǔn)備好接受連接，但并沒有真正建立連接。服務(wù)器通過調(diào)用以下三個操作來完成打開,10,套接字類型,TCP/IP的SOCKET提供下列三種類型套接字。（1）流式套接字（SOCK_STREAM）提供了一個面向連接、可靠的數(shù)據(jù)傳輸服務(wù)，數(shù)據(jù)無差錯、無重復(fù)地發(fā)送，且按發(fā)送順序接收。內(nèi)設(shè)流量控制，避免數(shù)據(jù)流超限；數(shù)據(jù)被看作是字節(jié)流，無長度限制。文件傳送協(xié)議（FTP）即使用流式套接字。（2）數(shù)據(jù)報式套接字（SOCK_DGRAM）提供了一個無連接服務(wù)。數(shù)據(jù)包以獨立包形式被發(fā)送，不提供無錯保證，數(shù)據(jù)可能丟失或重復(fù)，并且接收順序混亂。網(wǎng)絡(luò)文件系統(tǒng)（NFS）使用數(shù)據(jù)報式套接字。（3）原始式套接字（SOCK_RAW）該接口允許對較低層協(xié)議，如IP、ICMP直接訪問。常用于檢驗新的協(xié)議實現(xiàn)或訪問現(xiàn)有服務(wù)中配置的新設(shè)備。,11,典型套接字調(diào)用過程舉例,如前所述，TCP/IP協(xié)議的應(yīng)用一般采用客戶/服務(wù)器模式，因此在實際應(yīng)用中，必須有客戶和服務(wù)器兩個進程，并且首先啟動服務(wù)器，其系統(tǒng)調(diào)用時序圖如下。面向連接的協(xié)議（如TCP）的套接字系統(tǒng)調(diào)用如下圖所示服務(wù)器必須首先啟動，直到它執(zhí)行完ACCEPT調(diào)用，進入等待狀態(tài)后，方能接收客戶請求。假如客戶在此前啟動，則CONNECT將返回出錯代碼，連接不成功。,見下圖,12,服務(wù)器方客戶方,13,STATUSOFPARENTANDCHILDPROCESSESWITHRESPECTTOTHESOCKET,,,,,,,,14,典型套接字調(diào)用過程舉例,無連接協(xié)議的套接字調(diào)用如下圖所示無連接服務(wù)器也必須先啟動，否則客戶請求傳不到服務(wù)進程。無連接客戶不調(diào)用CONNECT。因此在數(shù)據(jù)發(fā)送之前，客戶與服務(wù)器之間尚未建立完全相關(guān)，但各自通過SOCKET和BIND建立了半相關(guān)。發(fā)送數(shù)據(jù)時，發(fā)送方除指定本地套接字號外，還需指定接收方套接字號，從而在數(shù)據(jù)收發(fā)過程中動態(tài)地建立了全相關(guān)。,見下圖,15,,16,應(yīng)用程序程序編程接口（套接字）,1BIND操作如其名字一樣，是將新創(chuàng)建的SOCKET與ADDRESS綁定。這是本地參與者（即服務(wù)器）的網(wǎng)絡(luò)地址。注意，ADDRESS在因特網(wǎng)協(xié)議中使用時是表示一個數(shù)據(jù)結(jié)構(gòu)，其中包括服務(wù)器的IP地址和TCP端口號。端口號通常是一些眾所周知的、專門提供給服務(wù)的號嗎；例如，WEB服務(wù)器通常在端口80上接受連接。,2LISTEN操作定義在指定的SOCKET上可以有多少個待處理的連接。,3ACCEPT操作完成被動打開。它是一個阻塞的操作，在遠程參與者沒有建立起連接前，它不會返回任何參數(shù)，一旦連接成功，它將返回一個表示這個新建連接的新的套接字，并且ADDRESS參數(shù)還包括了遠程參與者的地址。,注意，當(dāng)ACCEPT返回時，以前作為參數(shù)給定的原始套接字依然存在并依然對應(yīng)于被動打開；在以后調(diào)用ACCEPT時它仍作為參數(shù)。,17,應(yīng)用程序程序編程接口（套接字）,在客戶機上，應(yīng)用程序執(zhí)行主動打開；也就是，它通過調(diào)用如下的一個操作來表明它希望與誰通信,該操作直至TCP成功建立連接后才返回，此時應(yīng)用程序就可以開始發(fā)送數(shù)據(jù)。ADDRESS中包括了遠程參與者的地址。實際上，客戶機通常只描述遠程參與者的地址，讓系統(tǒng)自動填寫本地信息。鑒于服務(wù)器通常在共知的端口監(jiān)聽消息，一般地，客戶機并不關(guān)心它自己用哪個端口；操作系統(tǒng)簡單地選一個未用端口即可。,18,應(yīng)用程序程序編程接口（套接字）,一旦連接建立，應(yīng)用進程將調(diào)用以下兩個操作來發(fā)送和接收數(shù)據(jù),這個操作在指定的SOCKET上發(fā)送MESSAGE,這個操作則是將從指定的SOCKET上收到的消息放入指定的BUFFER。它們都使用一系列FLAGS來控制操作的特定細節(jié)。,19,應(yīng)用實例,現(xiàn)在，我們來看一個簡單的客戶機/服務(wù)器程序的實現(xiàn)，它用套接字接口在一個TCP連接上發(fā)送消息。這個程序還用到了其他的UNIX網(wǎng)絡(luò)功能，我們將逐個介紹。我們的應(yīng)用允許用戶在一端的機器上輸入并把文本發(fā)送給另一端機器的用戶。它是UNIX中TALK程序的一個簡化版本，類似于WEB聊天室的核心程序。,20,應(yīng)用實例,1客戶端我們先從客戶端開始，它用遠端的機器名作為參數(shù)。它調(diào)用UNIX程序GETHOSTBYNAME把該名字翻譯為遠端主機的IP地址。下一步是構(gòu)造套接字接口所需的地址數(shù)據(jù)結(jié)構(gòu)（SIN）。注意這個數(shù)據(jù)結(jié)構(gòu)表明我們將一直用套接字與因特網(wǎng)連接（AF_INET）。在以下例子中，我們用TCP端口號5432作為共知的服務(wù)器端口號；它恰好不是分配給其他因特網(wǎng)服務(wù)的端口號。建立連接的最后一步是調(diào)用SOCKET和CONNECT。一旦CONNECT操作返回，建立起連接，客戶機程序?qū)⑦M入主循環(huán)，不斷從標(biāo)準(zhǔn)輸入讀取文本并通過套接字發(fā)送。,21,客戶端程序,22,應(yīng)用實例,2服務(wù)器服務(wù)器的實現(xiàn)也很簡單。首先，它填入自己的端口號（SERVER_PORT）構(gòu)造地址數(shù)據(jù)結(jié)構(gòu)。其次，它并不指明IP地址，從而使應(yīng)用程序可以接受來自本地任一IP地址的連接。然后，服務(wù)器執(zhí)行與被動打開有關(guān)的初始步驟創(chuàng)建一個套接字，將它綁定到本地地址。然后設(shè)置允許同時連接的最大數(shù)。最后，主循環(huán)等待遠端主機與它連接，當(dāng)遠端有一臺主機試圖與它連接時，它就接收并輸出連接上送來的字符。,23,服務(wù)器程序,24,協(xié)議實現(xiàn)的問題,應(yīng)用程序與底層網(wǎng)絡(luò)交互的方式類似于高層協(xié)議與低層協(xié)議交互的方式。例如，TCP需要一個接口向IP發(fā)送消息,同時也需要IP能向TCP傳送消息。這就是服務(wù)接口。既然我們已經(jīng)有了網(wǎng)絡(luò)的API（如套接字），或許我們可以在協(xié)議棧的每一對協(xié)議間使用同樣的接口。盡管這只是一種選擇，但在實際中我們并不這樣使用套接字接口。原因在于套接字接口在協(xié)議實現(xiàn)方面的低效是協(xié)議實現(xiàn)者所不能忍受的。應(yīng)用編程人員之所以能忍受是因為它簡化了編程工作，而且畢竟他對低效只需忍受一次就夠了，而協(xié)議實現(xiàn)者卻要常常被它們的性能所困擾，總擔(dān)心穿過幾層協(xié)議是否能得到一條消息。本節(jié)的其余部分將討論網(wǎng)絡(luò)API和位于協(xié)議圖下方的協(xié)議到協(xié)議接口的兩點主要不同。同時介紹協(xié)議實現(xiàn)常用到的庫例程。,25,協(xié)議實現(xiàn)的問題,1進程模型大多數(shù)操作系統(tǒng)都提供一種抽象概念叫進程（PROCESS），或叫線程（THREAD）。每個進程的運行很大程度上獨立于其他進程，操作系統(tǒng)負責(zé)確保給所有當(dāng)前的進程分配如地址空間和CPU周期這樣的資源。進程這一抽象概念使得在一臺機器上并發(fā)運行多個事件變得相當(dāng)簡單；例如，每個用戶的應(yīng)用程序可以在自己的進程中執(zhí)行，操作系統(tǒng)中的各種事件可以作為其他進程執(zhí)行。操作系統(tǒng)將正在CPU上運行的進程停止并啟動另一進程時，我們稱這一轉(zhuǎn)換為上下文切換（CONTEXTSWITCH）。,26,協(xié)議實現(xiàn)的問題,在設(shè)計一個網(wǎng)絡(luò)子系統(tǒng)時，首先要回答的問題之一是，“進程在哪兒”基本上有兩種選擇，如圖所示。第一種選擇，我們稱為進程/協(xié)議（PROCESSPERPROTOCOL）模型，每個協(xié)議由一個獨立的進程實現(xiàn)。這就意味著當(dāng)一條消息向協(xié)議棧的上方或下方移動時，它被從一個進程/協(xié)議傳送到另一個進程/協(xié)議，即實現(xiàn)協(xié)議I的進程處理這個消息，然后把它傳給協(xié)議I1，以此類推。一個進程/協(xié)議如何向下一個進程/協(xié)議傳遞消息依賴于主機操作系統(tǒng)提供的進程間通信的支持。通常有一個簡單的機制把消息與進程排隊。然而，重要的一點是，協(xié)議圖的每一層都要求上下文切換，這是一個典型的耗時操作。,27,協(xié)議實現(xiàn)的問題,我們把另一種稱為進程/消息（PROCESSPERMESSAGE）模型，它把每個協(xié)議當(dāng)做一段靜態(tài)編碼并把進程同消息聯(lián)系起來。也就是說，當(dāng)網(wǎng)絡(luò)送來一條消息時，操作系統(tǒng)調(diào)度一個進程，使之負責(zé)消息在協(xié)議圖中向上移動。在每一層，調(diào)用實現(xiàn)該協(xié)議的過程，然后調(diào)用實現(xiàn)下一個協(xié)議的過程，以此類推。對于輸出的消息，應(yīng)用程序調(diào)用必要的過程，直到消息被送入網(wǎng)絡(luò)。在兩個方向中，協(xié)議圖都被一系列過程調(diào)用一遍。,28,協(xié)議實現(xiàn)的問題,結(jié)論雖然有時感覺進程/協(xié)議模型比較容易，即我在我的進程中實現(xiàn)我的協(xié)議，而你在你的進程中實現(xiàn)你的協(xié)議。但由于一個簡單的原因，進程/消息模型通常更有效即在大多數(shù)計算機上，過程調(diào)用的效率比上下文切換高一個數(shù)量級。第一種模型要求每一層有一個上下文切換，而第二種模型只要求每一層有一個進程調(diào)用。,29,協(xié)議實現(xiàn)的問題,大多數(shù)協(xié)議實現(xiàn)用DELIVER操作代替RECEIVE操作。也就是低層協(xié)議做向上調(diào)用（UPCALL），它是一個向上調(diào)用協(xié)議棧的過程，將消息傳送到高層協(xié)議。圖顯示了兩個相鄰協(xié)議（本例中為TCP和IP）的接口。一般情況下，消息向協(xié)議棧的下方移動調(diào)用一系列SEND操作，向協(xié)議圖上方移動則調(diào)用一系列DELIVER操作。,代碼段用下列操作,其中LLP表示低層協(xié)議，其上的正在調(diào)用它的協(xié)議已被配置；HLP表示正在調(diào)用協(xié)議之上配置的高層協(xié)議。注意，我們用PROTOCOL這一變量類型和變量LLP和HLP簡化了使用，它們隱藏了協(xié)議圖中如何配置協(xié)議、高層協(xié)議如何在低層協(xié)議上打開一個連接的細節(jié)。,30,協(xié)議實現(xiàn)的問題,2消息緩沖區(qū)套接字接口的第二個低效之處在于當(dāng)調(diào)用SEND時應(yīng)用進程提供緩沖區(qū)，保存向外發(fā)送的消息，類似于當(dāng)調(diào)用RECEIVE時將進來的消息復(fù)制到緩沖區(qū)中。它強制最高層的協(xié)議把消息從應(yīng)用程序緩沖區(qū)復(fù)制到網(wǎng)絡(luò)緩沖區(qū)中，或反之，如圖所示。將數(shù)據(jù)從一個緩沖區(qū)復(fù)制到另一個緩沖區(qū)是協(xié)議實現(xiàn)中代價最高的工作之一。因為處理器的速度以巨大的步伐加快，而內(nèi)存的發(fā)展并不如處理器那么快。,

簡介：統(tǒng)計自然語言處理基本概念,模型,,,,,真實世界中的系統(tǒng),模型1,INPUT,,,OUTPUT,,模型2,,OUTPUT1,OUTPUT2,如果OUTPUT1總是和OUPUT接近，OUTPUT2總是和OUTPUT偏離，我們就認為模型1比模型2好,,,,,,,真實系統(tǒng),,,,模型1,,模型2,INPUT,OUTPUT,,模型由體系結(jié)構(gòu)和參數(shù)兩部分構(gòu)成舉例住宅樓多層板樓高層板樓高層塔樓參數(shù)層數(shù)戶型三室一廳，兩室一廳，舉架高度供熱方式地?zé)崤瘹馄?目錄,樣本空間SAMPLESPACE估計器ESTIMATOR和隨機過程STOCHASTICPROCESS信息論INFORMATIONTHEORY數(shù)據(jù)集分類DATASETCLASSIFICATION性能評價PERFORMANCEMEASURE,樣本空間SAMPLESPACE,,試驗EXPERIMENT,試驗一個可觀察結(jié)果的人工或自然的過程，其產(chǎn)生的結(jié)果可能不止一個，且不能事先確定會產(chǎn)生什么結(jié)果例如連擲兩次硬幣樣本空間是一個試驗的全部可能出現(xiàn)的結(jié)果的集合舉例連擲兩次硬幣?{HH,HT,TH,TT},H面朝上T面朝下,事件EVENT,事件一個試驗的一些可能結(jié)果的集合，是樣本空間的一個子集舉例連擲兩次硬幣A至少一次面朝上B第二次面朝下A{HT,TH,HH},B{HT,TT},事件的概率,事件的概率重復(fù)M試驗，如果事件A出現(xiàn)的次數(shù)為N，則事件A的概率為PAN/M，這稱為概率的頻率解釋，或稱統(tǒng)計解釋頻率的穩(wěn)定性又稱為經(jīng)驗大數(shù)定理舉例連擲兩次硬幣A至少一次面朝上B第二次面朝下PA3/4,PB1/2當(dāng)試驗不能重復(fù)時，概率失去其頻率解釋的含義，此時概率還有其他解釋貝葉斯學(xué)派和信念學(xué)派一個人出生時的體重，一個人只能出生一次,舉例,舉例連續(xù)三次擲硬幣樣本空間?{HHH,HHT,HTH,HTT,THH,THT,TTH,TTT}事件A恰好兩次面朝下A{HTT,THT,TTH}做1000次試驗，計數(shù)得386次為兩次面朝下估計PA386/10000386繼續(xù)做7組試驗，得373，399，382，355，372，406，359，共8組試驗計算平均值PA03860373/80379，或累計PA386373/80003032/80000379統(tǒng)一的分布假設(shè)為3/80375,概率空間,概率空間的三個公理PA?0P?1PA?BPAPBIFA?B?這三條公理也是概率的原始定義推論P?0A?B?PA0正相關(guān)，?0X和Y關(guān)聯(lián)強度大IX,Y0X和Y無關(guān)IX,Y0X和Y具有互補的分布,熵ENTROPY,熵ENTROPYCHAOS（混沌），無序物理學(xué)除非施加能量，否則熵不會降低舉例把房間弄亂很容易，整理干凈不容易是不確定性UNCERTAINTY的衡量不確定性越高，熵越高，我們從一次實驗中得到的信息量越大,熵的公式,熵HX?X??PXLOGXPX假設(shè)PXX是隨機變量X的分布基本輸出字母表是?單位BITS熵是X的平均信息量，是自信息量的期望EX?X??PXXIXLOGPX，取2為底，IXLOG2PXEIXELOG2PX?X??PXLOG2PXHXHXHPHPXHXPHPX,熵的例子,擲均勻硬幣，?{H,T}PH5,PT5HP05LOG20505LOG205132面的均勻骰子，擲骰子HP321/32LOG21/325事實上，212,2532PERPLEXITY擲不均勻硬幣PH02,PT08,HP0722PH001,PT099,HP0081,好書店，差書店,,什么時候HP0試驗結(jié)果事先已經(jīng)知道即?X??,PX1?Y??,PY0IFY?X熵有沒有上限沒有一般的上限對于|?|N，HP?LOG2N均衡分布的熵是最大的,,等概率分布2個輸出的等概率分布，HP1BIT32個輸出的等概率分布，HP5BITS43億輸出的等概率分布，HP32BITS非等概率分布32個輸出，2個05，其余為0，HP1BIT怎樣比較具有不同數(shù)量輸出的“熵”,混亂度PERPLEXITY,混亂度GP2HP平均每次試驗有多少種可能的結(jié)果在NLP中，如果詞表中的詞具有統(tǒng)一的分布概率，則最難預(yù)測，熵最大，混亂度最高反之，分布越不均衡，熵越小，混亂度越小,聯(lián)合熵和條件熵,兩個隨機變量X空間是?，Y?聯(lián)合熵JOINTENTROPYX,Y被視為一個事件HX,Y?X???Y??PX,YLOG2PX,Y條件熵CONDITIONALENTROPYHY|X?X???Y??PX,YLOG2PY|XPX,Y是加權(quán)，權(quán)值是沒有條件的,條件熵,HY|X?X??PXHY|XX?X??PX?Y??PY|XLOG2PY|X?X???Y??PY|XPXLOG2PY|X?X???Y??PX,YLOG2PY|X,熵的性質(zhì),熵的非負的HX?0CHAINRULEHX,YHY|XHXHX,YHX|YHYHX,Y?HXHY，X和Y獨立時相等HY|X?HY，條件熵比熵小,熵的編碼意義,如果一個符號序列是滿足概率分布P的隨機過程產(chǎn)生的，那么對這個序列進行編碼至少需要的BIT數(shù)是HP壓縮問題如果數(shù)據(jù)中有很多重復(fù)的模式，則易于壓縮，因為熵小否則，熵大，不容易壓縮,編碼實例,怎樣給ISOLATIN1編碼通常用8位經(jīng)驗表明有的字符經(jīng)常出現(xiàn)，有的字符很少出現(xiàn)我們可以給經(jīng)常出現(xiàn)的字用較少的BIT來表示，給很少出現(xiàn)的字符用較多的BIT來表示假設(shè)P‘A’03,P‘B’03,P‘C’03,其余PX00004編碼A00,B01,C10,其余11B1B2B8對于符號串ACBBéCBAAC，編碼為ACBBéCBAAC0010010111000011111001000010如果每個符號用8位編碼，需要80位，現(xiàn)在需要28位,語言的熵,PCN1|C1CNCI是語言中的一個字符C1CN是歷史H舉例漢語，N3P趙|圍魏救高P去|我曾經(jīng)低計算語言的條件熵?H?H?C??PC,HLOG2PC|H,各種語言的熵,按字母計算的零階熵法文398BITS意大利文400BITS西班牙文401BITS英文403BITS德文410BITS俄問435BITS中文（按漢字計算）965BITS中文（按筆畫計算）343BITS按詞匯計算的零階熵英語100BITS漢語1146BITS說明漢語的詞匯豐富語言的冗余度英語73；俄語70；漢語63；古文更低,KULLBACKLEIBLER距離,假設(shè)通過一組試驗估計得到的概率分布為P，樣本空間?，隨機變量X真實的分布為Q，相同的?和X現(xiàn)在的問題是P和Q相比，誤差多大KULLBACKLEIBLER距離給出的答案是DQ||P?X??QXLOG2QX/PXEPLOGQX/PX,KL距離（相對熵）,習(xí)慣上0LOG00PLOGP/0?DISTANCEORDIVERGENCE（分歧）不對稱DQ||P?DP||Q也不滿足三角不等式事實上，DQ||P不是距離，而是分歧HQDQ||P根據(jù)Q分布，對P進行編碼需要的BIT數(shù)（交叉熵）,平均互信息,隨機變量XYPX?YX,YPXXPYY兩個離散集之間的平均互信息IX,YDPX,Y||PXPY?X???Y??PX,YLOG2PX,Y/PXPY這里說的是兩個離散集的平均互信息互信息衡量已知Y的分布時，對X的預(yù)測有多大的幫助，或者說Y的知識降低了HX或者說PX,Y和PXPY之間的距離,,互信息的性質(zhì),IX,YHXHX|YHYHY|XIX,YHXHYHX,Y因為HX,YHX|YHYIX,XHX因為HX,X0IX,YIY,XIX,Y?0,交叉熵CROSSENTROPY,典型情況我們得到一個觀察序列T{T1,T2,TN},TI??估計?Y??PYCY/|T|,定義CY|{T?T,TY}|但是，真實的Q不知道，再大的數(shù)據(jù)也不夠問題用P對Q進行估計是否準(zhǔn)確方法用一個不同的觀察序列T’估計實際的Q,交叉熵,HP’PHP’DP’||PHP’P?X??P’XLOG2PXP’當(dāng)然也不是真實的分布，但是我們視為真實世界的分布，以便測試P交叉混亂度GP’P2HP’P,條件交叉熵,實踐中計算的往往是條件交叉熵兩個樣本空間樣本空間?，隨機變量Y，Y?Y上下文樣本空間?，隨機變量X，X?X實驗得到的分布PY|X，“真實”分布P’Y|XHP’P?Y??,X??P’Y,XLOG2PY|X條件交叉熵中的權(quán)值是P’Y,X，不是P’Y|X,,在實際應(yīng)用中，在全部兩個樣本空間上做累加通常不是很方便，因此常常簡化使用如下公式HP’P?Y??,X??P’Y,XLOG2PY|X1/|T’|?I1|T’|LOG2PYI|XI事實上，就是在T’上進行累加，然后歸一化1/|T’|LOG2?I1|T’|PYI|XI,舉例,?{A,B,,Z}，概率分布（估計值）PA025,PB05,P?1/64,??{C,,R},P?0,??{S,,Z}測試數(shù)據(jù)為BARB，P’AP’R025,P’B05在?上做累加?ABCDQRSZP’?LOG2P?0505000150025也可以在測試數(shù)據(jù)上進行累加，然后歸一化SIBARBLOG2PSI1261101/4?1025,,HP和HP’P之間可能有各種關(guān)系包括‘?’,‘?’,‘?’舉例（參照上例）HP25測試數(shù)據(jù)BARBHP’P1/4126125測試數(shù)據(jù)PROBABLEHP’P1/866612166425測試數(shù)據(jù)ABBAHP’P1/4211215,交叉熵的使用,不是比較數(shù)據(jù)，而是比較分布如果我們有兩個分布P和Q，哪一個更好呢面對“真實數(shù)據(jù)”S，P和Q誰的交叉熵低，誰就更好HTP1/|S|LOG2?I1|S’|PYI|XIHTQ1/|S|LOG2?I1|S’|QYI|XI,,數(shù)據(jù)集分類,,,訓(xùn)練集TRAININGSET用來獲得模型參數(shù)測試集TESTINGSET從訓(xùn)練集以外獨立采樣反映系統(tǒng)面對真實世界的處理能力測試集經(jīng)常被無意識地“做了手腳”交叉確認集CROSSVALIDATIONSET從訓(xùn)練集和測試集以外獨立采樣主要用來幫助做設(shè)計決策,測試集,測試集從訓(xùn)練集去評價系統(tǒng)的性能，結(jié)果往往過于樂觀如果模型的參數(shù)比需要的多很多時，獲得100的準(zhǔn)確率也是可能的過擬和OVERFITTING常常出現(xiàn)在訓(xùn)練數(shù)據(jù)的數(shù)量不足以支持模型的復(fù)雜程度之時為此，我們需要另一個數(shù)據(jù)集來模擬用戶的真實需要,,在設(shè)計階段，不允許偷看測試數(shù)據(jù)的細節(jié)，以保證測試數(shù)據(jù)不被污染你不能參照測試數(shù)據(jù)來決定模型的復(fù)雜度，特征空間的維數(shù)，以及什么時候決定停止訓(xùn)練過程等設(shè)計決策可以參照交叉確認數(shù)據(jù)進行每一個階段采用一個不同測試集當(dāng)你試圖選擇一個最好的方法使測試效果達到最佳時，實際上已經(jīng)在無意識地使你的系統(tǒng)偏向測試集問題的關(guān)鍵在于測試集并不是真實數(shù)據(jù)本身，如果面向測試集調(diào)整參數(shù)，可能造成系統(tǒng)對于從未見過的真實數(shù)據(jù)效果下降,,交叉確認集如果在訓(xùn)練集合上獲得了比較差的結(jié)果，我們必須重新設(shè)計如果在訓(xùn)練集合上獲得了比較好的結(jié)果，那可能是因為模型確實好（在測試數(shù)據(jù)上性能一樣會好）模型過擬和（在測試數(shù)據(jù)上性能會下降）由于不允許使用測試集來改進系統(tǒng)設(shè)計，因此需要另一個數(shù)據(jù)集,性能評價,,,使用有限的樣本進行性能測試有估計誤差性能評價的結(jié)果和測試數(shù)據(jù)的大小有關(guān)不同數(shù)據(jù)集的測試結(jié)果往往不同性能上限PERFORMANCEUPPERBOUND人與人取得一致的指標(biāo)就是系統(tǒng)性能的上限,,聯(lián)立表CONTINGENCYTABLE,,準(zhǔn)確率PPRECISIONN11/N11N21召回率RRECALLN11/N11N12錯誤率EERRORRATEN12N21/N11N12N21N22FMEASURE2PR/PR,謝謝,,

簡介：經(jīng)管學(xué)院2014年語言文字工作總結(jié),總結(jié),2014年，我院結(jié)合本院實際情況，努力提高師生語言文字意識，提升學(xué)院文化品位，增強學(xué)院凝聚力、向心力。學(xué)院領(lǐng)導(dǎo)十分重視語言文字工作，帶頭參加各項語言文字規(guī)范化活動，并派專人成立語言文字工作小組，定期召開語言文字工作會，定期檢查全院師生語言文字工作情況，及時轉(zhuǎn)達學(xué)校普通話測試工作及語言文字工作的相關(guān)安排，設(shè)立了相關(guān)獎罰制度，實行年底考核評優(yōu)。學(xué)院多次開展語言文字規(guī)范化活動，如學(xué)生讀書報告會、“打造絕佳策劃案”培訓(xùn)講座、“寄語春天”教職工詩歌朗誦會、“人際交往和溝通技巧”專題講座、年青年教師教學(xué)基本功比賽、我的中國夢奮斗的青春最美麗主題辯論賽等一系列形式生動活潑、意義深遠的語言文字活動。9月，學(xué)院還推出普通話宣傳周特別活動，以海報、標(biāo)語、橫幅、墻報等豐富多樣的形式推廣普通話。學(xué)院建有普通話網(wǎng)頁，通過網(wǎng)頁傳播語言文字知識、展示語言文字規(guī)范化活動開展情況。學(xué)院組織師生向重慶大學(xué)語言文字工作網(wǎng)投稿。此外，學(xué)院師生積極參加學(xué)校和機關(guān)組織的各類語言文字規(guī)范化活動。,目錄,三、語言文字宣傳工作,一、領(lǐng)導(dǎo)重視機構(gòu)健全,二、積極開展語言文字教育培訓(xùn)、競賽或趣味活動,四、積極參加全國、重慶市、學(xué)?；驒C關(guān)組織的語言文字類競賽活動,五、日常工作用語用字規(guī)范情況,點擊添加文本,一、領(lǐng)導(dǎo)重視機構(gòu)健全,經(jīng)管學(xué)院建立了學(xué)院領(lǐng)導(dǎo)牽頭的語言文字工作領(lǐng)導(dǎo)小組，定期召開專題會議，對語言文字工作進行布置和檢查，安排專人按時報送要求提交的相關(guān)信息和數(shù)據(jù)等。,廖冰副院長主持語言文字工作會,廖冰副院長、辦公室副主任葉平檢查普通話與文字使用規(guī)范情況,,,二、積極開展語言文字教育培訓(xùn)、競賽或趣味活動,學(xué)生讀書報告會,“打造絕佳策劃案”培訓(xùn)講座,“寄語春天”教職工詩歌朗誦會,“人際交往和溝通技巧”專題講座,二、積極開展語言文字教育培訓(xùn)、競賽或趣味活動,我的中國夢奮斗的青春最美麗主題辯論賽,師生語言文字規(guī)范知識測試,行政教職工“金秋十月愛我中華”詩歌朗誦活動,普通話推廣情況調(diào)研活動,二、積極開展語言文字教育培訓(xùn)、競賽或趣味活動,經(jīng)管學(xué)院舉辦2014年青年教師教學(xué)基本功比賽在比賽中，選手們各展所長，展示了青年教師的激情和風(fēng)貌。授課內(nèi)容充實、清晰，教具、模型使用恰當(dāng)，講解深入淺出，多媒體課件制作精美，展示了不同的教學(xué)特色和授課風(fēng)格。,“搞定高水平論文”講座,知識競賽之“傳統(tǒng)文化”活動,,,三、語言文字宣傳工作,1推普周宣傳活動,,,2．語言文字網(wǎng)頁專欄,學(xué)院建有專門的語言文字網(wǎng)頁,全方位及時反映我院全年開展的各類宣傳、教育、競賽、培訓(xùn)等活動情況,HTTP//SEBACQUEDUCN/PTHYYWZGZ/INDEXJHTML,,,3．新聞投稿16篇,,,四、積極參加全國、重慶市、學(xué)?；驒C關(guān)組織的語言文字類競賽活動,袁絲語，能源經(jīng)濟重慶大學(xué)第十四屆外語文化節(jié)系列活動之微電影三等獎戴燕珊ACCA班軍訓(xùn)朗誦比賽三等獎陳偉會計1班重慶市首屆科普人員及科普志愿者培訓(xùn)結(jié)業(yè)證書林巧、韋超、信管軍訓(xùn)期間紅色主題朗誦比賽三等獎,五、日常工作用語用字規(guī)范情況,要求師生教職員工講普通話要求師生教職員工規(guī)范使用語言文字在醒目處張貼語言文字宣傳海報、宣傳欄及時傳達學(xué)校相關(guān)語言文字工作文件通知學(xué)院領(lǐng)導(dǎo)定期檢查語言文字工作的開展情況,

簡介：點擊查看更多語言欄故障精彩內(nèi)容。

簡介：點擊查看更多高職“ｃ語言”教學(xué)中存在的問題及教學(xué)建議精彩內(nèi)容。

簡介：點擊查看更多開放英語1語言要點精彩內(nèi)容。

簡介：點擊查看更多專升本《c語言程序設(shè)計》考試大綱精彩內(nèi)容。

簡介：點擊查看更多中國語言禁忌精彩內(nèi)容。

簡介：點擊查看更多探索高級語言程序設(shè)計教學(xué)中培養(yǎng)學(xué)生創(chuàng)新能力的學(xué)習(xí)模型精彩內(nèi)容。

簡介：點擊查看更多java面試筆試題大匯總精彩內(nèi)容。

簡介：點擊查看更多c語言的雙鏈表與循環(huán)鏈表精彩內(nèi)容。

簡介：點擊查看更多英語語言文學(xué)專業(yè)研究生培養(yǎng)方案精彩內(nèi)容。

簡介：點擊查看更多51匯編語言助記符精彩內(nèi)容。