1、人工神經(jīng)網(wǎng)絡(ANN)是一種最常用的、能勝任一系列工作的人工智能(AI)工具。通常，單個人工神經(jīng)網(wǎng)絡未必能夠精確而全面地掌握某一特定工作的特點，因此人們提出了“人工神經(jīng)網(wǎng)絡Ensemble”([l])模型一一一種集成一定數(shù)量單個人工神經(jīng)網(wǎng)絡使它們能夠按照一定機制給出統(tǒng)一的輸出的構架。 隨著對神經(jīng)網(wǎng)絡模型的數(shù)學基礎研究的深入和實際應用需要的增長，人們提出了統(tǒng)計神經(jīng)流形(statistical neural manifolds)([

2、2]，[3])模型，來考察某類神經(jīng)網(wǎng)絡的總體性質以及神經(jīng)網(wǎng)絡間信息流的動力學特性。最近的神經(jīng)網(wǎng)絡的數(shù)學基礎的前沿研究將興趣投向神經(jīng)場理論([4]，[5]，[6])，以便在提供大規(guī)模神經(jīng)元的數(shù)學行為的描述的同時給出神經(jīng)網(wǎng)絡的統(tǒng)一統(tǒng)計數(shù)學模型。 本文的工作可以分成三類：一，對最優(yōu)網(wǎng)絡構架和推理原則是否一致[7]的研究；二，統(tǒng)計神經(jīng)流形上的Fisher信息矩陣的表示和計算：三，對神經(jīng)網(wǎng)絡統(tǒng)計模型的統(tǒng)一數(shù)學描述的探索。具體說來，本文有

3、創(chuàng)新意義的工作主要有： 1)提出了適用于具有三層總體網(wǎng)絡拓撲構架的網(wǎng)絡或Ensemble的動態(tài)子網(wǎng)選擇機制，并給出了Ensemble具有唯一、穩(wěn)定統(tǒng)計最優(yōu)輸出組合權值的充要條件 2)給出了全參數(shù)MLP神經(jīng)流形上的Fisher信息矩陣的分快矩陣表達式，并給出其關鍵子塊的顯式表達和逆。 3)基于亞指數(shù)S-型網(wǎng)絡(sub-exponential sigmoidal networks)([8])的Vapnik-Cherv