深度學(xué)習(xí)(二):Keras初探:BP神經(jīng)網(wǎng)絡(luò)

最近在學(xué)習(xí)Keras的使用愉耙,在此整理一下相關(guān)內(nèi)容。方式方法上,我想通過使用Keras構(gòu)建多種常見神經(jīng)網(wǎng)絡(luò)來逐步理解Keras赞辩,這樣的話雌芽,通過常見、容易理解的神經(jīng)網(wǎng)絡(luò)诗宣,一步步深入Keras使用膘怕。子曰:由也升堂矣想诅,未入于室也召庞。

BP神經(jīng)網(wǎng)絡(luò)使用誤差逆向傳播算法訓(xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用非常廣泛的神經(jīng)網(wǎng)絡(luò)来破。按照Keras的角度篮灼,神經(jīng)網(wǎng)絡(luò)的構(gòu)建可以分為兩部分:建立神經(jīng)網(wǎng)絡(luò)模型和訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型。對(duì)于BP神經(jīng)網(wǎng)絡(luò)徘禁,網(wǎng)絡(luò)模型為多層前饋網(wǎng)絡(luò)诅诱,cost function采用平方和誤差函數(shù),訓(xùn)練采用梯度下降法送朱。

首先娘荡,通過Keras構(gòu)建前饋神經(jīng)網(wǎng)絡(luò),這部分主要采用Dense層來完成驶沼。Dense層是最簡(jiǎn)單炮沐,也是最常用的全連接網(wǎng)路層。
初步了解Keras回怜,推薦此網(wǎng)站Keras新手指南大年。

Dense層基本參數(shù):

  1. units:層輸出維度
  2. activation:激活函數(shù)
  3. init:權(quán)值初始化方法
  4. input_shape輸入張量(nb_samples, input_dim)

綜上,通過Dense層構(gòu)建前饋神經(jīng)網(wǎng)絡(luò)的方法如下:

#使用層次模型 
model = Sequential()
#輸入層與第一個(gè)隱層同時(shí)建立玉雾,輸入層13維翔试,第一個(gè)隱層有10個(gè)神經(jīng)元,激活函數(shù)使用sigmoid
model.add(Dense(10, activation='sigmoid', input_dim=13))
#輸出層有3個(gè)神經(jīng)元复旬,激活函數(shù)使用softmax
model.add((Dense(3, activation='softmax'))

這樣我們就構(gòu)建了基本的前饋神經(jīng)網(wǎng)絡(luò)垦缅,但是進(jìn)行編譯,也就是對(duì)學(xué)習(xí)過程進(jìn)行配置驹碍。編譯一般需要設(shè)置3個(gè)參數(shù):

  1. 優(yōu)化器optimizer:神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法失都,例如SGD隨機(jī)梯度下降法。
  2. 損失函數(shù)loss:神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)試圖最小化的目標(biāo)函數(shù)幸冻,例如MSE誤差平方和粹庞。
  3. 評(píng)價(jià)指標(biāo)

綜上,通過前饋神經(jīng)網(wǎng)絡(luò)編譯設(shè)置如下:

#設(shè)置SGD隨機(jī)最速下降法的參數(shù)
sgd = SGD(lr=0.01, decay=1e-6, momentum=0.9, nesterov=True)
#設(shè)置優(yōu)化器洽损、損失函數(shù)和評(píng)價(jià)指標(biāo)
model.compile(loss='categorical_crossentropy', optimizer=sgd, metrics=['accuracy'])

另外庞溜,構(gòu)建好神經(jīng)網(wǎng)絡(luò)后可以通過model.summary()獲取模型詳細(xì)信息。之后,可以通過model.fit()實(shí)現(xiàn)模型訓(xùn)練流码。

#設(shè)置訓(xùn)練集又官,epochs訓(xùn)練輪數(shù),batch_size梯度下降每個(gè)批的個(gè)數(shù)漫试,validation_data設(shè)置驗(yàn)證集
model.fit(train_x_scaled, y_train, epochs=20, batch_size=10,validation_data=(test_x_scaled, y_test))

訓(xùn)練完成之后六敬,就可以驗(yàn)證模型在測(cè)試集上的誤差。

score = model.evaluate(test_x_scaled, y_test, batch_size=10)

完整的程序和數(shù)據(jù):下載
歡迎訪問我的博客monte3card's blog

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末驾荣,一起剝皮案震驚了整個(gè)濱河市外构,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌播掷,老刑警劉巖审编,帶你破解...
    沈念sama閱讀 212,542評(píng)論 6 493
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異歧匈,居然都是意外死亡垒酬,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 90,596評(píng)論 3 385
  • 文/潘曉璐 我一進(jìn)店門件炉,熙熙樓的掌柜王于貴愁眉苦臉地迎上來勘究,“玉大人,你說我怎么就攤上這事斟冕】诟猓” “怎么了?”我有些...
    開封第一講書人閱讀 158,021評(píng)論 0 348
  • 文/不壞的土叔 我叫張陵宫静,是天一觀的道長走净。 經(jīng)常有香客問我,道長孤里,這世上最難降的妖魔是什么伏伯? 我笑而不...
    開封第一講書人閱讀 56,682評(píng)論 1 284
  • 正文 為了忘掉前任,我火速辦了婚禮捌袜,結(jié)果婚禮上说搅,老公的妹妹穿的比我還像新娘。我一直安慰自己虏等,他們只是感情好弄唧,可當(dāng)我...
    茶點(diǎn)故事閱讀 65,792評(píng)論 6 386
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著霍衫,像睡著了一般候引。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上敦跌,一...
    開封第一講書人閱讀 49,985評(píng)論 1 291
  • 那天澄干,我揣著相機(jī)與錄音,去河邊找鬼。 笑死麸俘,一個(gè)胖子當(dāng)著我的面吹牛辩稽,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播从媚,決...
    沈念sama閱讀 39,107評(píng)論 3 410
  • 文/蒼蘭香墨 我猛地睜開眼逞泄,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了拜效?” 一聲冷哼從身側(cè)響起喷众,我...
    開封第一講書人閱讀 37,845評(píng)論 0 268
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎拂檩,沒想到半個(gè)月后侮腹,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體嘲碧,經(jīng)...
    沈念sama閱讀 44,299評(píng)論 1 303
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡稻励,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 36,612評(píng)論 2 327
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了愈涩。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片望抽。...
    茶點(diǎn)故事閱讀 38,747評(píng)論 1 341
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖履婉,靈堂內(nèi)的尸體忽然破棺而出煤篙,到底是詐尸還是另有隱情,我是刑警寧澤毁腿,帶...
    沈念sama閱讀 34,441評(píng)論 4 333
  • 正文 年R本政府宣布辑奈,位于F島的核電站,受9級(jí)特大地震影響已烤,放射性物質(zhì)發(fā)生泄漏鸠窗。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 40,072評(píng)論 3 317
  • 文/蒙蒙 一胯究、第九天 我趴在偏房一處隱蔽的房頂上張望稍计。 院中可真熱鬧,春花似錦裕循、人聲如沸臣嚣。這莊子的主人今日做“春日...
    開封第一講書人閱讀 30,828評(píng)論 0 21
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽硅则。三九已至,卻和暖如春株婴,著一層夾襖步出監(jiān)牢的瞬間怎虫,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 32,069評(píng)論 1 267
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留揪垄,地道東北人穷吮。 一個(gè)月前我還...
    沈念sama閱讀 46,545評(píng)論 2 362
  • 正文 我出身青樓,卻偏偏與公主長得像饥努,于是被迫代替她去往敵國和親捡鱼。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 43,658評(píng)論 2 350

推薦閱讀更多精彩內(nèi)容

  • 親子共讀day174 月初加班乍迄,加班,加班士败!好整齊闯两,值得慶幸的是晚上加也就三天而矣,要是出來的報(bào)表數(shù)據(jù)很漂亮谅将,還能...
    潔兒_42cb閱讀 463評(píng)論 0 1
  • 綻放夢(mèng)幻色調(diào)漾狼!benefit新推超美蒲公英蜜粉 最近benefit宣佈即將推出新款蒲公英胭脂蜜粉,夢(mèng)幻的配色和設(shè)計(jì)...
    ponette閱讀 280評(píng)論 0 0
  • 十歲沒錢稽煤,那很正常; 三十歲沒錢囚戚,可能你不夠勤奮酵熙,需要更大的努力; 四十歲沒錢弯淘,只能自己找原因绿店。 華人首富李嘉誠說...
    志彤媽媽閱讀 115評(píng)論 0 0
  • 若有一天 我躺在冰冷的棺木里 潮濕的泥土擁抱著我 你會(huì)不會(huì) 在泥土上放一朵玫瑰 你會(huì)不會(huì) 輕撫我的墓碑 說 我來了...
    倪永孝閱讀 175評(píng)論 1 0
  • 我不是一個(gè)熱情的人,我不會(huì)對(duì)什么事都有情相應(yīng)庐橙。 我是一個(gè)性格不溫不火的人假勿,不會(huì)大驚小怪,不會(huì)花容失色态鳖,不會(huì)讓自己很...
    巧合的閱讀 1,744評(píng)論 0 2