樣本有54萬個,有300個特徵,想分成三類,我做的是輸入300個節點,輸出3個節點,但是中間的隱層數還有隱層的節點個數我嘗試了很多,分類結果都是分的很不明顯,三組數字都是0.5多一點點,想問大神我應該把參數設在哪個範圍


這是玄學問題_(:3」∠)_窩萌都是調參前洗個臉,拜拜佛祖_(:3」∠)_

希望對你有用(=?ω?=)


在神經網格搭建過程中,每層最基本的參數有layer/node/activation,這些是隱藏層都需要確定的參數;在神經網路整體結構中dropout/optimizer/learning rate/迭代次數對整體網格結構有比較大的影像,甚至loss function(交叉熵、梯度下降)都會對神經網格有影響。受限於計算量,先根據自己可接受的計算量75%連接神經元設計好隱藏層與每層的神經元個數,搭建好神經網格結構之後再進行optimizer/dropout/activation的調參選擇。


神經網路的參數除了隱層數,隱層節點數,還有很重要的權值,閾值和激活函數呀。權值和閾值可以通過優化方法修正。激活函數也可以用不同的函數試一試吧。
網格搜索


然後還有batch size吧最近被一個NN模型搞瘋。。。結果不如人意啊,跳來跳去,感覺也不會有顯著提升。。。。所以乾脆換個思路,比如input data的smoothing之類的。。。。(DL博大精深啊搞不懂/(ㄒoㄒ)/~~
你中間還有其他參數呢,dropout/activation/optimizer?光調隱層數和node數,能調出個鬼啊
BP網路誰不會搞

重點就在於調參


是不是過擬合了。

人工智慧啊!

有多少人工,就有多少智能

調參,是一個苦力活。


trial and error
推薦閱讀:
相关文章