样本有54万个,有300个特征,想分成三类,我做的是输入300个节点,输出3个节点,但是中间的隐层数还有隐层的节点个数我尝试了很多,分类结果都是分的很不明显,三组数字都是0.5多一点点,想问大神我应该把参数设在哪个范围


这是玄学问题_(:3」∠)_窝萌都是调参前洗个脸,拜拜佛祖_(:3」∠)_

希望对你有用(=?ω?=)


在神经网格搭建过程中,每层最基本的参数有layer/node/activation,这些是隐藏层都需要确定的参数;在神经网路整体结构中dropout/optimizer/learning rate/迭代次数对整体网格结构有比较大的影像,甚至loss function(交叉熵、梯度下降)都会对神经网格有影响。受限于计算量,先根据自己可接受的计算量75%连接神经元设计好隐藏层与每层的神经元个数,搭建好神经网格结构之后再进行optimizer/dropout/activation的调参选择。


神经网路的参数除了隐层数,隐层节点数,还有很重要的权值,阈值和激活函数呀。权值和阈值可以通过优化方法修正。激活函数也可以用不同的函数试一试吧。
网格搜索


然后还有batch size吧最近被一个NN模型搞疯。。。结果不如人意啊,跳来跳去,感觉也不会有显著提升。。。。所以干脆换个思路,比如input data的smoothing之类的。。。。(DL博大精深啊搞不懂/(ㄒoㄒ)/~~
你中间还有其他参数呢,dropout/activation/optimizer?光调隐层数和node数,能调出个鬼啊
BP网路谁不会搞

重点就在于调参


是不是过拟合了。

人工智慧啊!

有多少人工,就有多少智能

调参,是一个苦力活。


trial and error
推荐阅读:
相关文章