BP网络以及深度学习试题.docVIP

神经网络 1 BP网 图：三层BP网 信号正向传播和误差反向传播 k=1,2……l 有l个输出（l常常为1）。 中间隐层有m层： i=1,2,……m n个输入。j=1,2……m 其中Sigmoid函数： （单极性） 1.1 计算流程 不同样本误差： E=((T-Ok)*(T-Ok))/2; 一般使用 1.2 影响参数: 1.2.1 隐层节点数 nn= +a，其中 m 为输出神经元数， n 为输入神经元数， a 为[1，10]之间的常数。 nn= nn=2n+1; nn= 1.2.2 学习率 学习率，太大会影响训练稳定性，太小使训练收敛速度慢。一般在0.01--0.8之间。我取0.2 Emin一般在0.1--之间。 1.3 样本/输入 1.3.1 训练样本 训练样本数：M，为权值阈值总数，一般为连接权总数的5~10倍。 训练数据必须作平衡处理，不同类别的样本需要交叉输入，轮流输入--时间延长。 1.3.2 输入形式 字符：形状格填充、边缘距离 曲线：采样 变化大可以密集采样 输出： 不同的输出用不同的码表示 1.3.3 归一化： 样本分布比较均匀 [0,1]区间： [-1,1]区间： 其中 不均匀：对数 平方根 [coef,score,latent,t2] = princomp(x);（个人