神经网络及优化后的神经网络流程图
2017-11-02 15:36:31 29 举报
神经网络使用的流程图,适应于各种通用的神经网络计算模型,深度学习必备
作者其他创作
大纲/内容
小于期望误差
否
读取训练样本 X
设定学习效率
从训练集中抽取一批样本,获取相关的输出值
结束
达到训练步数上限 K N
计算梯度
开始
反向更新权重和偏置
是
计算梯度累积动量
利用梯度的一阶据估计和二阶据估计动态调整每个参数的学习率
计算输出与期望值的误差
神经网络结构、权重、偏置初始化
计算网络输出
Mumentum
Adam
SGD
计算此批数据的梯度
0 条评论
下一页