你用什么方法调试深度神经网络?这里有四种简单的方式哦
Four Experiments in Handwriting with a Neural Network
- 预测合成输出
- 可视化激活值
- 梯度分析
- 分析模型预测
建立神经网络:
- 输出层不需要激活函数
- tf.train.saver必须在cpu上定义
- tf.get_variable用来共享变量,tf.name_scope和tf.variable_scope
- variable_device查看变量定义位置
- tensorflow中导入相同模型,每次传入图片的输出预测值不一样(预测值差很多):https://blog.csdn.net/joesgod/article/details/89047848 当访问有默认值的变量时,新变量名和旧变量名不能相同
调试神经网络:
- 深度学习调参有哪些技巧? 学习率、动量、批量大小、权重衰减
- 半天2k赞火爆推特!李飞飞高徒发布33条神经网络训练秘技
- 如何判断是否发生梯度消失?