对于刚开始学习深度学习的同学来说,可能会遇到一个困难就是基础知识太琐碎,很难有一个深度学习教程,简单明了介绍哪些内容需要重点掌握,哪些内容可以略看
学习深度学习需要去学什么数学基础知识?其实可以直接看深度学习基础知识就行了,不用专门去学数学原理
深度学习基础内容不多,而且对于每个人来说,基础内容到底是什么也很难定义
这一期主要是给大家来介绍深度学习常见基础知识,内容不多,看一遍就能记住,大概耗时2-3h
下面具体来介绍一下:
章中所有的数据和资料,可添加小助手无偿分享~
扫码添加小助手即可无偿获取~

也可以关注“AI技术星球”公众号,关注后回复“221C”获取。
也可以直接WX扫一扫直达(领取资料)

第一节:反向传播与梯度下降
这一部分首先介绍神经网络的前向传播与反向传播的过程,了解这个传播的过程对于模型的训练会有更深的认识,然后介绍梯度下降算法,涉及到模型参数在训练过程中参数如何更新,不仅是深度学习模型,还有机器学习模型也是类似的


第二节:参数初始化
神经网络模型一般是依靠随机梯度下降优化算法进行神经网络参数更新的,而神经网络参数学习是非凸问题,利用梯度下降算法优化参数时,网络权重参数的初始值选取十分关键,模型权重参数服从高斯分布或均匀分布都是较为有效的初始化方式

第三节:损失函数
损失函数用于定义单个训练样本预测值与真实值之间的误差,代价函数用于定义单个批次/整个训练集样本预测值与真实值之间的累计误差,目标函数泛指任意可以被优化的函数,损失函数分为回归损失和分类损失


第四节:优化算法
所谓深度神经网络的优化算法,即用来更新神经网络参数,并使损失函数最小化的算法。优化算法对于深度学习非常重要,如果说网络参数初始化(模型迭代的初始点)能够决定模型是否收敛,那优化算法的性能则直接影响模型的训练效率

第五节:深度学习基础总结
这部分的内容总结非常全面,从卷积核,卷积层开始,到张量介绍,交叉熵损失函数,感受野的概念,过拟合和欠拟合如何处理,归一化,正则化,dropout技巧,激活函数的类型,数据增强,Focal Loss等

学完上面的内容对于深度学习参数如何更新,以及如何选取合适的损失函数会有更多的认识,可以结合动手学深度学习中的内容来进一步巩固


1581

被折叠的 条评论
为什么被折叠?



