深度学习史上最详细的卷积循环神经网络ppt.pptx
- 文档编号:1211979
- 上传时间:2022-10-19
- 格式:PPTX
- 页数:19
- 大小:4.63MB
深度学习史上最详细的卷积循环神经网络ppt.pptx
《深度学习史上最详细的卷积循环神经网络ppt.pptx》由会员分享,可在线阅读,更多相关《深度学习史上最详细的卷积循环神经网络ppt.pptx(19页珍藏版)》请在冰豆网上搜索。
卷积神经网络,讲解人:
导师:
深度学习二,内容,卷积神经网络(CNN)介绍LeNet5模型的介绍分析LeNet5模型相关代码LeNet5模型的训练代码实验结果,卷积神经网络的层级结构,数据输入层/Inputlayer卷积计算层/CONVlayerReLU激励层/ReLUlayer池化层/Poolinglayer全连接层/FClayer,数据输入层,该层要做的处理主要是对原始图像数据进行预处理,其中包括:
去均值:
把输入数据各个维度都中心化为0归一化:
幅度归一化到同样的范围PCA/白化:
用PCA降维;白化是对数据各个特征轴上的幅度归一化,卷积神经网络(CNN)介绍,卷积神经网络(CNN)介绍,去均值与归一化效果图:
去相关与白化效果图:
卷积神经网络(CNN)介绍,卷积计算层,这一层就是卷积神经网络最重要的一个层次,也是“卷积神经网络”的名字来源。
在这个卷积层,有两个关键操作:
局部关联。
每个神经元看做一个滤波器(filter)窗口(receptivefield)滑动,filter对局部数据计算,卷积神经网络(CNN)介绍,卷积计算层,这个带有连接强弱的红色方框就叫做filter或kernel或featuredetector。
而filter的范围叫做filtersize,这里所展示的是2x2的filtersize。
卷积神经网络(CNN)介绍,卷积计算层,卷积神经网络(CNN)介绍,卷积计算层,卷积层的计算过程,卷积运算的特点:
通过卷积运算,可以使原信号特征增强,并且降低噪音,卷积层的计算过程,同一个图片,经过两个(红色、绿色)不同的filters扫描过后可得到不同特点的FeatureMaps。
每增加一个filter,就意味着你想让网络多抓取一个特征。
卷积神经网络(CNN)介绍,激励层,把卷积层输出结果做非线性映射,CNN采用的激励函数一般为ReLU(TheRectifiedLinearUnit/修正线性单元),它的特点是收敛快,求梯度简单,卷积神经网络(CNN)介绍,激励层,和前馈神经网络一样,经过线性组合和偏移后,会加入非线性增强模型的拟合能力。
将卷积所得的FeatureMap经过ReLU变换(elementwise)后所得到的output就如下图所展示,卷积神经网络(CNN)介绍,池化层,池化层夹在连续的卷积层中间,用于压缩数据和参数的量,减小过拟合。
简而言之,如果输入是图像的话,那么池化层的作用就是压缩图像。
池化层用的方法有Maxpooling和averagepooling,而实际用的较多的是Maxpooling,对于每个2*2的窗口选出最大的数作为输出矩阵的相应元素的值,比如输入矩阵第一个2*2窗口中最大的数是6,那么输出矩阵的第一个元素就是6,如此类推。
卷积神经网络(CNN)介绍,池化过程,卷积神经网络(CNN)介绍,池化过程,卷积神经网络(CNN)介绍,全连接层,两层之间所有神经元都有权重连接,通常全连接层在卷积神经网络尾部。
也就是跟传统的神经网络神经元的连接方式是一样的:
当抓取到足以用来识别图片的特征后,接下来的就是如何进行分类。
全连接层(也叫前馈层)就可以用来将最后的输出映射到线性可分的空间。
通常卷积网络的最后会将末端得到的长方体平摊(flatten)成一个长长的向量,并送入全连接层配合输出层进行分类。
卷积神经网络(CNN)介绍,谢谢观看!
End,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 深度 学习 史上最 详细 卷积 循环 神经网络 ppt