
人工智能技术基础
卷积神经网络第三章
卷积神经网络(ConvolutionalNeuralNetworks,CNN)是一类包含卷积计算且具有深层结构的前馈神经网络。卷积神经网络的研究始于20世纪80~90年代,LeNet-5是最早出现的卷积神经网络;2012年,AlexKrizhevsky等凭借AlexNet得了当年的视觉图像挑战赛,震惊世界。自此之后,各类采用卷积神经网络的算法纷纷成为大规模视觉识别竞赛的优胜算法。如今,卷积神经网络已经成为计算机视觉领域最具有影响力的技术手段。3卷积神经网络简介
1.了解图像基本特点,并掌握卷积神经网络的基本特性;2.掌握卷积神经网络的基本组成,卷积层、池化层和全连接层的特性;3.学习常用的几种卷积操作、池化操作以及全连接层的卷积操作,掌握卷积层步长的选择和padding的选择会实现图像语义分割中常用的反卷积和空洞卷积;4.了解几种经典的卷积神经网络模型LeNet5、AlexNet、VGG、GoogleNet、ResNet、DenseNet和SE-Net。学习目标3卷积神经网络
目录Contents3.1卷积神经网络的特性卷积神经网络结构与训练卷积神经网络经典模型介绍本章小结3.23.33.4
01卷积神经网络特性
3.1卷积神经网络特性卷积神经网络具有的局部连接、权值共享和不变性与图像的局部性、相同性和不变性相一致,特别适合处理与图像相关的任务,因此在计算机视觉领域发挥了重要作用。特征定义局部性当需要从一张图片中获取某一特征时,该特征通常不是由整张图片决定的,而是仅由图片中的一些局部区域来决定。相同性对于不同的图片,如果它们具有相同特征,即使这些特征位于不同的位置,但是检测所做的操作是一样的。不变性对于一张图片在进行下采样后,图片的性质基本上是保持不变的,改变的仅仅是图片的尺寸。
3.1卷积神经网络特性全连接神经网络中的每个神经元都与它前一层中的所有神经元相连,如果将图像的每一个像素看作一个神经元,使用全连接网络完成与图像相关的任务,无疑对计算机的存储和运算速度有着很高的要求,而且图像越大,要求越高。并且对于图像来说,每个像素和其周围像素的联系是相对比较紧密的,而和离得很远的像素的联系可能就比较小了。如果一个神经元和上一层所有的神经元相连,那么就相当于对于一个像素来说,把图像的所有像素都同等看待了,缺少了位置信息。而卷积神经网络采用局部连接的方法,每个神经元不再和上一层的所有神经元相连,而只和一小部分神经元相连,这样就减少了很多的参数,加快了学习速度。3.1.1局部连接局部连接全连接
3.1卷积神经网络特性一般神经网络层与层之间的连接是,每个神经元与上一层的全部神经元相连,这些连接权重独立于其他的神经元,所以假设上一层是m个神经元,当前层是n个神经元,那么共有m×n个连接,也就有m×n个权重。权重矩阵就是m×n形状。而在卷积神经网络中,给一张输入图片,通常的做法是用一个卷积核(类似于图像处理中的滤波器,实质为针对一个小区域的一组连接权重)去扫描这张图,卷积核里面的数实质就是神经网络中不同层神经元之间的连接权。权值共享意味着每一个卷积核在遍历整个图像的时候,卷积核的参数(连接权值)是固定不变的,比如有3个卷积核,每个卷积核都会扫描整个图像,在扫描的过程中,卷积核的参数值是固定不变的,即整个图像的所有元素都“共享”了相同的权值。3.1.2权值共享
3.1卷积神经网络特性卷积神经网络中有一种重要的操作:池化操作(通常采用取最大值操作),它将前一层的一个小区域中所有像素值变成了下一层中的一个像素值。这就意味着即使图像经历了一个小的平移或旋转之后,依然会产生相同的特征,这使卷积神经网络对微小的平移和旋转具有不变性。在很多任务中,例如物体检测、语音识别等,我们都更希望得到具有平移和旋转不变性的特征,希望即使图像经过了平移和旋转,图像的标记仍然保持不变。3.1.3不变性
02卷积神经网络结构与训练
3.2卷积神经网络结构与训练卷积神经网络由卷积层、池化层和全连接层组成,其训练采用误差反向传播(BP)算法。
3.2卷积神经网络结构与训练?3.2.1卷积层图像的像素矩阵
1Texthere卷积核填充在卷积操作过程中,如果不对要进行卷积的图像(隐层的图像称特征图)预先作填充处理,卷积后的图像会变小,卷积层越多,卷积后的特征图会越小。而且输入特征图四个角的边缘像素只被计算一次,而中间像素则被卷积计算多次,意味着丢失图像角落信息。此外,实际应用中有时希望输入和输出在空间上尺寸是一致的。因此,为了解决上述问题,就对输入特征图进行边界填充,即填充像素。常用的边界填充方法包括:零填充、边界复制、镜像
免费下载链接
飞猫云链接地址:https://jmj.cc/s/isy2q2
压缩包解压密码:res.99hah.com_JAWoeIUv7G
下载方法:如果您不是飞猫云会员,请在下载页面滚动到最下方,点击“非会员下载”,网页跳转后再次滚动到最下方,点击“非会员下载”。
解压软件:Bandizip
- 打开飞猫云链接地址的页面,拖动到最下方,找到“非会员下载”的按钮并点击
- 此时,如果没登录,可能会提醒您注册帐号,随便注册一个帐号并登录
- 再在新打开的下载页面,再次拖动到最下方,找到“网页端 非会员下载”的按钮并点击。
版权声明:本文为转载文章,版权归原作者所有,转载请保留出处!