CVPR是计算机视觉和模式识别领域的一个国际顶级学术会议
拓展：CVPR始于1983年，已经成功举办了近40届，是计算机科学领域中的顶级会议之一，也是图像处理、机器学习、人工智能等多个领域的交叉学科会议。每年的CVPR会议都会有大量的论文投稿和学术交流活动
其中涵盖了包括图像处理、计算机视觉、模式识别、机器学习、深度学习、人工智能等多个研究方向，是该领域最具有影响力和代表性的学术会议之一。此外，CVPR会议也会邀请来自学术、产业和政府等不同领域的专家和学者进行主题演讲和研讨，共同探讨计算机视觉和模式识别领域的最新技术和前沿研究
cvpr三个weak accept，总分6分能中。
CVPR是IEEE Conference on Computer Vision and Pattern Recognition的缩写，即IEEE国际计算机视觉与模式识别会议。该会议是由IEEE举办的计算机视觉和模式识别领域的顶级会议。
cvpr录用标准相当严格，通常会议整体的录取率不超过25%，而口头报告的论文比例更只占5%不到。其会议的组织方是一个循环的志愿群体，其成员遴选一般会在某次会议召开的三年前进行。
cvpr的审稿过程中会议的审稿方与投稿方均不知道对方的信息。而且一篇论文经常需要由三位审稿者进行审读。最后再由会议的领域主席决定是否接收。所以在各类学术会议统计中，cvpr也被认为有着很强的影响力和很高的排名。
cvpr的审稿过程中会议的审稿方与投稿方均不知道对方的信息。而且一篇论文经常需要由三位审稿者进行审读。最后再由会议的领域主席决定是否接收。所以在各类学术会议统计中，cvpr也被认为有着很强的影响力和很高的排名。
cvpr的评分等级：
1、CVPR是计算机视觉领域最高级别的会议（CCFA类会议），收录的论文代表了计算机视觉领域的最新发展方向和最高研究水平。
2、cvpr录用标准相当严格，通常会议整体的录取率不超过25%，而口头报告的论文比例更只占5%不到。其会议的组织方是一个循环的志愿群体，其成员遴选一般会在某次会议召开的三年前进行。cvpr的审稿过程中会议的审稿方与投稿方均不知道对方的信息。
3、而且一篇论文经常需要由三位审稿者进行审读。最后再由会议的领域主席决定是否接收。所以在各类学术会议统计中，cvpr也被认为有着很强的影响力和很高的排名。
论文:A Dual Weighting Label Assignment Scheme for Object Detection
[图片上传失败...(image-26dcc3-1650423723225)]
Anchor作为目标检测器训练的基础单元，需要被赋予正确的分类标签和回归标签，这样的标签指定(LA, label assignment)过程也可认为是损失权重指定过程。对于单个anchor的cls损失计算，可以统一地表示为：
[图片上传失败...(image-2e24aa-1650423723225)]
和 为正向权重和反向权重，用于控制训练的方向。基于这个设计，可以将LA方法分为两个大类：
[图片上传失败...(image-372b16-1650423723225)]
为了给检测器提供更多的监督信息，论文提出了新的LA方法DW(dual weighting)，从不同的角度单独计算 和 并让其能够互补。此外，为了给权重计算函数提供更准确的reg分数，论文还提出了新的bbox精调操作，预测目标的边界位置并根据对应的特征产生更准确的精调信息。
由于NMS的存在，检测器应该预测一致的bbox，既有高分类分数也有准确的位置定位。但如果在训练时平等地对待所有的训练样本，而cls分数越高的预测结果的reg位置不一定越准确，这往往会导致cls head与reg head之间就会存在不一致性。为此，Soft LA通过加权损失来更柔和地对待训练样本，加强cls head与reg head的一致性。基于Soft LA，anchor的损失可以表示为：
[图片上传失败...(image-51f384-1650423723225)]
其中 为预测的cls分数。为一致性更高的预测结果分配更大的 和 ，能够使得网络专注于学习高质量的预测结果，减轻cls head与reg head的不一致问题。
[图片上传失败...(image-98093b-1650423723225)]
当前的方法直接将 设置为 ，主要关注如何定义一致性以及如何将其集成到损失权重中。表1总结了一些方法对 和 的计算公式，这些方法先定义用于度量一致性的指标 ，随后将 作为不一致性的度量指标，最后添加缩放因子将指标集成到损失权重中。 上述方法的 和 都是高度相关的，而论文认为pos和neg权重应该以prediction-aware的方式单独设置，具体如下：
通过上述定义， 对于pos权重相似的这种模棱两可的anchor，就可以根据不同的neg权重得到更细粒度的监督信息 。
[图片上传失败...(image-535eff-1650423723225)]
DW方法的整体流程如图2所示，先根据中心点距离来为每个GT构造候选正样本集，其余的anchor为候选负样本。由于负样本的统计信息十分混乱，所以不参与权重函数的计算。候选正样本会被赋予三个权重 、 以及 ，用于更有效地监督训练。
pos权重需要反映预测结果对检测性能的重要性，论文从目标检测的验证指标来分析影响重要性的因素。在测试时，通常会根据cls分数或cls分数与IoU的结合对单分类的预测结果进行排序，从前往后依次判断。正确的预测需满足以下两点：
上述条件可认为是选择高ranking分数以及高IoU的预测结果，也意味着满足这两个条件的预测结果有更大概率在测试阶段被选择。从这个角度来看，pos权重 就应该与IoU和ranking分数正相关。首先定义一致性指标 ，用于度量两个条件的对齐程度：
[图片上传失败...(image-aac9d-1650423723225)]
为了让不同anchor的pos权重的方差更大，添加指数调节因子：
[图片上传失败...(image-3a2156-1650423723225)]
最终，各anchor的pos权重会根据对应GT的候选anchor的pos权重之和进行归一化。
pos权重虽然可以使得一致的anchor同时具有高cls分数和高IoU，但无法区分不一致anchor的重要程度。如前面图1所示，anchor D定位校准但分类分数较低，而anchor B恰好相反。两者的一致性程度 一致，pos权重无法区分差异。为了给检测器提供更多的监督信息，准确地体现anchor的重要程度，论文提出为两者赋予更清晰的neg权重，具体由以下两部分构成。
根据COCO的验证指标，IoU不满足阈值的预测结果一律归为错误的检测。所以，IoU是决定achor为负样本的概率的唯一因素，记为 。由于COCO使用0.5-0.95的IoU阈值来计算AO，所以 应该满足以下规则：
[图片上传失败...(image-639b1e-1650423723225)]
任意 上单调递减的函数都可以作为 中间部分。为了简便，论文采用了以下函数：
[图片上传失败...(image-fa54fb-1650423723225)]
公式6需要穿过点 和 ，一旦 确定了，参数 和 可通过待定系数法确定。
[图片上传失败...(image-83052a-1650423723225)]
图3展示了不同 下的 曲线。
在推理时，ranking队列中靠前的neg预测结果虽然不会影响召回率，但会降低准确率。为了得到更高的性能，应该尽可能地降低neg预测结果的ranking分数。所以在训练中，ranking分数较高的neg预测结果应该比ranking分数较低的预测结果更为重要。基于此，定义neg预测结果的重要程度 为ranking分数的函数：
[图片上传失败...(image-1f95aa-1650423723225)]
最终，整体的neg权重 变为：
[图片上传失败...(image-851912-1650423723225)]
与 负相关，与 正相关。对于pos权重相同的anchor，IoU更小的会有更大的neg权重。在兼容验证指标的同时， 能给予检测器更多的监督信息。
pos权重和neg权重都以IoU作为输入，更准确的IoU可以保证更高质量的训练样本，有助于学习更强的特征。为此，论文提出了新的box精调操作，基于预测的四条边的偏移值 进行下一步的精调。
[图片上传失败...(image-98246a-1650423723225)]
考虑到目标边界上的点有更大的概率预测准确的位置，论文设计了可学习的预测模块，基于初步的bbox为每条边生成边界点。如图4所示，四个边界点的坐标定义为：
[图片上传失败...(image-a8361b-1650423723225)]
其中， 为精调模块的输出。最后，结合边界点的预测和精调模块的输出，最终精调后的anchor偏移 为：
[图片上传失败...(image-935c8b-1650423723225)]
DW策略可直接应用到大多数的dense检测器中。论文将DW应用到FCOS中并进行了少量修改，将centerness分支和分类分支合并成cls分数，网络的损失为：
[图片上传失败...(image-5d0fc-1650423723225)]
[图片上传失败...(image-1a38af-1650423723225)]
这里的 跟公式3是同一个， 和 分别为候选anchor数和非候选anchor数。
[图片上传失败...(image-20568e-1650423723225)]
平衡超参数对性能的影响。
[图片上传失败...(image-14e2fa-1650423723225)]
候选anchor选择方法对性能的影响。第一种为中心点的距离阈值，第二种选择最近的几个，第三种为距离权重与pos权重乘积排序。
[图片上传失败...(image-74467a-1650423723225)]
neg权重计算方式对比。
[图片上传失败...(image-8baa09-1650423723225)]
LA研究之间的对比。
[图片上传失败...(image-9d2740-1650423723225)]
与SOTA检测算法对比。
论文提出自适应的label assignment方法DW，打破了以往耦合加权的惯例。根据不同角度的一致性和非一致性指标，动态地为anchor分配独立的pos权重和neg权重，可以更全面地监督训练。此外，论文还提出了新的预测框精调操作，在回归特征图上直接精调预测框。
论文: EfficientDet: Scalable and Efficient Object Detection
目前目标检测领域，高精度的模型通常需要很大的参数量和计算量，而轻量级的网络则一般都会牺牲精度。因此，论文希望建立一个可伸缩的高精度且高性能的检测框架。论文基于one-stage的检测网络范式，进行了多种主干网络、特征融合和class/box预测的结构尝试，主要面临两个挑战:
FPN是目前最广泛的多尺度融合方法，最近也有PANet和NAS-FPN一类跨尺度特征融合方法。对于融合不同的特征，最初的方法都只是简单地直接相加，然而由于不同的特征是不同的分辨率，对融合输出特征的共享应该是不相等的。为了解决这一问题，论文提出简单但高效加权的bi-directional feature pyramid network(BiFPN)，该方法使用可学习的权重来学习不同特征的重要性，同时反复地进行top-down和bottom-up的多尺度融合
论文认为除了缩放主干网络和输入图片的分辨率，特征网络(feature network)和box/class预测网络的缩放对准确率和性能也是很重要的。作者借鉴EfficientNet，提出针对检测网络的混合缩放方法(compound scaling method)，同时对主干网络，特征网络和box/class预测网络的分辨率/深度/宽度进行缩放
最后，论文将EfficientNet作为主干，结合BiFPN和混合缩放，提出新的检测系列EfficientDet，精度高且轻量，COCO上的结果如图1，论文的贡献有以下3点：
定义多尺寸特征 ，论文的目标是找到变化函数 来高效融合不同的特征，输出新特征 。具体地，图2a展示了top-down FPN网络结构，一般FPN只有一层，这里应该为了对比写了repeat形式。FPN获取3-7层的输入 ， 代表一个分辨率为 的特征层
top-down FPN操作如上所示， 为上采用或下采样来对齐分辨率， 通常是特征处理的卷积操作
top-down FPN受限于单向的信息流，为了解决这一问题，PANet(图2b)增加了额外的bottom-up路径的融合网络，NAS_FPN(图2c)使用神经架构搜索来获取更好的跨尺度特征网络的拓扑结构，但需要大量资源进行搜索。其中准确率最高的是PANet，但是其需要太多的参数和计算量，为了提高性能，论文对跨尺寸连接做了几点改进：
大多的特征融合方法都将输入特征平等对待，而论文观察到不同分辨率的输入对融合输出的特征的贡献应该是不同的。为了解决这一问题，论文提出在融合时对输入特征添加额外的权重预测，主要有以下方法：
， 是可学习的权重，可以是标量(per-feature)，也可以是向量(per-channel)，或者是多维tensor(per-pixel)。论文发现标量形式已经足够提高准确率，且不增加计算量，但是由于标量是无限制的，容易造成训练不稳定，因此，要对其进行归一化限制
，利用softmax来归一化所有的权重，但softmax操作会导致GPU性能的下降，后面会详细说明
，Relu保证 ， 保证数值稳定。这样，归一化的权重也落在 ，由于没有softmax操作，效率更高，大约加速30%
BiFPN集合了双向跨尺寸的连接和快速归一化融合，level 6的融合操作如上， 为top-down路径的中间特征， 是bottom-up路径的输出特征，其它层的特征也是类似的构造方法。为了进一步提高效率，论文特征融合时采用depthwise spearable convolution，并在每个卷积后面添加batch normalization和activation
EfficientDet的结构如图3所示，基于one-stage检测器的范式，将ImageNet-pretrained的EfficientNet作为主干，BiFPN将主干的3-7层特征作为输入，然后重复进行top-down和bottom-up的双向特征融合，所有层共享class和box网络
之前检测算法的缩放都是针对单一维度的，从EfficientNet得到启发，论文提出检测网络的新混合缩放方法，该方法使用混合因子 来同时缩放主干网络的宽度和深度、BiFPN网络、class/box网络和分辨率。由于缩放的维度过多，EfficientNet使用的网格搜索效率太慢，论文改用heuristic-based的缩放方法来同时缩放网络的所有维度
EfficientDet重复使用EfficientNet的宽度和深度因子，EfficinetNet-B0至EfficientNet-B6
论文以指数形式来缩放BiFPN宽度 (#channels)，而以线性形式增加深度 (#layers)，因为深度需要限制在较小的数字
box/class预测网络的宽度固定与BiFPN的宽度一致，而用公式2线性增加深度(#layers)
因为BiFPN使用3-7层的特征，因此输入图片的分辨率必需能被 整除，所以使用公式3线性增加分辨率
结合公式1-3和不同的 ，论文提出EfficientDet-D0到EfficientDet-D6，具体参数如Table 1，EfficientDet-D7没有使用 ，而是在D6的基础上增大输入分辨率
模型训练使用momentum=0.9和weight decay=4e-5的SGD优化器，在初始的5%warm up阶段，学习率线性从0增加到0.008，之后使用余弦衰减规律(cosine decay rule)下降，每个卷积后面都添加Batch normalization，batch norm decay=0.997，epsilon=1e-4，梯度使用指数滑动平均，decay=0.9998，采用 和 的focal loss，bbox的长宽比为 ，32块GPU，batch size=128，D0-D4采用RetinaNet的预处理方法，D5-D7采用NAS-FPN的增强方法
Table 2展示了EfficientDet与其它算法的对比结果，EfficientDet准确率更高且性能更好。在低准确率区域，Efficient-D0跟YOLOv3的相同准确率但是只用了1/28的计算量。而与RetianaNet和Mask-RCNN对比，相同的准确率只使用了1/8参数和1/25的计算量。在高准确率区域，EfficientDet-D7达到了51.0mAP，比NAS-FPN少使用4x参数量和9.3x计算量，而anchor也仅使用3x3，非9x9
论文在实际的机器上对模型的推理速度进行了对比，结果如图4所示，EfficientDet在GPU和CPU上分别有3.2x和8.1x加速
论文对主干网络和BiFPN的具体贡献进行了实验对比，结果表明主干网络和BiFPN都是很重要的。这里要注意的是，第一个模型应该是RetinaNet-R50(640)，第二和第三个模型应该是896输入，所以准确率的提升有一部分是这个原因。另外使用BiFPN后模型精简了很多，主要得益于channel的降低，FPN的channel都是256和512的，而BiFPN只使用160维，这里应该没有repeat
Table 4展示了Figure 2中同一网络使用不同跨尺寸连接的准确率和复杂度，BiFPN在准确率和复杂度上都是相当不错的
Table 5展示了不同model size下两种加权方法的对比，在精度损失不大的情况下，论文提出的fast normalized fusion能提升26%-31%的速度
figure 5展示了两种方法在训练时的权重变化过程，fast normalizaed fusion的变化过程与softmax方法十分相似。另外，可以看到权重的变化十分快速，这证明不同的特征的确贡献是不同的，
论文对比了混合缩放方法与其它方法，尽管开始的时候相差不多，但是随着模型的增大，混合精度的作用越来越明显
论文提出BiFPN这一轻量级的跨尺寸FPN以及定制的检测版混合缩放方法，基于这些优化，推出了EfficientDet系列算法，既保持高精度也保持了高性能，EfficientDet-D7达到了SOTA。整体而言，论文的idea基于之前的EfficientNet，创新点可能没有之前那么惊艳，但是从实验来看，论文推出的新检测框架十分实用，期待作者的开源
论文名称：Rich feature hierarchies for accurate object detection and semantic segmentation 提出时间：2014年 论文地址： 针对问题： 从Alexnet提出后，作者等人思考如何利用卷积网络来完成检测任务，即输入一张图，实现图上目标的定位（目标在哪）和分类（目标是什么）两个目标，并最终完成了RCNN网络模型。 创新点： RCNN提出时，检测网络的执行思路还是脱胎于分类网络。也就是深度学习部分仅完成输入图像块的分类工作。那么对检测任务来说如何完成目标的定位呢，作者采用的是Selective Search候选区域提取算法，来获得当前输入图上可能包含目标的不同图像块，再将图像块裁剪到固定的尺寸输入CNN网络来进行当前图像块类别的判断。 参考博客： 。 论文题目：OverFeat: Integrated Recognition, Localization and Detection using Convolutional Networks 提出时间：2014年 论文地址： 针对问题： 该论文讨论了，CNN提取到的特征能够同时用于定位和分类两个任务。也就是在CNN提取到特征以后，在网络后端组织两组卷积或全连接层，一组用于实现定位，输出当前图像上目标的最小外接矩形框坐标，一组用于分类，输出当前图像上目标的类别信息。也是以此为起点，检测网络出现基础主干网络(backbone)+分类头或回归头（定位头）的网络设计模式雏形。 创新点： 在这篇论文中还有两个比较有意思的点，一是作者认为全连接层其实质实现的操作和1x1的卷积是类似的，而且用1x1的卷积核还可以避免FC对输入特征尺寸的限制，那用1x1卷积来替换FC层，是否可行呢？作者在测试时通过将全连接层替换为1x1卷积核证明是可行的；二是提出了offset max-pooling，也就是对池化层输入特征不能整除的情况，通过进行滑动池化并将不同的池化层传递给后续网络层来提高效果。另外作者在论文里提到他的用法是先基于主干网络+分类头训练，然后切换分类头为回归头，再训练回归头的参数，最终完成整个网络的训练。图像的输入作者采用的是直接在输入图上利用卷积核划窗。然后在指定的每个网络层上回归目标的尺度和空间位置。 参考博客： 论文题目：Scalable Object Detection using Deep Neural Networks 提出时间：2014年 论文地址： 针对问题： 既然CNN网络提取的特征可以直接用于检测任务（定位+分类），作者就尝试将目标框（可能包含目标的最小外包矩形框）提取任务放到CNN中进行。也就是直接通过网络完成输入图像上目标的定位工作。 创新点： 本文作者通过将物体检测问题定义为输出多个bounding box的回归问题. 同时每个bounding box会输出关于是否包含目标物体的置信度, 使得模型更加紧凑和高效。先通过聚类获得图像中可能有目标的位置聚类中心，（800个anchor box）然后学习预测不考虑目标类别的二分类网络，背景or前景。用到了多尺度下的检测。 参考博客： 论文题目：DeepBox: Learning Objectness with Convolutional Networks 提出时间：2015年ICCV 论文地址： 主要针对的问题： 本文完成的工作与第三篇类似，都是对目标框提取算法的优化方案，区别是本文首先采用自底而上的方案来提取图像上的疑似目标框，然后再利用CNN网络提取特征对目标框进行是否为前景区域的排序；而第三篇为直接利用CNN网络来回归图像上可能的目标位置。创新点： 本文作者想通过CNN学习输入图像的特征，从而实现对输入网络目标框是否为真实目标的情况进行计算，量化每个输入框的包含目标的可能性值。 参考博客： 论文题目：AttentionNet: AggregatingWeak Directions for Accurate Object Detection 提出时间：2015年ICCV 论文地址： 主要针对的问题： 对检测网络的实现方案进行思考，之前的执行策略是，先确定输入图像中可能包含目标位置的矩形框，再对每个矩形框进行分类和回归从而确定目标的准确位置，参考RCNN。那么能否直接利用回归的思路从图像的四个角点，逐渐得到目标的最小外接矩形框和类别呢？ 创新点： 通过从图像的四个角点，逐步迭代的方式，每次计算一个缩小的方向，并缩小指定的距离来使得逐渐逼近目标。作者还提出了针对多目标情况的处理方式。 参考博客： 论文题目：Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition 提出时间：2014年 论文地址： 针对问题： 如RCNN会将输入的目标图像块处理到同一尺寸再输入进CNN网络，在处理过程中就造成了图像块信息的损失。在实际的场景中，输入网络的目标尺寸很难统一，而网络最后的全连接层又要求输入的特征信息为统一维度的向量。作者就尝试进行不同尺寸CNN网络提取到的特征维度进行统一。创新点： 作者提出的SPPnet中，通过使用特征金字塔池化来使得最后的卷积层输出结果可以统一到全连接层需要的尺寸，在训练的时候，池化的操作还是通过滑动窗口完成的，池化的核宽高及步长通过当前层的特征图的宽高计算得到。原论文中的特征金字塔池化操作图示如下。 参考博客 ： 论文题目：Object detection via a multi-region & semantic segmentation-aware CNN model 提出时间：2015年 论文地址： 针对问题： 既然第三篇论文multibox算法提出了可以用CNN来实现输入图像中待检测目标的定位，本文作者就尝试增加一些训练时的方法技巧来提高CNN网络最终的定位精度。创新点： 作者通过对输入网络的region进行一定的处理（通过数据增强，使得网络利用目标周围的上下文信息得到更精准的目标框）来增加网络对目标回归框的精度。具体的处理方式包括：扩大输入目标的标签包围框、取输入目标的标签中包围框的一部分等并对不同区域分别回归位置，使得网络对目标的边界更加敏感。这种操作丰富了输入目标的多样性，从而提高了回归框的精度。 参考博客 ： 论文题目：Fast-RCNN 提出时间：2015年 论文地址： 针对问题： RCNN中的CNN每输入一个图像块就要执行一次前向计算，这显然是非常耗时的，那么如何优化这部分呢？ 创新点： 作者参考了SPPNet（第六篇论文），在网络中实现了ROIpooling来使得输入的图像块不用裁剪到统一尺寸，从而避免了输入的信息丢失。其次是将整张图输入网络得到特征图，再将原图上用Selective Search算法得到的目标框映射到特征图上，避免了特征的重复提取。 参考博客 ： 论文题目：DeepProposal: Hunting Objects by Cascading Deep Convolutional Layers 提出时间：2015年 论文地址： 主要针对的问题： 本文的作者观察到CNN可以提取到很棒的对输入图像进行表征的论文，作者尝试通过实验来对CNN网络不同层所产生的特征的作用和情况进行讨论和解析。 创新点： 作者在不同的激活层上以滑动窗口的方式生成了假设，并表明最终的卷积层可以以较高的查全率找到感兴趣的对象，但是由于特征图的粗糙性，定位性很差。相反，网络的第一层可以更好地定位感兴趣的对象，但召回率降低。 论文题目：Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks 提出时间：2015年NIPS 论文地址： 主要针对的问题： 由multibox（第三篇）和DeepBox（第四篇）等论文，我们知道，用CNN可以生成目标待检测框，并判定当前框为目标的概率，那能否将该模型整合到目标检测的模型中，从而实现真正输入端为图像，输出为最终检测结果的，全部依赖CNN完成的检测系统呢？ 创新点： 将当前输入图目标框提取整合到了检测网络中，依赖一个小的目标框提取网络RPN来替代Selective Search算法，从而实现真正的端到端检测算法。 参考博客 ：
论文: EfficientDet: Scalable and Efficient Object Detection
目前目标检测领域，高精度的模型通常需要很大的参数量和计算量，而轻量级的网络则一般都会牺牲精度。因此，论文希望建立一个可伸缩的高精度且高性能的检测框架。论文基于one-stage的检测网络范式，进行了多种主干网络、特征融合和class/box预测的结构尝试，主要面临两个挑战:
FPN是目前最广泛的多尺度融合方法，最近也有PANet和NAS-FPN一类跨尺度特征融合方法。对于融合不同的特征，最初的方法都只是简单地直接相加，然而由于不同的特征是不同的分辨率，对融合输出特征的共享应该是不相等的。为了解决这一问题，论文提出简单但高效加权的bi-directional feature pyramid network(BiFPN)，该方法使用可学习的权重来学习不同特征的重要性，同时反复地进行top-down和bottom-up的多尺度融合
论文认为除了缩放主干网络和输入图片的分辨率，特征网络(feature network)和box/class预测网络的缩放对准确率和性能也是很重要的。作者借鉴EfficientNet，提出针对检测网络的混合缩放方法(compound scaling method)，同时对主干网络，特征网络和box/class预测网络的分辨率/深度/宽度进行缩放
最后，论文将EfficientNet作为主干，结合BiFPN和混合缩放，提出新的检测系列EfficientDet，精度高且轻量，COCO上的结果如图1，论文的贡献有以下3点：
定义多尺寸特征 ，论文的目标是找到变化函数 来高效融合不同的特征，输出新特征 。具体地，图2a展示了top-down FPN网络结构，一般FPN只有一层，这里应该为了对比写了repeat形式。FPN获取3-7层的输入 ， 代表一个分辨率为 的特征层
top-down FPN操作如上所示， 为上采用或下采样来对齐分辨率， 通常是特征处理的卷积操作
top-down FPN受限于单向的信息流，为了解决这一问题，PANet(图2b)增加了额外的bottom-up路径的融合网络，NAS_FPN(图2c)使用神经架构搜索来获取更好的跨尺度特征网络的拓扑结构，但需要大量资源进行搜索。其中准确率最高的是PANet，但是其需要太多的参数和计算量，为了提高性能，论文对跨尺寸连接做了几点改进：
大多的特征融合方法都将输入特征平等对待，而论文观察到不同分辨率的输入对融合输出的特征的贡献应该是不同的。为了解决这一问题，论文提出在融合时对输入特征添加额外的权重预测，主要有以下方法：
， 是可学习的权重，可以是标量(per-feature)，也可以是向量(per-channel)，或者是多维tensor(per-pixel)。论文发现标量形式已经足够提高准确率，且不增加计算量，但是由于标量是无限制的，容易造成训练不稳定，因此，要对其进行归一化限制
，利用softmax来归一化所有的权重，但softmax操作会导致GPU性能的下降，后面会详细说明
，Relu保证 ， 保证数值稳定。这样，归一化的权重也落在 ，由于没有softmax操作，效率更高，大约加速30%
BiFPN集合了双向跨尺寸的连接和快速归一化融合，level 6的融合操作如上， 为top-down路径的中间特征， 是bottom-up路径的输出特征，其它层的特征也是类似的构造方法。为了进一步提高效率，论文特征融合时采用depthwise spearable convolution，并在每个卷积后面添加batch normalization和activation
EfficientDet的结构如图3所示，基于one-stage检测器的范式，将ImageNet-pretrained的EfficientNet作为主干，BiFPN将主干的3-7层特征作为输入，然后重复进行top-down和bottom-up的双向特征融合，所有层共享class和box网络
之前检测算法的缩放都是针对单一维度的，从EfficientNet得到启发，论文提出检测网络的新混合缩放方法，该方法使用混合因子 来同时缩放主干网络的宽度和深度、BiFPN网络、class/box网络和分辨率。由于缩放的维度过多，EfficientNet使用的网格搜索效率太慢，论文改用heuristic-based的缩放方法来同时缩放网络的所有维度
EfficientDet重复使用EfficientNet的宽度和深度因子，EfficinetNet-B0至EfficientNet-B6
论文以指数形式来缩放BiFPN宽度 (#channels)，而以线性形式增加深度 (#layers)，因为深度需要限制在较小的数字
box/class预测网络的宽度固定与BiFPN的宽度一致，而用公式2线性增加深度(#layers)
因为BiFPN使用3-7层的特征，因此输入图片的分辨率必需能被 整除，所以使用公式3线性增加分辨率
结合公式1-3和不同的 ，论文提出EfficientDet-D0到EfficientDet-D6，具体参数如Table 1，EfficientDet-D7没有使用 ，而是在D6的基础上增大输入分辨率
模型训练使用momentum=0.9和weight decay=4e-5的SGD优化器，在初始的5%warm up阶段，学习率线性从0增加到0.008，之后使用余弦衰减规律(cosine decay rule)下降，每个卷积后面都添加Batch normalization，batch norm decay=0.997，epsilon=1e-4，梯度使用指数滑动平均，decay=0.9998，采用 和 的focal loss，bbox的长宽比为 ，32块GPU，batch size=128，D0-D4采用RetinaNet的预处理方法，D5-D7采用NAS-FPN的增强方法
Table 2展示了EfficientDet与其它算法的对比结果，EfficientDet准确率更高且性能更好。在低准确率区域，Efficient-D0跟YOLOv3的相同准确率但是只用了1/28的计算量。而与RetianaNet和Mask-RCNN对比，相同的准确率只使用了1/8参数和1/25的计算量。在高准确率区域，EfficientDet-D7达到了51.0mAP，比NAS-FPN少使用4x参数量和9.3x计算量，而anchor也仅使用3x3，非9x9
论文在实际的机器上对模型的推理速度进行了对比，结果如图4所示，EfficientDet在GPU和CPU上分别有3.2x和8.1x加速
论文对主干网络和BiFPN的具体贡献进行了实验对比，结果表明主干网络和BiFPN都是很重要的。这里要注意的是，第一个模型应该是RetinaNet-R50(640)，第二和第三个模型应该是896输入，所以准确率的提升有一部分是这个原因。另外使用BiFPN后模型精简了很多，主要得益于channel的降低，FPN的channel都是256和512的，而BiFPN只使用160维，这里应该没有repeat
Table 4展示了Figure 2中同一网络使用不同跨尺寸连接的准确率和复杂度，BiFPN在准确率和复杂度上都是相当不错的
Table 5展示了不同model size下两种加权方法的对比，在精度损失不大的情况下，论文提出的fast normalized fusion能提升26%-31%的速度
figure 5展示了两种方法在训练时的权重变化过程，fast normalizaed fusion的变化过程与softmax方法十分相似。另外，可以看到权重的变化十分快速，这证明不同的特征的确贡献是不同的，
论文对比了混合缩放方法与其它方法，尽管开始的时候相差不多，但是随着模型的增大，混合精度的作用越来越明显
论文提出BiFPN这一轻量级的跨尺寸FPN以及定制的检测版混合缩放方法，基于这些优化，推出了EfficientDet系列算法，既保持高精度也保持了高性能，EfficientDet-D7达到了SOTA。整体而言，论文的idea基于之前的EfficientNet，创新点可能没有之前那么惊艳，但是从实验来看，论文推出的新检测框架十分实用，期待作者的开源
CVPR论文可以说是世界顶级水平论文。
图片来源于网络
CVPR是IEEE Conference on Computer Vision and Pattern Recognition的缩写，即IEEE国际计算机视觉与模式识别会议。该会议是由IEEE举办的计算机视觉和模式识别领域的顶级会议。这是一个一年一次的会议，举办地从来没有出过美国。正如它的名字一样，这个会上除了视觉的文章，还会有不少模式识别的文章，当然两方面的结合自然也是重点。
下面是前几年CVPR论文的接收情况：
图片来源于网络
cvpr录用标准相当严格，通常会议整体的录取率不超过25%，而口头报告的论文比例更只占5%不到。其会议的组织方是一个循环的志愿群体，其成员遴选一般会在某次会议召开的三年前进行。cvpr的审稿过程中会议的审稿方与投稿方均不知道对方的信息。而且一篇论文经常需要由三位审稿者进行审读。最后再由会议的领域主席决定是否接收。
在各种学术会议统计中，CVPR被认为有着很强的影响力和很高的排名。目前在中国计算机学会推荐国际学术会议的排名中，CVPR为人工智能领域的A类会议。
论文参考文献中的J代表期刊，是Journal的缩写；M代表专著，是Monograph的缩写；D代表学位论文，是Degree的缩写。
文献类型标识在写论文的时候很常见，为了大家能够更流畅地写好一篇好的论文和运用参考文献，我们一起来看看文献的类型标识有哪些吧。
目录：
一、文献类型标识介绍
二、常见的文献类型标识
三、文献类型标识的格式
一、文献类型标识介绍
文献类型标识是标示各种参考文献类型的符号。参考文献的著录应执行GB 7714-87《文后参考文献著录规则》及《中国学术期刊(光盘版)检索与评价数据规范》的规定，论文著者应用以下文献类型标示码，将自己引用的各种参考文献的类型及载体类型标示出来。根据GB 3469-83《文献类型与文献载体代码》规定，常用文献类型以单字母标识，电子文献以双字母标识。
二、常见的文献类型标识
1.常用文献类型用单字母标识，具体如下：
（1）期刊[J]（journal）
（2）专著[M]（monograph）
（3）论文集[C]（collected papers）
（4）学位论文[D]（dissertation）
（5）专利[P]（patent）
（6）技术标准[S]（standardization）
（7）报纸[N]（newspaper article）
（8）科技报告[R]（report）
（9）会议文献[C] （conference）
2.电子文献载体类型用双字母标识，具体如下：
（1）磁带[MT]（magnetic tape）
（2）磁盘[DK]（disk）
（3）光盘[CD]（CD-ROM）
（4）联机网络[OL]（online）
3.专著、论文集中的析出文献[A]；
其他未说明的文献类型[Z]。
三、文献类型标识的格式
1.期刊：著者．题名[J]．刊名，出版年，卷（期）∶起止页码
2.专著：著者．书名[M]．版本（第一版不录）．出版地∶出版者，出版年∶起止页码
3.论文集：著者．题名．编者．论文集名[C]．出版地∶出版者，出版年∶起止页码
4.学位论文：著者．题名[D]．保存地点．保存单位．年份
5.专利：题名[P]．国别．专利文献种类．专利号．出版日期
6.技术标准：编号．标准名称[S]
7.报纸：著者．题名[N]．报纸名．出版日期（版次）
8.科技报告：著者．题名[R]．保存地点．年份
9.电子文献：著者．题名[电子文献类型标识/载体类型标识]．文献出处（出版者或可获得网址），发表或更新日期/引用日期（任选）
10.专著、论文集中的析出文献：论文著者．论文题名[A]．论文集编者（任选）. 论文集题名[C]．出版地：出版者，出版年∶起止页码
11.其他未说明的文献类型：著者．题名[Z]．出版地∶出版者，出版年∶起止页码
外文文献引文及参考文献中的论文排序方式和中文文献基本相同；书名及刊名用斜体字，期刊文章题名用双引号；是否列出文献类型标识号及著作页码（论文必须列出首尾页码）可任选；出版年份一律列于句尾或页码之前（不用年份排序法）。外文文献一定要用外文原文表述（也可在原文题名之后的括号内附上中文译文），切忌仅用中文表达外文原义。
在写论文的时候，如果有引用，一定的正确标注文献来源，不标注就很可能会侵权，所以大家要对文献类型标识很熟悉，在写参考文献时格式也要正确，这样才能使一篇优秀的论文更加完美。
参考文献标准格式如下：
一、期刊类[J]
【格式】[序号]作者。篇名[J]。刊名，出版年份，卷号(期号)：起止页码。
【举例1】安心，熊芯，李月娥。70年来我国高等教育的发展历程与特点[J]。当代教育与文化，2020，12(06)：75-80。
【举例2】[2]许竞。我国学历教育分化的证书制度溯源[J]。南京师大学报(社会科学版)，2020(06)：22-29。
二、专著类[M]
【格式】[序号]作者。书名[M]。出版地：出版社，出版年份：起止页码。
【举例1】葛家澍，林志军。现代西方财务会计理论[M]。厦门：厦门大学出版社，2001：42。
三、报纸类[N]
【格式】[序号]作者。篇名[N]。报纸名，出版日期（版次）。
【举例1】[1]葛剑雄，陈鹏。地名、历史和文化[N]。光明日报，2015-09-24(011)。
四、论文集[C]
【格式】[序号]作者。篇名[C]。出版地：出版者，出版年份：起始页码。
【举例】伍蠡甫。西方文论选[C]。上海：上海译文出版社，1979：12-17。
五、学位论文[D]
【格式】[序号]作者。篇名[D]。出版地：保存者，出版年份：起始页码。
【举例】郝桂莲。反思的文学：苏珊·桑塔格小说艺术研究[D]。四川大学，2014。
六、研究报告[R]
【格式】[序号]作者。篇名[R]。出版地：出版者，出版年份：起始页码。
【举例】冯西桥。核反应堆压力管道与压力容器的LBB分析[R]。北京：清华大学核能技术设计研究院，1997：9-10。
七、其他[N]
【格式】[序号]颁布单位。条例名称。发布日期。
论文参考文献的正确格式如下：
1.参考文献需要顶格书写。开始换行的时候，第二行必须有空格，汉语必须要两个汉字空格。
2. 原则上，要有15条以上的参考文献。英语放在前面，中文放在后面。英语按姓氏的首字母顺序排列，中文用姓氏的音序排列。
3. 一级标题要加粗，其他的标题不要加粗。
4. 外文文献的第一个字母要大学，其他都是小写。
5. 如果引用超过4行以上，就需要另起一行。
6. 正文和正文的小标题之间不要留空行。段落之间也不要留空行。
写论文的注意事项：
1、注重论文的严谨性、严肃性，尽量不出现“我”这个词，建议用“本文”等词汇代替；同时要少使用感叹号，以陈述句为主要句式。
2、对论文的直接引用和间接引用的比例要合理控制，引用参考文献等内容时，要对该内容进行格式设置，避免在查重时出现文字复制比过高的情况。
3、论文全文结构要严谨、完整，目录、摘要、致谢等内容应按学校要求进行撰写，并按校方要求修改论文的格式。
4、论文所用标点符号要规范，逗号、句号、分号、冒号、引号等符号需要正确使用。
论文参考文献的格式论文的参考文献是论文写作过程中参考过的文献著作，是对某一著作或论文的整体的参考或借鉴。参考文献要放在论文正文之后，不得放在各章之后。参考文献只列出作者直接阅读过、在正文中被引用过的文献资料。参考文献的要求1．在正文写作完毕后，空两行（宋体小四号），居中书写“参考文献”四个字；“参考文献”使用宋体四号加粗,前后两个字之间不空格。“参考文献”书写完毕后空一行（宋体小四号）再书写参考文献的'具体内容。参考文献按照其在正文中出现的先后以阿拉伯数字连续编码，参考文献的序号左顶格书写，并用数字加中括号表示，如[1]，[2]，[3]，[4]，[5]…，每一参考文献条目的最后均以英文句号“．”结束。2．参考文献只列出作者已直接阅读、在撰写论文过程中主要参考过的文献资料，所列参考文献应按论文参考的先后顺序排列。参考文献与正文连续编排页码。参考文献不少于6篇。3．参考文献格式参考文献类型及文献类型，根据GB3469-83《文献类型与文献载体代码》规定，以单字母方式标识：（1）专著：〔序号]作者.专著名[M].出版地：出版社，出版年.（2）期刊中析出的文献：〔序号]作者.题(篇)名[J].刊名，出版年 (期号).（3）论文集：〔序号]作者. 题(篇)名[C]. 出版地：出版社，出版年.（4）学位论文：〔序号]作者.题(篇)名[D].授学位地：授学位单位，授学位年.（5）专利文献：〔序号]专利申请者.专利题名[P].专利国别:专利号,出版日期.（6）报纸文章：〔序号]作者.题(篇)名[N].报纸名，出版日期.（7）电子文档：〔序号]作者.题(篇)名〔文献类型/载体类型〕.网址，发表日期.关于参考文献的未尽事项可参见国家标准《文后参考文献著录规则》（GB/T7714－2005）。