首页 > 职称论文知识库 > 西电在cvpr上发表论文在哪年

西电在cvpr上发表论文在哪年

发布时间:

西电在cvpr上发表论文在哪年

CVPR的workshop审稿还是很严格的。虽然reviewers和主会不是一套班子,但也都是来自Google/Facebook的顶级学者。难度上,CVPR workshop=B类主会>C类主会。

CVPR录用标准

CVPR有着较为严苛的录用标准,会议整体的录取率通常不超过30%,而口头报告的论文比例更是不高于5%。而会议的组织方是一个循环的志愿群体,通常在某次会议召开的三年之前通过遴选产生。CVPR的审稿一般是双盲的,也就是说会议的审稿与投稿方均不知道对方的信息。

通常某一篇论文需要由三位审稿者进行审读。最后再由会议的领域主席(area chair)决定论文是否可被接收。

第一届CVPR会议于1983年在华盛顿由金出武雄和Dana Ballard举办,此后每年都在美国本土举行。会议一般在六月举行,而举办地通常情况下是在美国的西部,中部和东部地区之间循环。

例如,2013年该会议在波特兰召开。而2014年有超过1900人参加了在哥伦比亚举办的会议。而接下来的2015,2016和2017年,该会议分别于波士顿,拉斯维加斯和夏威夷举办。

CVPR有着较为严苛的录用标准,会议整体的录取率通常不超过30%,而口头报告的论文比例更是不高于5%。

而会议的组织方是一个循环的志愿群体,通常在某次会议召开的三年之前通过遴选产生。CVPR的审稿一般是双盲的,也就是说会议的审稿与投稿方均不知道对方的信息。通常某一篇论文需要由三位审稿者进行审读。最后再由会议的领域主席(area chair)决定论文是否可被接收。

在各种学术会议统计中,CVPR被认为有着很强的影响力和很高的排名。目前在中国计算机学会推荐国际学术会议的排名中,CVPR为人工智能领域的A类会议  。在巴西教育部的排名中排名为A1。基于微软学术搜索(Microsoft Academic Search)2014年的统计,CVPR中的论文总共被引用了169,936次。

孙老师是我国最顶尖的AI科学家之一,是院士级别甚至超越院士的人物,应当被全中国人民铭记和尊敬。孙老师在计算机领域做出了一系列图灵奖级别的工作,历史不会忘记这样的伟大科学家。孙老师是AI领域的大佬,一剑封神的残差网络发明者之一,AI 2000计算机视觉全球最具影响力学者,中国自动化学会混合智能专委会副主任,更是众多研究者的榜样!

2022年6月14日,旷世首席科学家孙剑因突发疾病抢救无效而永远离开了我们,孙剑一生一直专注于科研工作,对于他的不幸离世让大家都感到十分的痛心,而且也让而且在人工智能技术领域也永远失去了一位,可以带领大家创新的领路人。回顾孙坚的一交通大学的自动控制专业也是非常的传奇的,作为一名土生土长的西安人,他毕业于西安交通大学的自动控制专业,而且在人工智能的研究领域也取得了非凡成就。尽管孙坚院士的年纪不大,但是他却拥有40多项专利,而且自2002年以来,他在顶级期刊和一些学术会议上所发表的学术论文多达100多篇 ,被引用的次数高达255630 。

2022年6月14日,旷世首席科学家孙剑因突发疾病抢救无效而永远离开了我们,孙剑一生一直专注于科研工作,对于他的不幸离世让大家都感到十分的痛心,而且也让而且在人工智能技术领域也永远失去了一位,可以带领大家创新的领路人。回顾孙坚的一交通大学的自动控制专业也是非常的传奇的,作为一名土生土长的西安人,他毕业于西安交通大学的自动控制专业,而且在人工智能的研究领域也取得了非凡成就。 下面就让小编带着大家一起来看看这位伟大的科学家在学术界的成就吧。

尽管孙坚院士的年纪不大,但是他却拥有40多项专利,而且自2002年以来,他在顶级期刊和一些学术会议上所发表的学术论文多达100多篇 ,被引用的次数高达255630 。在CVPR计算机视觉年会 上,他也曾两次获得最佳论文奖,而且对这一领域有所了解的人都知道这个奖项的含金量是非常高的。

除此之外,在2015年的图像识别国际大赛上孙剑还带领他的团队斩获了5项冠军。另外其所带领的团队还开发了世界上第一个深度神经网络,即深度残差网络 ,这一项研究也成为了深度学习领域中的里程碑。

孙剑院士获得的成就也让他在2019年成为了西安交通大学人工智能学院的院士,并且在2020年还获得了计算机领域中最具影响力学者中的第二名。因此在小编看来,孙剑院士的才华应不止步于此, 而且孙剑院士在人工智能领域的成就如此之高 ,其也让人工智能技术在互互联网领域得到了广泛的应用。对此,我们应带着孙坚院士的期望将人工智能领域发扬光大。

在cvpr上发表论文

可能申请到。很多研究生博士生拿奖学金的必要条件就是发表学术论文,没有论文奖学金就遥遥无期了,对于研究生博士生来说,发表学术论文不仅仅可以拿到奖学金,对自身学术能力的提高也是大有帮助的。 发表论文在个人晋升,评奖,毕业等领域都可以发挥一定的作用,所以应该说SCI论文比一般论文更有用,作用更明显。

目前,公认的计算机视觉三大会议分别为ICCV,ECCV,CVPR。1、ICCV ICCV的全称是 IEEE International Conference on Computer Vision,国际计算机视觉大会,是计算机视觉方向的三大顶级会议之一,通常每两年召开一次,2005 年 10 月曾经在北京召开。会议收录论文的内容包括:底层视觉与感知,颜色、光照与纹理处理,分割与聚合,运动与跟踪,立体视觉与运动结构重构,基于图像的建模,基于物理的建模,视觉中的统计学习,监控,物体、事件和场景的识别,基于视觉的图形学,图片和的获取,性能评估,具体应用等。ICCV是计算机视觉领域最高级别的会议,会议的论文集代表了计算机视觉领域最新的发展方向和水平。会议的收录率较低,以 2007 年为例,会议共收到论文1200余篇,接受的论文仅为244篇。会议的论文会被 EI 检索。2、ECCVECCV的全称是Europeon Conference on Computer Vision,两年一次,是计算机视觉三大会议(另外两个是ICCV和CVPR)之一。很明显,ECCV是一个欧洲会议,欧洲人一般比较看中理论,但是从最近一次会议来看,似乎大家也开始注重应用了,oral里面的demo非常之多,演示效果很好,让人赏心悦目、叹为观止。不过欧洲的会有一个不好,就是他们的人通常英语口音很重,有些人甚至不太会说英文,所以开会和交流的时候,稍微有些费劲。3、CVPRCVPR的全称是Internaltional Conference on Computer Vision and Pattern Recogintion。这是一个一年一次的会议,举办地从来没有出过美国,因此想去美国旅游的同学不要错过。正如它的名字一样,这个会上除了视觉的文章,还会有不少模式识别的文章,当然两方面的结合自然也是重点。

在cvpr上发表论文要求

学术堂以医学论文发表为例,给大家讲讲论文发表需要什么条件:一、文章质量要符合发表的基本要求文章的质量是一个很抽象的东西,但也有一个大致通用的标准,即,观点正确,文字通畅,逻辑严密,结构合理,结论有创新,等等.如果您有了这样的文章,就可以进行下一步投稿的事情了.但是,由于我国学术界的特殊情况,文章质量达到发表的要求并不是太难的事情,或者经过我们的修改就可以发表.关于质量,可以参考日本质量专家的话,质量的核心是实用性.二、文章的选题要符合刊物的定位,不能乱投稿大家都知道,每一个刊物或者杂志都有自己特定的宗旨、栏目和专业定位,投稿前必须先对此进行了解,弄清楚目标杂志是哪个方面的.还要搞清是季刊、双月刊、月刊还是半月刊、周刊,这直接影响您的稿件发表的速度.风险提示:并不是所有的杂志发表了论文都有效的.杂志有正规的有非法的,因为期刊行业开始了收费发表论文,所以很多不法分子使用非法期刊征稿,其目的无非就是敛财.非法期刊发表的论文属于无效的.如何辨别期刊的真伪?通过新闻出版局工作人员的回答:凡在国家新闻出版局查询系统里查询不到的刊物,均为非法刊物.所以作者可以通过国家新闻出版局的数据库进行刊物查询.三、文章格式要规范,还需控制字数学术性期刊的格式是非常严格的,医学论文的格式可以参照你所投刊物的要求去做.至于字数,因为很多刊物是按计空格字数收费的,所以,您要根据需要确定文章的字数,省得花冤枉钱.所谓的版面设计实际上是一本杂志的页面,一般为16开的标准.但由于一些期刊对字体大小有不同的要求,其特点是不同的.加上除了文字外,还包括标点符号、空格等.在论文中,如果它涉及到图像、形式、空间占用一定的空间,而且还可以根据一定的字符空间.因此,每个期刊的版面编排都是有限的,所以一些核心期刊对论文的数量有一定的限制.如一些对文章提交的论文在6000-8000字的字数适当规定的核心期刊,文本空间一般从5000到10000字的要求,包括简介、语篇分析、结果和结论等内容.太少的话不能充分讨论.除公共知识外,公共知识和公共事业的第一次出现,应标明对外汉语的汉译或对外汉语的全称.四、提前投稿,尽量提前2-3个月投稿一般的学术刊物,从接收稿件到样刊出来,需要2-3个月.如果是核心刊物,则需要半年,或许更长时间.虽然最近几年,有很多刊物变成了月刊、半月刊,甚至旬刊,但还是提前准备为好.比如现在投稿的文章,发表时间一般安排在3月份之后,这样发表的文章在6月份的使用中就绝对没有问题.而每年4月份的职称评审通知,通常是在当年出通知.等作者收到通知再发表论文,通常就会错过了时间.五、版面费起到破财免灾的作用在期刊上发表论文需要支付版面费已经成为一种惯例,所以作者们也不用在版面费上纠结,关键是能够解决自己的问题,花点钱也是必要的了.六、选择合法刊物,避免非法期刊发表医学论文不是随便找个期刊就可以的,期刊必须具有合法性,是合法期刊.不是国家新闻出版总署批准刊号的刊物,都是非法刊物.根据我的判断,目前我国大约有1000-2000家非法刊物,或不规范的刊物.对大部分普通作者来说,是很难判断刊物的合法性的.所以,大家要擦亮眼睛,以免上当.

发表sci期刊论文有什么要求?学术论文公开发表必须在正规学术期刊上。由于它是公开发表物,需要遵循某些期刊的发表要求。无论是在国内学术期刊还是国际学术期刊上发表,都是这样。国际学术期刊的发表要求与国内学术期刊大不相同,而且在期刊上存在一定的差异。下面一起来看看发表sci期刊论文有哪些要求?sci期刊通常是国际上具有影响力和知名度的学术期刊,学术水平很高,这类期刊对刊物发表的要求也是比较高的。主要是对文章本身的要求,但对作者的身份职务没有什么特别要求,比国内一些核心刊物宽松一些。发表sci期刊的关键是文章的层次。撰写一篇好的sci论文的基础有两个方面。一是英语写作水平,二是专业知识水平。对国内大多数作者来说,英语写作水平不高。英语水平高也并不意味着英语写作水平就高。写作需要掌握一定的技能,也就是说,在正常的时间里,它需要不断的磨炼。以下是发表sci期刊论文写作的4个要点:1、文本摘要本文的摘要是对本文的简单总结,包括主要研究问题、方法、结果和结论。它可以用短语概括。摘要中的字数不应超过500个。2、引言这部分提出问题,回顾前人对这一问题的研究成果,即明确选题的研究背景,以及选题在整个学科中的重要性和必要性,注意清楚的哪些是别人的结论,哪些是自己的结论。3、方法和结果这是最关键的部分,包括实验对象、实验材料和实验过程。描述应该有一个清晰的层次感。每个步骤之间的顺序和相关性应清楚描述,不要引起实验过程混乱的现象,因为评审者最终判断你的实验是否合理,是从这个过程中描述来的。4、参考资料应标记引用内容,这是一个基本的学术道德要求。引用过程中未指出文献档的来源出处会造成本人的成功内容是假象,以免造成剽窃的现象。同时也会被误认为是一种抄袭,因此为了避免在影响作者个人发展时出现这样的误解,所有引用的部分都需要体现在参考中,甚至一些不起眼的内容也需要标准清楚。因此,发表sci期刊论文的各个方面要求相对较高,应特别注意写作。此外,还应特别注意语法和时态的应用。毕竟,英语表达与汉语不同。

嗯,发表一定要有字数的要求,一般来讲是周级论文还是省级论文?还是国家级论文,它的字数要求不同,同时还要技术含量要高,发表的内容质量要高才可以

目前,公认的计算机视觉三大会议分别为ICCV,ECCV,CVPR。1、ICCV ICCV的全称是 IEEE International Conference on Computer Vision,国际计算机视觉大会,是计算机视觉方向的三大顶级会议之一,通常每两年召开一次,2005 年 10 月曾经在北京召开。会议收录论文的内容包括:底层视觉与感知,颜色、光照与纹理处理,分割与聚合,运动与跟踪,立体视觉与运动结构重构,基于图像的建模,基于物理的建模,视觉中的统计学习,监控,物体、事件和场景的识别,基于视觉的图形学,图片和的获取,性能评估,具体应用等。ICCV是计算机视觉领域最高级别的会议,会议的论文集代表了计算机视觉领域最新的发展方向和水平。会议的收录率较低,以 2007 年为例,会议共收到论文1200余篇,接受的论文仅为244篇。会议的论文会被 EI 检索。2、ECCVECCV的全称是Europeon Conference on Computer Vision,两年一次,是计算机视觉三大会议(另外两个是ICCV和CVPR)之一。很明显,ECCV是一个欧洲会议,欧洲人一般比较看中理论,但是从最近一次会议来看,似乎大家也开始注重应用了,oral里面的demo非常之多,演示效果很好,让人赏心悦目、叹为观止。不过欧洲的会有一个不好,就是他们的人通常英语口音很重,有些人甚至不太会说英文,所以开会和交流的时候,稍微有些费劲。3、CVPRCVPR的全称是Internaltional Conference on Computer Vision and Pattern Recogintion。这是一个一年一次的会议,举办地从来没有出过美国,因此想去美国旅游的同学不要错过。正如它的名字一样,这个会上除了视觉的文章,还会有不少模式识别的文章,当然两方面的结合自然也是重点。

这篇论文2017年发表在cvpr

2017年发表在顶级学术期刊《人类生殖学快讯》上的一篇论文显示,生物学家针对人类男性精子数量变化展开了一次大规模的调查;

在对来自欧洲、澳洲等各个国家的45000名男性的精子样本进行了多达185项的分析后发现,在过去的40年里,西方男性的精子总数下降了59%以上,精子浓度下降了52.4%。

也就是说现在的男性相对于自己的祖父这一辈人精子数量少了一半,40年前人类男性精子浓度大约为9900万个/毫升,现在为4710万/毫升;

如果按照这样的趋势发展,到了2050年人类男性精子浓度会下降到大约1500万个/毫升。这将在很大程度上会影响人类正常的繁衍,导致更多的生殖问题,以及更严重的生育率下降的问题。

甚至在未来导致人类无法正常的自然生殖,必须依靠科技手段的辅助,例如人工授精、试管婴儿等等。

虽然技术可以帮助我们生殖,但是造成精子数量下降的原因也会给我们的身体健康造成困扰。

那么男性精子为什么会大幅下降呢?

这方面的因素有很多,但都可以归结为现在的生活环境的改变,例如长期的酗酒、吸烟、肥胖缺乏锻炼导致的身体机能下降,还有长期以来的大气环境污染,长期暴露在含有碳颗粒、重金属微粒、有害气体的大气中都会给男性生殖造成影响。

已经有论文显示,这些空气中的有害微粒已经经过我们的呼吸系统进入了人体体内的细胞当中,科学家已经在人类胎盘当中发现了纳米级别的碳颗粒和重金属颗粒,它们来源多为汽车尾气和工业污染。

本次论文的主要作者认为,以上都是显而易见的影响,还有一个更为隐蔽的因素影响,人们每天都会接触到的化学物质添加剂、食品农药残留也会对男性生殖健康产生重要的影响;

因为这些化学物质能够干扰身体正常的激素水平,改变人类的性发育节奏和生殖健康,不仅仅是对男性有影响,对女性来说这些化学物质会导致现在很多的小孩过早的进入青春期,以及成年以后卵子质量的下降和更多不明原因的习惯性流产。

这种日常生活中能够接触到的干扰内分泌的化学物质可能有数百种,但是论文作者研究最多的是邻苯二甲酸盐,这是一大类化学物质的总称;

其中一类例如邻苯二甲酸酯,可以用作塑料的增塑剂,使得塑料变得更加柔软具有弹性;

也可以用在个人护理产品当中,例如护肤品、指甲油、洗发水等等,可以促进护肤品中的某些成分被皮肤快速地吸收,以及长时间的让护肤品中的一些成分保留在皮肤上,持久的留香。

还可以用在塑料玩具、食品外包装、塑料软管,这些和我们的接触最多、甚至入口的产品上,它还会被用在杀虫剂当中,也会跟着食物上农药的残留进入人体。

科学家认为邻苯二甲酸酯具有降低睾丸激素的能力,是引起男性生殖问题的“罪魁祸首”,当然女性也难逃被侵害,毕竟这种东西在指甲油里面的含量是最高的,常用的化妆品当中也有这些东西。

目前各个国家已经对各类具有危害的邻苯二甲酸酯做出了限制使用的规定,在不同产品的添加当中制定了严格的使用规范。

虽然我们无法避免直接接触这些带有添加剂的产品,但为了防止这些化学物质直接从口进入人体,我们平时还是少用塑料器皿,尤其是在加热的时候尽量使用玻璃、陶瓷器皿。

然后是双酚类化学物质,它们添加在塑料当中的作用刚好跟邻苯二甲酸酯相反,它们可以使得塑料强度变高、变硬,随意这种物质常被添加在婴儿奶瓶、饮水瓶和其他硬塑料产品中。

最常见的就是双酚A(BPA),以前双酚A的用途非常广泛,常被添加在奶瓶、医疗器械、食品包装当中,但是后来经过动物实验发现双酚A具有模拟雌激素的作用,会引起雌性动物早熟、精子质量下降,雄性生殖健康等问题,现在已经禁止了在奶瓶当中添加双酚A,

取而代之的双酚s(BPS)、双酚F(BPF)等等。但这些东西是否就绝对安全谁也说不准,因此给婴儿的奶瓶如果没有必要的需求,尽量选用玻璃材质。

去年发表的一篇论文显示,科学家首次在人类胎盘当中检测到了微塑料,这是日常使用的塑料产品上脱落下来的塑料微颗粒和纤维,不仅从口鼻进入了人体的大循环系统,更是侵入到了微循环当中。

可想而知,其中的添加剂早已对人类产生了破坏性的影响。

最后一种令论文作者担心的化学物质就是农药,从滴滴涕一直到草甘膦,这些物质进入人体同样会对我们内分泌系统构成威胁。

现在人类能够彻底避免这些伤害吗?

基本上很难做到,除非你不想过正常生活,不买任何塑料产品,不买任何化妆品,不戴塑料手套吃炸鸡、不喝奶茶等等,整天吃无任何化学残留的有机食品。

相信任何人都办不到,唯一能解决这个问题的就是:我们制造业需要变革,找到更安全的化学物质替代这些有毒的物质。

或者是直接找到一种更环保的材料替代无处不在的塑料,人类在这方面还有很长的路要走。

论文:

Temporal trends in sperm count: a systematic review and meta-regression analysis

doi.org/10.1093/humupd/dmx022

Detection of Various Microplastics in Human Stool

doi.org/10.7326/M19-0618

Evidence for the presence of air pollution nanoparticles in placental tissue cells

doi.org/10.1016/j.scitotenv.2020.142235

因为现在的年轻人压力越来越大了,让他们的身体都随时保持着一个压力的程度。

因为随着科技的发展人们现在越来越多的工作依赖于电子产品,而电子产品对人类的身体健康不利,辐射非常大能够杀死精子。

大名鼎鼎的DenseNet,17年CVPR的best paper(当然有争议是后话),不得不读。黄高博士的扛鼎之作,之前在读他的Snapshot-Ensembles时感觉就很舒服,整个文章逻辑很清楚,实验对比做的也十分全面,相信这篇best paper更是没有问题,会给读者一种爽的感觉。

2019.2.20 2852次。绝对值很高,但相比其他经典网络,ResNet,GoogLeNet之类,有些差距。

本篇在16年8月挂到arXiv上,中了2017年CVPR,是继16年何大神的ResNet之后,第二个华人的best paper, 这里 有个作者本尊的talk,现场讲解。一作Gao Huang(黄高)05年北航的本科生(GPA第一),15年清华博士毕业(读了6年。。),后来在康奈尔待了3年做博后,此刻在清华作青椒,本篇是在康奈尔时的工作。二作刘壮(同等贡献)也是碉堡,现在在伯克利做博士生,之前是清华姚班的(13级),发这篇文章时还在清华,也就是说 本科生 。。。最近以一作的身份新发了一篇《Rethinking the Value of Network Pruning》,中了19年的ICLR,同时也是18年NIPS的best paper award。。这个世界太疯狂了,这都不是潜力股了,而是才华横溢溢的不行了。

官方实现在这里:

黄高个人主页在这里:

刘壮个人主页在这里:

先前的研究中说明只要网络包含短路连接,基本上就能更深,更准确,更有效的训练。本文基于这个观察,引入了密集卷积网络(DenseNet),它以前馈方式将每个层连接到所有层。传统的卷积网络L层有L个连接,而DenseNet有 个直接连接。对于每一层,它前面所有层的特征图都当作输入,而其本身的特征图作为所有后面层的输入(短路连接被发挥到极致,网络中每两层都相连)。DenseNet具有几个引入注目的优点: 可以缓解梯度消失问题,加强特征传播,鼓励特征重用,并大幅减少参数数量。

随着CNN变得越来越深,一个新的研究问题出现了:随着输入信息或梯度通过多层,它在到达网络结尾(或开始)处就消失了。ResNets和Highway Networks通过恒等连接将信号从一层传输到下一层。Stochastic depth通过在训练期间随机丢弃层来缩短ResNets,以得到更好的信息和梯度流。FractalNets重复组合几个并行层序列和不同数量的卷积块,以获得较深的标准深度,同时在网络中保持许多短路径。尽管上述方法的网络结构都有所不同,但它们有一个共同特征:创建从早期层到后期层的短路径。

本文提出一个简单的连接模式:为了确保网络中各层之间的最大信息流, 将所有层(匹配特征图大小)直接相互连接 。为了保持前向传播性质,每个层从所有前面的层获得附加输入,并将其自身特征图传递给所有后续层。

至关重要的是,与ResNets相比,在传递给下一层之前, 不是通过求和来合并特征,而是通过concat来合并特征 。因此, 层有 个输入,包括所有先前卷积块的特征图。其特征图被传递到后续所有 层。这在L层网络中引入了 个连接,而不是传统架构的L个连接。正是因为这种密集连接模式,所以称本文方法为密集连接网络( Dense Convolutional Network DenseNet)。

相比传统卷积网络,这种密集连接模式有有一点可能违反直觉的是,它需要更少的参数,因为无需重新学习冗余的特征图。本文提出的DenseNet架构显式区分了添加到网络的信息和保留的信息。DenseNet的层非常窄(如每层只有12个滤波器),只给网络的"集体知识"增加一小组特征图,并保持其余的特征图不变。

除了更好的参数利用率之外,DenseNet的一大优势是它改善了整个网络中的信息流和梯度,使得网络更易于训练。每层都可以直接访问损失函数和原始输入信号的梯度( 我屮,这不就是GoogLeNet当时为解决梯度消失而在中间层引入分类器那种ugly办法的替代吗 ),从而导致隐式的深度监督。这有助于训练更深的网络。

与DenseNet相似的级联结构早在1989年就提出来了。。Adanet的提出差不多是与DenseNet并行的,跨层连接也相似(话说竞争真激烈。。)

本文作者提出的另一个网络Stochastic depth说明并非所有层都需要,在深度残差网络中存在大量冗余的层。本文的部分灵感也来源于此。

相比从极深或极宽的架构中提取表示能力,DenseNet是通过 特征重用 来利用网络的潜力,得到易于训练和高参数效率的压缩模型。相比从不同层拼接特征的Inception网络,DenseNet更简单有效(看来Inception因其结构复杂性没少被批判)。

定义 为单张输入图像,网络由 层组成,每一层实现非线性变换 ,其中 为层的索引号。 可以是BN,ReLU,Pooling,Conv等操作的复合函数,定义 层的输出为 。

传统的层连接: 。ResNets增加了跳跃连接: 。ResNets的一个优势是梯度可以通过恒等函数直接从后面的层流向前面的层。然而,恒等函数和 的输出通过加法合并,有可能会阻碍网络的信息流。

本文引入与ResNets不同的连接模式:从任意层到所有后续层的直接连接(图1)。结果就是,第 层接收所有之前层的特征图作为输入: 。为了便于实现,concat 的多个输入为单一张量。

受ResNet v2启发,定义 为三个连续运算的复合函数:BN,ReLU,3 x 3 Conv

当特征图的大小改变时,concat运算是不可能的,然鹅,卷积网络的一个关键组成部分就是下采样层,通过它可以改变特征图大小。为了便于在架构中进行下采样,将网络划分为多个密集连接的密集块(dense blocks),如图2所示。

将密集块之间的层称为过渡层(transition layers),它们进行卷积和池化。本文实验中的过渡层由BN,1 x 1卷积和 2 x 2平均池化组成。

如果每个函数 生成 个特征图,它后面跟着的 层有 个输入特征图,其中 是输入层的通道数。DenseNet和现有网络架构的一个重要区别是DenseNet可以有非常窄的层,如 。本文将超参数 定义为网络的成长率(growth rate)。对此的一种解释是,每一层都可以访问其块中所有前面的特征图,即,网络的『集体知识』。可以将特征图视为网络的全局状态。每一层增加自己的 个特征图到这个状态。成长率反映了每层由多少新信息对全局状态有贡献。全局状态一旦写入,就可以被网络中的任何地方访问,而不像传统网络那样,无需从一层复制到另一层。(全文精华应该就是这一段了)

1x1 conv非常有用(提升计算效率),本文也大用特用。本文定义DenseNet-B的 为 BN-ReLU-Conv(1x1)-BN-ReLU-Conv(3x3)

为了使模型更紧凑,可以减少过渡层的特征图数量。如果密集块包含 个特征图,定义接下来的过渡层生成 个特征图,其中 表示压缩率。定义 的DenseNet为DenseNet-C,本位实验中设置为 。当同时使用瓶颈层和压缩过渡层时,定义模型为DenseNet-BC。

非ImageNet数据集采用同一个架构,由3个密集块构成。ImageNet的架构如表1所示

CIFAR SVHN ImageNet

所有网络都用SGD。

CIFAR和SVHN的batch size为64,epoch分别为300和40,初始学习率为0.1,在50%和75%的epoch时分别除10。

ImageNet的batch size为256,90个epoch,初始学习率为0.1,在30和60epoch时分别除10。

weight decay为 ,动量为0.9。用He初始化。

对于CIFAR和SVHN,还在每个卷积层后接了dropout层(除第一个卷积层外),丢失率为0.2。

看表2的最后一行

DenseNet可以利用更大更深模型表示能力的增长。

如图4所示

主要用DenseNet-BC和ResNet作比较。

表面上看,DenseNets和ResNets没什么不同,两个式子的差别仅仅是输入从加法变为concat,然而,这种看似很小的修改导致两种网络架构的行为明显不同。

因为鼓励特征重用,所以得到更紧凑的模型。

如图4所示。

对DenseNets准确率提升的一种解释是各个层通过短路连接从损失函数接收额外的监督(某种深度监督)。DenseNets用隐式的方式执行相似的深度监督:网络顶部的单个分类器通过最多两到三个过渡层为所有层提供直接监督。 然而,由于在所有层之间共享相同的损失函数,因此DenseNets的损失函数和梯度基本上不那么复杂。

和随机深度的对比,随机深度有点类似DenseNet:如果所有中间层都随机丢弃,那么在相同的池化层之间的任意两层都有可能直接连接。

DenseNet就是好,就是好啊就是好。在遵循简单的连接规则的同时,DenseNets自然地整合了恒等映射,深度监督和多样化深度的属性。

又是一篇没有什么数学公式的paper,越来越感觉深度学习像物理,很多结果都是基于做实验得到的。通过对实验的观察对比分析,找出实验中的缺陷不足,从而去改进,然后发paper。黄高博士的写作套路还是非常讨喜的,特别是开头的地方,娓娓道来,一步一步告诉你为什么要这么做,为什么要引入这一步。此外,DenseNets和作者本人的工作『随机深度』也有千丝万缕的关系,看来功夫做扎实了,沿着一条道路是可以出一系列成果的。

这是个好问题。。是要进一步衍生ResNet吗?

提出密集连接结构,将ResNet的跳跃连接发扬光大为两两连接

效果比ResNet还好,通过减少滤波器个数(文中称作成长率),参数量也下来了

感觉效果提升并没有那么明显,被后续出来的ResNeXt超过了

各种网络结构的实现:

黄高本人视频讲解:

作者本人的解答: CVPR 2017最佳论文作者解读:DenseNet 的“what”、“why”和“how”

DenseNet的3个优势:

在cvpr发表论文

可以。发表论文在个人晋升、评奖、毕业等领域都可以发挥一定的作用。在研究生和博士生的学术生涯中,发表cvpr是一个常见的要求,奖学金的评估也是如此事实上,获得奖金是次要的,CVPR论文给作者带来的好处绝对不能用金钱来衡量。

还可以。

CVPR的workshop审稿还是很严格的。虽然reviewers和主会不是一套班子,但也都是来自Google/Facebook的顶级学者。难度上,CVPR workshop=B类主会>C类主会。

CVPR录用标准

CVPR有着较为严苛的录用标准,会议整体的录取率通常不超过30%,而口头报告的论文比例更是不高于5%。而会议的组织方是一个循环的志愿群体,通常在某次会议召开的三年之前通过遴选产生。CVPR的审稿一般是双盲的,也就是说会议的审稿与投稿方均不知道对方的信息。

通常某一篇论文需要由三位审稿者进行审读。最后再由会议的领域主席(area chair)决定论文是否可被接收。

  • 索引序列
  • 西电在cvpr上发表论文在哪年
  • 在cvpr上发表论文
  • 在cvpr上发表论文要求
  • 这篇论文2017年发表在cvpr
  • 在cvpr发表论文
  • 返回顶部