美国期刊专家(AJE)助您成功发表国际学术论文
一、投稿前须充分了解目标期刊，找准期刊专业分为很多类，相应类别的期刊也有很多种，首先要对自己的专业有具体定位，同时也要把握目标期刊的大方向，即使是一学科，也有很多不同专业方向，选择期刊时，一定要看其是否与自己文章的研究领域一致。期刊通常分为普通期刊和核心期刊，按地域划分，也可分为省级期刊和国家级期刊，这些都可以按照自己的要求来选择。总而言之，投错期刊是非常低级的错误，即使文章写得再好，都无法顺利完成投稿，并给杂志社编辑增加了不必要的工作量。在投稿职称论文时，还要注意，中级职称常需要发表国家级期刊，高级职称则需要发表国家级期刊或是核心期刊，具体按要求而定，但一定要有区分。二、到正规期刊网站进行投稿期刊投稿的方式有很多种，可以直接与杂志社联系，或者给编辑发邮箱，或找专业期刊网站进行投稿。通常大家想到的第一方式就是直接和杂志社联系，但是个人与杂志社联系，若遇到杂志社稿件太多的情况，尤其是期刊投稿的旺季，很容易导致迟迟等不到杂志社的回信而错过投稿时间。随着我国学术研究的发展，在期刊上投稿发表文章，成为我国学者学术交流研究的重要方式，研究工作者数量极其庞大，而期刊的数量和版面都是有限的，没有专业人士的协助，期刊投稿还是有一难度的。即使是认识杂志社编辑，直接给编辑发邮箱，也会遇到编辑无法及时回复的情况，如果时间充足，且对期刊投稿又比较熟悉的朋友，可以考虑选择这两种。有其他情况或者有特殊要求的朋友，可以找专业的期刊投稿网站进行投稿发表，专业的期刊网站一般都与杂志社有合作，可以开启绿色投稿通道，但是这里就要注意鉴别期刊网站的正规性了。可以从期刊网站的业务能力上判断，期刊投稿设计多个流程，而在期刊网站上投稿，因为期刊网站掌握的资源相对丰富，这些流程是可以适当缩短的。但是仅靠这一点也不能完全判断其正规性，还可以从是否能发表核心期刊上判断。总所周知，核心期刊发表周期最长，发表难度也是最大，那些一上来就信誓旦旦保证核心期刊都可以发表的网站，需要大家更谨慎对待。还有就是，期刊网站推荐的期刊是否都是正规期刊，这个很容易，大家可以去国家新闻出版广电总局官网上查询，看是否为正规期刊。总之，正规期刊网站是随时可以告知投稿进度的，并且对于期刊投稿也是秉持严谨的态度，若在交流时发现对方语气十分保证的，都需要质疑其真实性。三、随时了解投稿进度，留意相关消息很多朋友在投出期刊后，就完全松懈，只等着别人打电话来回复，杂志社通常是以电子邮件的方式进行回复，不论是投稿成功或失败，或是需要修改，都会给出相关意见，一定要留意，不是稿件投出去了就万事大吉，期刊投稿本就是一个周期较长的事，一定要有耐心。如果编辑对稿件出具了修改意见，一定要认真参考后再修改，这样投稿成功的几率才会更大。
个人发表论文的渠道无非就两种，第一种是自己投稿发表，第二种是需要中介代理投稿。两种方式各有利弊，可以根据自身需求来选择。第一种自己投稿发表，比较适合自己有投稿经验的朋友，时间相对比较宽裕，一般自己投稿建议提前1年以上的时间准备。对知网和数据库有一定了解和操作基础。有以上条件的话 相对自己投稿是比较顺利的第二种中介代理投稿，比较适合着急发表的朋友，因为可以根据你的需求快速的确定符合你条件的期刊，会省去大量的时间。不过因为机构参差不齐，导致很多不法分子在其中坑蒙拐，所以需要鉴别真伪的能力。和对期刊鉴别真刊方法。
如何在国外电子平台上出版英文论文？1. 投稿：一般情况下，你想在电子出版平台上出版文章或者论文，首先你得在该出版平台上注册，写清楚邮箱和电话等联系方式很重要，这便于你投稿，以及和出版社工作人员沟通。 同时，在投稿之前，你得写好你的稿件，稿件质量很重要，不然很难通过审核。 其次，选择投递的期刊名称，这个就属于对你自己的文章的一个定位了，投递方向正确了，审核才能顺利进行。 2. 审稿和修改：在你的稿件成功投递之后，会有专业的审稿人对你的稿件进行审核，审核内容包括稿件的标题、单位信息，摘要，关键词，内容、字数、参考文献，及文章质量等。等到确认你的文章在这些方面，没有什么大问题，可以经过简单的修改就可以出版。如果有问题，你需要根据审稿人的要求进行修改，经过修改的文章，最终确定没有问题，就可以着手出版了。 3. 出版：一般在稿件修改完成以后，出版平台会进行一个最终的排版，然后跟你做最后确认一次来定稿，没有什么问题就可以出版了，当然，出版之前，你得支付出版费用。一般情况下，费用会根据出版平台、稿件字数和内容等的不同，而不 同。比如一些国际性的大出版社，一般的费用就在1600美金左右，多的高达3000美金。其他一些收费没有那么贵的，也就400美金左右。 4. 增值服务：一般在电子出版平台出版书刊后，会给客户提供一定的增值服务。比如Science Publishing Group 这个平台，客户在这个平台出版书刊以后，可以免费阅读和下载这个平台的英文文献和资料，同时也可以转载或者分享自己的作品到自己的社交平台等。不管是什么样的增值服务，对投稿人来说，都是有益的。总之，在这个互联网时代，选择电子出版，比选择传统的出版，多了一些便利、快捷，同时也最大限度的分享知识。若可能，你的文章或者其他作品，会分享给世界各地有需求的人，并且长久的保存下来。
星科SCIER觉得：发表SCI（Science Citation Index）论文需要遵循以下步骤：1.选择期刊：首先要选择合适的期刊。你需要查找与你的研究领域相关的SCI期刊，并考虑期刊的影响因子和排名。你可以使用科学引文索引（Science Citation Index）或其他学术数据库来查找期刊。2.撰写论文：撰写一篇高质量的SCI论文需要遵循科学写作规范。你需要进行实验或调查研究，并记录实验结果或数据。在撰写论文时，你需要对研究进行清晰、详细的描述，并说明你的研究对该领域的贡献。3.提交论文：提交论文之前，你需要仔细阅读期刊的投稿要求，并遵循期刊的格式要求。你需要准备好论文、摘要、作者简介和其他必要的材料，并将它们提交给期刊编辑。一般来说，期刊编辑会在几个星期内回复你是否接受论文。4.审稿过程：如果你的论文被接受，期刊编辑会将它送给专家进行审稿。审稿专家会仔细评估你的研究方法、结果和结论，并提出意见和建议。你需要根据审稿专家的反馈对论文进行修改，并回复审稿意见。5.发表论文：一旦你的论文被接受并满足期刊要求，它将被发表在期刊上。你的论文将被分配一个DOI（数字对象标识符），它可以让其他学者轻松地引用你的研究。需要注意的是，发表SCI论文需要具备一定的研究能力和科学素养，也需要对自己的研究有足够的自信和信心。在提交论文之前，你需要花费大量的时间和精力进行研究和写作，同时也需要不断地修正和改进论文。
sci发表方法如下：
第一步：选择sci期刊
Sci期刊的选择是很有讲究的，选刊时要注意期刊的刊登范围(找与自己论文对口的刊物)、期刊影响因子(sci每年都会有更新，避免使用论文时掉出sci导致不能认可，最好不好选影响因子比较低的刊物)、期刊分区(看自己需要在哪个分区上发表)，如果时间不是很充裕还要了解期刊的大概审稿周期，避免在审稿周期比较长的期刊上发表论文。
第二步：了解期刊要求并调整论文
每本期刊都有自己的特点，这也意味着不同的期刊对论文的要求有差异。因此发表论文前要了解所选期刊对论文的体例格式要求是怎样的，并按照要求严格修改自己的论文。期刊也会对论文重复率有要求，重复率高也是不能通过的审核的，因此也要了解期刊对论文重复率要求。
第三步：确定投递稿件方式并上传
大部分sci期刊采用的是在线投稿系统，可以在期刊的官网找到入口。不同的期刊采用的系统不同，作者一定要注意这一点。还有的是email，不过采用这种方式的比较少，还有一小部分采用纸质投。具体采用哪种方式要看所选期刊是怎么要求的。
第四步：推荐审稿人
有的sci期刊会让作者推荐审稿人，作者可以通过引用的参考文献中、学术交流会议中、以及导师介绍等方式找到同行业的专家来作为推荐的审稿人。
第五步：回复审稿人
投递稿件之后杂志社编辑会安排论文审稿，三审中任意一个环节发现问题都会需要退修或者拒稿，直到符合规定的要求才能通过，进行下一步，当稿件通过了终审才会安排录用。否则就会一直循环修改、审稿。
如何在国外电子平台上出版英文论文？1. 投稿：一般情况下，你想在电子出版平台上出版文章或者论文，首先你得在该出版平台上注册，写清楚邮箱和电话等联系方式很重要，这便于你投稿，以及和出版社工作人员沟通。 同时，在投稿之前，你得写好你的稿件，稿件质量很重要，不然很难通过审核。 其次，选择投递的期刊名称，这个就属于对你自己的文章的一个定位了，投递方向正确了，审核才能顺利进行。 2. 审稿和修改：在你的稿件成功投递之后，会有专业的审稿人对你的稿件进行审核，审核内容包括稿件的标题、单位信息，摘要，关键词，内容、字数、参考文献，及文章质量等。等到确认你的文章在这些方面，没有什么大问题，可以经过简单的修改就可以出版。如果有问题，你需要根据审稿人的要求进行修改，经过修改的文章，最终确定没有问题，就可以着手出版了。 3. 出版：一般在稿件修改完成以后，出版平台会进行一个最终的排版，然后跟你做最后确认一次来定稿，没有什么问题就可以出版了，当然，出版之前，你得支付出版费用。一般情况下，费用会根据出版平台、稿件字数和内容等的不同，而不 同。比如一些国际性的大出版社，一般的费用就在1600美金左右，多的高达3000美金。其他一些收费没有那么贵的，也就400美金左右。 4. 增值服务：一般在电子出版平台出版书刊后，会给客户提供一定的增值服务。比如Science Publishing Group 这个平台，客户在这个平台出版书刊以后，可以免费阅读和下载这个平台的英文文献和资料，同时也可以转载或者分享自己的作品到自己的社交平台等。不管是什么样的增值服务，对投稿人来说，都是有益的。总之，在这个互联网时代，选择电子出版，比选择传统的出版，多了一些便利、快捷，同时也最大限度的分享知识。若可能，你的文章或者其他作品，会分享给世界各地有需求的人，并且长久的保存下来。
两个英文论文网站，需要把你的关键字翻译成英文输入才能查找，找到的也都是英文的，你可以借助壹品优刊看看，能不能找到你合适的就看你自己了
星科SCIER觉得：发表SCI（Science Citation Index）论文需要遵循以下步骤：1.选择期刊：首先要选择合适的期刊。你需要查找与你的研究领域相关的SCI期刊，并考虑期刊的影响因子和排名。你可以使用科学引文索引（Science Citation Index）或其他学术数据库来查找期刊。2.撰写论文：撰写一篇高质量的SCI论文需要遵循科学写作规范。你需要进行实验或调查研究，并记录实验结果或数据。在撰写论文时，你需要对研究进行清晰、详细的描述，并说明你的研究对该领域的贡献。3.提交论文：提交论文之前，你需要仔细阅读期刊的投稿要求，并遵循期刊的格式要求。你需要准备好论文、摘要、作者简介和其他必要的材料，并将它们提交给期刊编辑。一般来说，期刊编辑会在几个星期内回复你是否接受论文。4.审稿过程：如果你的论文被接受，期刊编辑会将它送给专家进行审稿。审稿专家会仔细评估你的研究方法、结果和结论，并提出意见和建议。你需要根据审稿专家的反馈对论文进行修改，并回复审稿意见。5.发表论文：一旦你的论文被接受并满足期刊要求，它将被发表在期刊上。你的论文将被分配一个DOI（数字对象标识符），它可以让其他学者轻松地引用你的研究。需要注意的是，发表SCI论文需要具备一定的研究能力和科学素养，也需要对自己的研究有足够的自信和信心。在提交论文之前，你需要花费大量的时间和精力进行研究和写作，同时也需要不断地修正和改进论文。
如何在国外电子平台上出版英文论文？1. 投稿：一般情况下，你想在电子出版平台上出版文章或者论文，首先你得在该出版平台上注册，写清楚邮箱和电话等联系方式很重要，这便于你投稿，以及和出版社工作人员沟通。 同时，在投稿之前，你得写好你的稿件，稿件质量很重要，不然很难通过审核。 其次，选择投递的期刊名称，这个就属于对你自己的文章的一个定位了，投递方向正确了，审核才能顺利进行。 2. 审稿和修改：在你的稿件成功投递之后，会有专业的审稿人对你的稿件进行审核，审核内容包括稿件的标题、单位信息，摘要，关键词，内容、字数、参考文献，及文章质量等。等到确认你的文章在这些方面，没有什么大问题，可以经过简单的修改就可以出版。如果有问题，你需要根据审稿人的要求进行修改，经过修改的文章，最终确定没有问题，就可以着手出版了。 3. 出版：一般在稿件修改完成以后，出版平台会进行一个最终的排版，然后跟你做最后确认一次来定稿，没有什么问题就可以出版了，当然，出版之前，你得支付出版费用。一般情况下，费用会根据出版平台、稿件字数和内容等的不同，而不 同。比如一些国际性的大出版社，一般的费用就在1600美金左右，多的高达3000美金。其他一些收费没有那么贵的，也就400美金左右。 4. 增值服务：一般在电子出版平台出版书刊后，会给客户提供一定的增值服务。比如Science Publishing Group 这个平台，客户在这个平台出版书刊以后，可以免费阅读和下载这个平台的英文文献和资料，同时也可以转载或者分享自己的作品到自己的社交平台等。不管是什么样的增值服务，对投稿人来说，都是有益的。总之，在这个互联网时代，选择电子出版，比选择传统的出版，多了一些便利、快捷，同时也最大限度的分享知识。若可能，你的文章或者其他作品，会分享给世界各地有需求的人，并且长久的保存下来。
什么是sci论文？首先sci是一种科学引文索引，而sci论文就是被科学因为索引检索收录的文章，对于sci论文，相信国内的很多作者都不陌生，即使是从来没有发表过sci论文的人应该也听说，这种论文发表的意义在于它是最高水准的学术论文发表，sci论文发表在国际上被视为学术水品的衡量标尺。
sci论文不论是在国内还是在国外的影响力和价值都是非常高的，它不仅仅在国外受到认可，在国内的认可度也是颇高的，在很多对于学术论文发表有要求的考核中，sci论文都是最受认可的，拥有一篇成功发表的sci论文，对个人的晋升发展、能力提升都极为的有力。
除此之外sci论文也是一国际间进行学术交流的一种重要途径，一个国家sci论文的发表数量也能证明该国家的科研水平高低。不论是从个人角度还是宏观角度，sci论文发表都有着十分积极的学术价值。因为它是能够推动国家科研事业的发展进步的。
那么怎样才能写出一篇好的sci论文呢，在这里也是整理了一些建议，希望对大家有所帮助。
1.阅读文献和参考文章
这是写论文都必须经历的一步，也是最重要的一步，每周坚持泛读最少3篇sci，精读1篇sci，其实你会发现，写论文其实并没有想象中的那么复杂。
2.期刊的选择
写论文之前，选择合适的目标期刊是令自己集中精力的最好办法，能够在后面写作时避免很多无效的工作。一定要把握住期刊声誉和当前所在研究层次显示之间的最佳平衡点，之后就可以根据期刊官方网站给出的要求来选择自己的写作防线和修改初稿。
提升论文影响力最有效的办法，就是撰写目标读者希望关注的研究，所以挑选期刊就是实现这一目标的第一步。但是需要注意的是，一定要远离那些“掠夺性期刊”！这些“欺诈性期刊”的出版方式极其不道德，经常恶意；利用初次投稿作者急切发表的心理。所以当你不能确定选择的期刊是否靠谱时，一定要向导师寻求建议，并对这种期刊进行彻底调查。
3.尽早动笔
很多同学都是等到实验操作快结束了，数据都整理好了，才开始动笔；其实写论文最好的方式，是尽可能早地开始动笔。
最常见的论文撰写策略按顺序依次是：
Method-Introduction-Result-Discussion
我们可以将论文中的部分内容预先写好。确保在动笔之前，就已经能详细地列出论文的提纲，以便规划后期你的工作内容和进度。可以在项目进行过程中写好方法学 (Method) 部分的段落，这是前期最容易撰写的部分。如果项目计划有任何变动，之后可以稍作调整。如果你够勇敢，甚至可以提前写好引言 (Introduction) 段落。
很多人喜欢把引言部分留到最后编写，目的是要确保这部分内容的准确性。但是也有人会先将引言部分落实到位，再去搭建剩余那部分论文内容的框架。这很大程度上取决于个人习惯偏好。在开始准备初稿之前，最好是在给论文编制提纲之前，就先考虑应如何引导阅读论文的读者。这样在你撰写论文时，尽可能始终贴近论文的主线思路。
最后就是关于写作效率的问题了，在确定了方向和契合期刊后应当如何保持高效的写作效率。关于这一点小编只想说，只能依靠自身努力去克服，不论你是拖延症还是完美主义者，又或者其他习惯性格，都会影响你的写作效率，所以小编才建议大家尽早动笔，毕竟坚持每天花费几小时写论文，总要比每隔几周才来一次马拉松式论文写作的效率更高。
最后再给大家说几个sci论文的注意事项:
1.摘要中切忌将引言出现的内容写入，也不要对论文内容做诠释和评论
2.不要简单重复题名中已有的信息
3.论文的结构一定要严谨，表达要简明，语义要确切！
两个英文论文网站，需要把你的关键字翻译成英文输入才能查找，找到的也都是英文的，你可以借助壹品优刊看看，能不能找到你合适的就看你自己了
sci发表方法如下：
第一步：选择sci期刊
Sci期刊的选择是很有讲究的，选刊时要注意期刊的刊登范围(找与自己论文对口的刊物)、期刊影响因子(sci每年都会有更新，避免使用论文时掉出sci导致不能认可，最好不好选影响因子比较低的刊物)、期刊分区(看自己需要在哪个分区上发表)，如果时间不是很充裕还要了解期刊的大概审稿周期，避免在审稿周期比较长的期刊上发表论文。
第二步：了解期刊要求并调整论文
每本期刊都有自己的特点，这也意味着不同的期刊对论文的要求有差异。因此发表论文前要了解所选期刊对论文的体例格式要求是怎样的，并按照要求严格修改自己的论文。期刊也会对论文重复率有要求，重复率高也是不能通过的审核的，因此也要了解期刊对论文重复率要求。
第三步：确定投递稿件方式并上传
大部分sci期刊采用的是在线投稿系统，可以在期刊的官网找到入口。不同的期刊采用的系统不同，作者一定要注意这一点。还有的是email，不过采用这种方式的比较少，还有一小部分采用纸质投。具体采用哪种方式要看所选期刊是怎么要求的。
第四步：推荐审稿人
有的sci期刊会让作者推荐审稿人，作者可以通过引用的参考文献中、学术交流会议中、以及导师介绍等方式找到同行业的专家来作为推荐的审稿人。
第五步：回复审稿人
投递稿件之后杂志社编辑会安排论文审稿，三审中任意一个环节发现问题都会需要退修或者拒稿，直到符合规定的要求才能通过，进行下一步，当稿件通过了终审才会安排录用。否则就会一直循环修改、审稿。
如果你是美国哈佛大学的在读研或博或大学生，那就好说了，交给有关教授审核，发给学校校刊或向国际医学界文章投稿。若你不是，就只能向国际医学界文章投稿了，也可以从哈佛校网上招考有关教授的资料，给他发邮件问能不能在美国哈佛大学医学院发论文，把自己文章发给他（英文）。当然，若你的文章一点深度和创新都没有，这种概率为0
论文地址： 看完MMoE后接着看这一篇，进一步加深对MMoE的理解 2020.2.18 9次。从19年9月出来后，不到半年能引用9次，算是相当不错了 同样没往arXiv上挂，中了19年9月的RecSys。同样是G家出品，来自YouTube那边，10个作者中英混合。一作 赵哲 PHD毕业于密歇根大学，和MMoE的一作马家祺一个学校的，本文是赵哲最近在google任research scientist完成的。 本文应用于YouTube的多目标排序系统。主要面对两个问题，第一个就是存在多个相互竞争的排序目标，第二个就是用户反馈中隐含了选择偏见。为了解决这些问题，本文用MMoE优化多目标排序，用W&D减轻选择偏见。 现实世界的大规模视频推荐系统存在的挑战，包括： 1 不同的有时甚至相互冲突的优化目标。例如除了观看之外，还希望推荐用户评价高并与朋友分享的视频。 2 系统中的隐式偏见。例如用户点击并播放一个视频可能是因为其排序靠前而不是用户真的最喜欢它。因此使用从当前系统生成的数据训练模型将产生偏差，从而导致反馈循环效应。 为了解决这些挑战，本文提出的模型如图1所示。它继承自Wide & Deep，采用了MMoE进行多任务学习。此外，还引入了一个浅层塔来消除选择偏差。 具体来说，首先将多个目标分为两组：1）互动目标，例如点击，与推荐视频的参与程度 2）满意度目标，例如点赞，评分。使用MMoE来学习多目标，混合专家架构将输入层模块化为专家，每一个聚焦于输入的不同方面。这提升了从多种模态生成的复杂特征空间学习到的表示。接着利用多门网络，每个目标选择专家来决定是否与其他专家共享。 为了消除偏差，提出了如图1左侧所示的浅层塔结构，它以与选择偏差相关的特征作为输入，例如排序顺序。输出是一个标量，作为主模型最终预测的一个偏置项。 本文主要贡献如下： 工业推荐系统的主要挑战是可扩展性。主要依赖隐式反馈。 举个例子，一个用故可能点击了一个item，最终却不喜欢它。用户仅仅对点击过或有交互过的item才能进行评分。 用户和当前系统会有选择偏差，例如，一个用户点击过一个item只是因为它被当前系统选出来了，即使它不是整个库中最有用的一个。因此，基于当前系统生成的数据来训练新模型会导致偏向当前系统，引起反馈循环效应。 《Evaluating the accuracy of implicit feedback from clicks and query reformulations in web search》这篇07年的文章最先分析了隐式反馈中的位置偏差和展现偏差。 一个最常用的实践是在训练时将位置作为模型的输入特征，在预测时将其移除。 除了之前提到的挑战，现实世界的大规模推荐系统还有如下因素需考虑： 采用多种候选生成算法，每一种作为查询视频和候选视频之间相似度的一方面。 排序系统学习两种类型的用户反馈：1）交互行为，例如点击和观看。2）满意度行为，例如点赞和退出。将排序问题建模为多目标分类问题和回归问题的组合。本文采用point-wise的方法，主要是出于性能的考虑，pair-wise和list-wise限制了系统的可扩展性。 为了描述方便，本文将所有目标分为两类：互动目标和满意度满标。互动目标包括点击和观看，将点击定义为二分类任务，将观看时长定义为回归任务。类似的，对于满意度目标，将是否喜欢视频定义为二分类任务，将打分定义为回归任务。分类任务用交叉熵损失，回归任务用平方损失。 对于每个候选，使用加权乘法形式的组合函数输出组合分数，这些权重是在考虑最佳用户互动和用户满意度之上手动调节的。 MMoE是一种软参数共享模型，其核心理念是用MoE层替代共享ReLu层，同时为每个任务增加一个单独的门网络。 本文提出增加的专家位于共享隐层之上，如图2b所示，这是因为MoE层能从输入中学习到模块化信息。当直接在输入层或较低的隐层使用时，可以更好地模拟多模态特征空间。然而，直接应用MoE层在输入层将显著增加模型的训练和预测成本，这通常是因为输入层的维度远高于隐层的维度。 公式这里基本上就照搬MMoE原作的公式了，值得注意的是，与Hilton等人在17年提出的稀疏门控网络（在该网络中，专家的数量可能很多，并且每个训练样本仅利用顶级专家）相反，本文使用的专家相对较少。这是因为为了鼓励通过多个门控网络来共享专家并提升训练效率。 在YouTube的排序系统中，查询是当前观看的视频，候选是相关的视频，用户通常会倾向点击并播放展示位于前列的视频，而忽略了他们本身真正的偏好，无论是与观看视频的相关性还是用户偏好来说都是这样。建模并消除选择偏差可以提升模型质量，并打破选择偏差带来的反馈循环问题。 本文模型采用类似Wide & Deep架构，将模型分为两个部分，主塔的用户效用部分和浅层塔的偏差部分。具体来说，用诸如位置特征等偏差特征训练浅层网络，之后将其与主模型相加作为最终的logit，如图3所示。 训练时，所有曝光位置的都使用，用10%的丢弃率丢弃改特征，以防止模型过度依赖位置特征。在serving时，位置特征被视为缺失。将位置特征与设备特征交叉的原因是，在不同类型的设备上观察到不同的位置偏差。 对于本文模型和基线模型，训练都是一直持续的。离线实验监控的指标是AUC和平方损失。在线实验做A/B测试，同时考虑serving时的性能开销。 如图2a所示，出于性能考虑，本文的MMoE层共享一个底层隐藏层，而不是直接共享输入层。 如表1所示。 如图5所示，绘制了每个任务每个专家在softmax门网络上的累积概率。可以看到一些互动任务同其他共享任务共享多个专家。而满意度任务倾向于共享一个小子集上的专家。 另外，本文也验证了直接在输入层上使用MMoE，发现在线实验结果与图2b相比并没有显著差异。 这一节介绍了MMoE的一个坑，hinton等人在17年的《Outrageously large neural networks: The sparsely-gated mixture-of-experts layer》指出softmax门网络会有不平衡的专家分布问题，即门网络闭合时专家上的多数值都为0。本文发现有20%的几率会出现这种极化现象。为解决该问题，在门网络上使用dropout，通过以10%的几率将专家的利用率设置为0并重新归一化softmax输出，本文消除了们门网络的极化问题。 如图6所示，位置越前CTR越高。在更前面更高的CTR综合了item是更相关的以及位置偏差的影响。 方法A：直接使用位置特征作为输入 方法B：对抗学习 本文感觉行文有点啰嗦，许多相同的话在不少地方重复。读这篇前一定要先读MMoE的原作，因为这篇基本上就是MMoE的应用，加了个偏置网络用来消除偏置，如果只有MMoE，这篇文章铁定发不出去。另外本文有不少小trick可以借鉴，比如MMoE的专家不能从太底层开始，比如训练时丢弃10%的偏差特征，比如用设备与位置做特征交叉等等。另外，从实验上来看，指标的相对提升也没有特别明显。 YouTube排序系统中的多目标问题和训练数据偏置问题 应用MMoE，和偏置网络分别解决，最后融合在一起 只在YouTube自己的数据上做了实验，给出的提升是相对提升，感觉不是很大 最后多目标分数的融合还是根据经验手调的 拿来主义，工程应用论文 MMoE论文笔记
Neural Collaborative Filtering vs. Matrix Factorization Revisited
这是一篇引起轰动的论文，motivation就是NCF[2]在推荐系统的引用量太高了(2427+)，作者通过实验与分析，说明 dot product在推荐系统的计算相似度任务里效果比MLP更好 ，大家别被带偏了。
Dot Product就是矩阵分解，
； 与 可以理解成user与item的embedding。
MLP是用神经网络计算，先随机初始化user与item的embedding，然后concat起来经过DNN学习得到偏好得分，
GMF是[2]提出的 与 的element-wise的加权Dot product，是矩阵分解的泛化版本。
NeuMF把embedding的一部分用来做MLP，一部分用来做GMF。
作者经过试验证明，经过调参的Dot product效果远好于MLP以及NCF提出的NeuMF(MLP+GMF)。
作者分析了，GMF引入了权重参数 ，如果L2正则化不加上 ，实际上学习没有任何效果；引入更多的参数，实际上需要更多数据来学习。
作者构造了一些Dot Prodcut的数据，用MLP去学习。
从实验结果中可以看出，MLP的学习误差非常大，RMSE大于0.02；说明如果问题的归纳偏置（induction bias，即问题的假设）是Dot Product的，MLP是不能很好地学习出来的。
作者举了几个例子，虽然MLP是万能模拟器，但是在很多领域是不能取代特定的归纳偏置的，比如CNN里的卷积、池化；RNN的参数共享；transformer结构等。在推荐系统里，可能归纳偏置就是Dot Product。 也可以看出，大部分情况下是从MLP往特定结构走，而不是往回走（再搞一个大新闻）。
思考： （1）看论文不可尽信，要有自己的思考，更要动手去实践。 （2）不要总想搞一个大新闻，要多思考问题的本质。
[1] Rendle, Steffen, et al. "Neural collaborative filtering vs. matrix factorization revisited." Fourteenth ACM Conference on Recommender Systems. 2020.
[2] He, X., Liao, L., Zhang, H., Nie, L., Hu, X., and Chua, T.-S. Neural collaborative filtering. In Proceedings of the 26th International Conference on World Wide Web (Republic and Canton of Geneva, Switzerland, 2017), WWW ’17, International World Wide Web Conferences Steering Commit- tee, pp. 173–182.