请问要写关于沈从文湘西系列小说的论文，除《边城》外还有哪本比较好写吗？

我能不能问一句，你是本科还是硕士如果是本科学年论文你的话，湘西系列小说范围太大，你可以选取一个方面，比如湘西世界里体现的生命庄严，比如“硬汉形象”；如果一定要做的大一点，实际上应该读的还挺多。《从文自传》《湘行散记》《沈从文短篇小说选集》《沈从文文集》等等等等都对湘西世界颇有记录。另外我们本学期上的沈从文研究，老师专门抽出短篇小说《雨后》《爱欲》《月下小景》《柏子》《丈夫》精讲，个人认为《三个男人（子）和一个女人》《媚金豹子和那羊》对于沈从文湘西世界中的所谓“爱”意义重大。

议论文是不少考生在高考作文中选择的文体。议论文写作的核心目的是以理服人。有些考生在议论文中所讲的道理难以让人信服，其问题主要出在三方面：扣题缺少准度、分析缺少力度、思想缺少高度。

一、扣题缺少准度

扣题缺少准度主要表现为转移论题、偷换概念和混淆概念。

1转移论题

论题是议论文写作的起点。考生在写作中要贯穿全文，不能有丝毫的旁逸斜出。有考生开篇就跑题。

作文题目近年来，一些流行语令人印象深刻。如：2019年的“阿中”“垃圾分类”“硬核”等，2020年的“逆行者”“云监工”“飒”等，2021年的“强国有我”“碳中和”“格局”等。纵观近几年的流行语，它们引发了你哪些联想与思考？

有考生写道：

流光易逝，华表千年，中国已经走过了五千年。从三皇五帝到当今“十四五”，时代正在高速发展，随之而来的，是向前发展时同行的潮流。

潮流可以带动发展，是时代进步的启明星。潮流有着群体性与引导性，可以引发大规模趋向性运动。工业革命时期，工业机械的使用成为潮流，英国、美国响应潮流，成为世界霸主；反之，如大清闭关锁国，拒绝跟随潮流，最后受人欺负。

潮流可以影响社会风气。潮流有着强大的趋向性，引起人们的模仿……

题目要求谈由“近几年的流行语”引发的思考，也就是要从流行语的发展中比较分析其蕴含的深层的社会问题。该考生不提“流行语”，而是另起炉灶，泛泛地谈对“潮流”的认识，属于跑题。

还有一种情形是中心论点符合题意，却在行文过程中与中心论点渐行渐远。比如：

敢于挑战常识，需要不懈的付出。农业科学界普遍存在着野生稻不可杂交出优质稻的常识。但一位敢于挑战常识的耕耘者，用不懈的付出，让这一常识推陈出新。他是一位真正的耕耘者。当他还是一位乡村教师的时候，已具备颠覆世界权威常识的胆色；当他名满天下的时候，仍然继续专注于田畴。他，就是杂交水稻之父——袁隆平。因为有着不懈的付出，这杂交水稻的常识在他手中推陈出新；因为有着不懈的付出，他让全国人民的米袋满了起来。

这段话的首句是论点，中间部分叙述袁隆平“挑战常识”的事例，是对论点的证明。结尾句讲付出与推陈出新、百姓米袋的关系，与论点强调的“挑战常识与不懈付出的关系”不相吻合。

2偷换概念

无论是观点与论题，观点与材料，还是分析材料的过程，其中的关键概念都要与论题保持一致，不能一会儿论此，一会儿论彼。比如：

有志者事竟成。范仲淹年青时刻苦学习，虽然生活艰难，有时稀粥一天也只能吃两顿，但他立下了“先天下之忧而忧，后天下之乐而乐”的宏大志向，发奋努力，终成一代名臣，名垂青史。罗斯福在政坛崭露头角，不料在39岁那年患了脊髓灰质炎而瘫痪。但他身残志坚，竟当选美国总统。他的成功，难道不是他那顽强的意志所起的作用吗？“古之立大事者，不惟有超世之才，亦必有坚忍不拔之志。”请牢记：有志向的人，做事一定会成功。

观点句“有志者事竟成”中的“志”是“志向”的意思，而“古之立大事者，不惟有超世之才，亦必有坚忍不拔之志”的“志”是“意志”的意思，且罗斯福“身残志坚”的事例强调的也是“意志”。可见，材料与观点中“志”的内涵不一致。

3混淆概念

对于内涵丰富的概念，特别是与论题相关的重要概念，考生在写作文时要保持清晰的确定性，前后要有一致的解释。比如：

球王贝利踢进第一千个球时，记者问他哪一个球踢得最好，他回答“下一个”。作家王蒙出名以后，有人问他哪一部小说写得最好，他回答“下一篇”。他们之所以能取得优异的成绩，一个重要原因就是他们不断进取，不断奋斗。

毛泽东、周恩来年轻时，也是因为不满现状，所以立下改造旧中国、改造旧社会的宏伟志向，投身革命斗争。

第一段的“不满现状”是不甘心不满足已达到的水平或已取得的成绩；第二段的“不满现状”是痛恨当时黑暗的社会现实。前后两段话所说的“不满现状”，概念的内涵不一致。

二、分析缺少力度

议论文以理服人，靠的是说理，说理就要分析、阐述。在议论文写作中，有的考生往往观点先行，再去寻找与观点一致的材料。他们以为只要事实论据多，文章的说服力就强，于是形成“以例代议”“堆积材料”的写作习惯。比如：

不仅在国内，在国外我们也可以看到很多关于看似意料之外实则尽在情理之中的例子。马克思在穷困潦倒时仍著成《资本论》；居里夫人成为全世界唯一一位两获诺贝尔奖的女科学家；牛顿发现能量守恒与转化定律；玻尔组建了世界上一流的量子物理学派；贝尔发明了电话……这些出人意料的累累硕果与勇于质疑、敢于创新的科学精神是分不开的，与他们坚持不懈的努力奋斗是分不开的。

这段文字是典型的“名人开会”。罗列了很多事例，但并没有分析“这些出人意料的累累硕果”为什么和“勇于质疑、敢于创新、坚持不懈的努力奋斗”的精神是分不开的，也就不能证明“看似意料之外实则尽在情理之中”的观点。

“优秀的议论文不仅建立在可靠的证据之上，而且建立在用证据证明论点的分析之上。”（叶黎明《写作教学内容新论》）论据是用来分析的，论据只有通过分析，通过揭示材料与论点之间的内在关系，找到对论点的支撑点、契合点，才能有效证明论点，才具有说服力；否则，论据本身无论多么丰富、真实，也只是一个或一些缺乏说服力的材料。因此，议论文写作需要的是论证观点而不是印证观点，否则写出来的文章顶多算是“证明文”，而不是议论文。

三、思想缺少高度

思想缺少高度，主要是指文章的立意肤浅，论证了许多，但只是停留于事物表层，或从一个表面滑向另一个表面。比如：

对我而言，我会选择不清除任何一个成长痕迹。

……我不会清除记忆中那些成功和失败的时刻。回忆成功，使我自豪。每一个人的人生都需要自我肯定，它带给人们乐观向上的精神和不畏困难、继续为梦想奋斗的勇气。“失败乃成功之母”，同样，每个人都需要从某些人生时刻吸取教训，才能将日后的人生路走得更加平坦……

同样，对于一个民族、国家来说，保留成长痕迹也很有必要……

类似于这样从“个人”说到“企业”再说到“民族、国家”的“三段式”论证，在考生的议论文写作中并不鲜见。古人云：“千古文章意为高。”思想是作文的灵魂。思想的高度，才是写作的高度。正如余岱宗在《高中议论文写作：审视材料与拓展思路》中所说，“议论之‘议’在于能针对一个问题说明形成问题的诸种原因，分析问题的多种可能性，在多种原因和可能性中，说出选择某种判断的理由。这意味着，议论要在多种成因和可能性中有所辨析，不辨析就难以形成一篇有说服力的议论文。”

扣题缺少准度、分析缺少力度、思想缺少高度是考生写作议论文得分不高的主要问题。它们直接影响议论文的说服力。要克服这些问题，考生就得下一番功夫，要多读多思多修改，从根本上把握议论文写作的思维和方法。

欧诗漫面膜和自然堂面膜都是市面上备受消费者喜爱的两个品牌。它们各自有着独特的特点和优势，让人难以抉择。下面我将从多个角度为大家分析比较，帮助你做出更明智的选择。

让我们来看一下产品成分。欧诗漫面膜以其天然植物提取物和温和的配方而闻名。这些成分能够有效滋养皮肤，提供长效保湿和舒缓效果。而自然堂面膜则注重使用纯净的天然植物成分，如茶树精油、薰衣等，具有抗氧化和修复肌肤功能。因此，在成分方面，两个品牌均有自己的特点。

我们来比较一下使用体验。欧诗漫面膜质地轻盈细腻，容易被皮肤吸收，并且不会在脸上残留黏腻感。它的质地使得敷在脸上时感觉非常舒适，可以有效缓解肌肤干燥紧绷的问题。自然堂面膜则具有浓郁的香气和滋润的质地，让人感觉非常享受。使用后，皮肤会变得柔软光滑，给人一种焕然一新的感觉。

除了以上方面，我们还需要考虑到产品的价格和适用人群。欧诗漫面膜价格相对亲民，适合大众消费者购买和使用。而自然堂面膜则定位稍高，适合追求更高端护肤品牌的消费者选择。根据个人肤质不同，对于不同的面膜可能会有不同的效果。因此，在选择之前，最好根据自己的肌肤需求做出判断。

总结起来，欧诗漫面膜和自然堂面膜都是具有优势的品牌。欧诗漫以其天然温和、保湿舒缓的特点深受消费者喜爱；自然堂则以纯净天然、滋润修复为卖点备受瞩目。在选择时，你可以根据自己的需求和预算来做出决策。无论你选择哪一个品牌，只要适合你的肌肤，并且有良好的使用体验，都是对你肌肤健康的一种保护和呵护。

希望以上分析可以帮助你做出明智的选择。记住，面膜只是护肤的一部分，合理饮食、良好作息和适当运动也同样重要。让我们一起拥有美丽健康的肌肤吧！

2017年 10 月 11 日，阿里巴巴达摩院正式成立，马云的一句 “ 活得要比阿里巴巴长”，让外界对它的未来发展，有了更 “意味深长” 的期待。

在近三年多的时间里，达摩院在人工智能学术科研与应用上齐头并进，无论在国际学术顶会以及各类竞赛上，还是在推动学术成果的商业化落地上，都交出了亮眼的成绩单，这也反过来吸引着人工智能领域的顶尖研究者们都汇聚于此。

对于这些顶尖研究者们目前正在开展的研究工作，想必大家都充满了探知欲！

7月9日（晚）19:30-21:00 ，AI科技评论就将联合阿里达摩院，外加阿里集团在学术科研上同样“坚挺”的存在——阿里安全，给大家呈上一场 “ACL 2020 系列论文解读·阿里巴巴专场” 直播！

届时，来自阿里达摩院机器智能技术团队和阿里安全安全智能团队的 6 位高级算法专家、算法工程师以及研究型实习生们，将分别聚焦于多任务学习、少样本文本分类、 任务型对话、神经机器翻译、知识蒸馏、跨域分词标注等NLP 细分领域，为大家带来一场论文解读盛宴！

本次分享的嘉宾具体都有谁呢？下面一一揭晓：分享主题： SpanMlt：一种基于跨度的用于属性词和观点词配对抽取的多任务学习框架 分享嘉宾：黄龙涛

分享内容：

属性词和观点词抽取，是细粒度的基于属性的情感分析（ABSA）的两个关键问题。属性－观点词对（ aspect-opinion pairs）可以为消费者和观点挖掘系统提供相关产品或服务的全局配置文件。但是，传统方法无法在没有给定属性词和观点词的情况下，直接输出属性－观点词对。尽管研究者最近提出了一些共提取方法来联合提取属性词和观点词，但是并不能配对抽取两者。为此，本文提出了一种端到端方法来解决属性词和观点词的配对抽取（PAOTE）任务。此外，本文从联合词和关系抽取的角度而非此前大多数工作中执行的序列标注方法的角度，来处理该问题。我们提出了一个基于共享跨度的多任务学习框架，其中在跨度边界的监督下提取词。同时，使用跨度表示法来联合识别配对关系。大量实验表明，我们的模型始终优于 SOTA 方法。

分享内容：

现有的工作往往使用元学习（meta learning）的方法，通过在一系列meta-task中切换来获得少样本学习的能力，但是在task间的切换会带来遗忘的问题，因此考虑使用记忆机制来辅助meta learning的训练。在本工作中，我们将监督学习得到的分类参数作为meta learning的全局记忆，并提出了动态记忆路由算法，基于dynamic routing的方式将全局记忆信息融入到meta task的训练和预测阶段。此外，动态记忆路由算法还可以使用query信息来增强归纳类别表示的能力，对口语场景下的语言多样性表达有更好的泛化性能。在中英文场景少样本分类任务数据集上，均取得了STOA的结果。

分享主题：多领域对话动作和回复联合生成分享嘉宾：田俊峰

分享内容：

在任务型对话中，产生流畅且信息丰富的回复至关重要。现有pipeline方法通常先预测多个对话动作，然后使用它们的全局表示来辅助回复生成。这种方法有两个缺陷：第一，在预测对话动作时，多领域的固有结构被忽略了；其次，在生成回复时没有考虑到对话动作和回复之间的语义联系。为了解决这些问题，我们提出了一种同时生成对话动作和回复的神经联合生成模型。与以往的方法不同，我们的对话动作生成模块可以保留多领域对话动作的层次结构，同时我们的回复生成模块可以动态地关注到相关的对话动作。在训练时，我们采用不确定性损失函数来自适应地调整两个任务的权重。在大规模MultiWOZ数据集上进行了评估，实验结果表明，我们的模型在自动评估和人工评估上都比SOTA模型有很好的提升。分享主题：神经机器翻译的多尺度协同深度模型分享嘉宾：魏相鹏

近年来，神经机器翻译(NMT)方法凭借其出色的翻译性能在大量应用场景中取代了基于统计的机器翻译方法。目前，制约NMT模型性能的因素主要包括模型的特征表达能力和数据规模。因此，我们提出一种基于多尺度协作(MSC)机制的深度神经机器翻译模型，以提高模型对底层（具象化）和高层（抽象化）特征的建模能力。

实验证明，(1) 多尺度协作机制有助于构建极深的NMT模型的同时带来性能上的提升，(2) 基于MSC机制的深度NMT模型能够更好地翻译语义结构复杂的自然语言句子。

分享主题：多语种序列标注的结构级知识蒸馏分享嘉宾：王新宇

多语言序列标注是一项使用单一统一模型预测多语言标签序列的任务。与依赖于多个单语模型相比，使用多语言模型具有模型规模小、在线服务容易和对低资源语言通用的优点。然而，由于模型容量的限制，目前的多语种模型仍然远远低于单独的单语模型。本文提出将多个单语言模型（teachers）的结构知识提取到统一的多语言模型（student）中，以缩小单语言模型与统一的多语言模型之间的差距。我们提出了两种基于结构层次信息的知识挖掘方法：

分享主题：跨域中文分词的远程标注与对抗耦合训练分享嘉宾：丁宁

完全监督神经方法在中文分词（CWS）的任务上取得了重大进展。但是，如果由于域间的分布差异和集外词（OOV）问题导致域迁移，则监督模型的性能始终一直大幅下降。为了实时缓解此问题，本文将跨域中文分词的远程标注和对抗性训练直观地结合在一起。

7月9日，6位来自阿里的分享嘉宾，与大家不见不散！

ACL 2020原定于2020年7月5日至10日在美国华盛顿西雅图举行，因新冠肺炎疫情改为线上会议。为促进学术交流，方便国内师生提早了解自然语言处理（NLP）前沿研究，AI 科技评论将推出「ACL 实验室系列论文解读」内容，同时欢迎更多实验室参与分享，敬请期待！

西藏高原由沧海变成，已经被越来越多的科学考察、发现所证明。但是，高原并非在一朝一夕形成，而是相当缓慢地变化着，只是近几百万年的地壳变动，才使高原隆起急剧上升。青藏高原的形成成因非常复杂。青藏高原是由可可西里－巴颜喀喇山、羌塘－青南、冈底斯山－念青唐古拉山和喜马拉雅山五大版块构成的，这五大版块在构造形态上有许多共同性。在地形上每一块体南部为山系，山脉不对称，南陡北缓，北部为湖区或谷地；南部通常为正常浅海相沉积，北部为大洋深海沉积；南部有一条花岗岩类岩浆杂岩带，以及与其共生的高温变质带，北部有一条断续的超基性岩带，以及与其伴生的低温浅变质的挤压揉褶带，构造变形上南部宽缓而较轻微，属断块式脆性变形，北部变形紧密而强烈，属塑性揉褶；各块体上的推伏断裂均一致地由北向南逆冲。所有这些共性所反映它们的形成方式相同，都与喜马拉雅山的形成相类似。

从地质上看，五大块的构造运动和形成时间有规律地由北向南依次变新，昆仑山形成于二亿二千多万年前的海西运动，二迭纪末海退成陆；可可西里－巴颜喀喇山脉形成于一亿三千万年前的时期燕山运动，晚侏罗世海退成陆；冈底斯－念青唐古拉山形成于七千万年以来的喜马拉雅运动，晚始新世海退成陆。构造运动的这种有规律的迁移，并与欧亚大陆相碰撞而拼合来解释。根据地貌和第四纪地质等方面的综合研究，各块体形成后并未马上抬升成为高原。高原是在五大块全部拼合成陆以后，由于印度次大陆的继续北移契入，北面又受到了塔里木－柴达木等阻挡，在南北力量的挟持以及地壳下训热力作用下快速升起而成的。所以青藏高原是板块碰撞拼全的高原，它的活动方式至今没有改动，高原至今仍然在上升。据大地测量等资料，喜马拉雅山每年约上升1厘米。所以，青藏高原是世界上最高大、最年轻的高原。

被称为“世界屋脊”的青藏高原，雄踞在亚洲的中部，位于我国的西南部。它南起27°N，北止40°N，纵跨纬度13°；总面积约230万平方千米；平均海拔4500米。地域之广阔，地势之高峻，是世界上其它高原所无法比拟的。如此雄姿，不仅使它本身形成了非地带性的高原气候，而且由于它的存在，对我国其他地区的气温、降水、水文等都有着巨大的影响，从而影响了我国的自然地理环境。

首先，在冬季，北半球的西风带南移。由于高大的青藏高原的存在，使三四千米以下的西风气流分成南北两支急流。北支在高原西北部形成西南气流，给高原北侧，新疆中部的天山地区带来一定的湿度。当这支气流再绕过新疆北部以后和南下的极地大陆气团汇合，转为强劲的西北气流，使我国冬季风的势力增强，并向南伸展得很远。南支气流在高原的西南部形成西北气流，使本来就很干燥的南亚西北部雪上加霜，更加干燥（在世界气候类型困上，那里属于热带沙漠气候）。当这股气流绕过高原南侧以后，又转为西南气流，掠过我国的云贵高原以后，继续向东北方向运动，直至长江中下游地区。这股来自低纬度的暖性气流又往往是造成我国江南地区“暖冬”天气的重要因素。这两支气流在长江中下游地区汇合东流，形成北半球最强大的西风带。这支西风对我国东部地区的天气变化起着重要的作用（我们在卫星云图上所看到的过往我们上空的云，总是自西向东运动，其动力就是这股西风）。与此同时，位于我国青藏高原东侧的四川盆地和汉中一带，恰在这南北两支气流之间，风力微弱，空气稳定，成为“死水区”，多云雾天气。

在夏季，北半球的西风带北移，西风南支气流消失，夏季风迅速向北推进，气旋活动频繁，我国东部季风区自南向北先后进入雨季。到了10月以后，西风又逐渐南移，南支西风气流又重新出现，夏季风复退，冬季风又控制了我国东部南北。综上所述，如果没有青藏高原的阻挡，我国大部分地区均能受到盛行西风带的影响，如是那样，我国的气候将会是另一番景象。

其次，由于青藏高原本身所产生的明显的热力作用，这种热力作用直接影响着东亚的季风环流。冬季，巨大的高原，因地势高，冰雪面积大，空气稀薄，辐射冷却快，降温迅速，成为一个低温高压中心。此中心一方面使高原南侧的西风南支气流得到加强；另一方面，这个低温高压中心又迭加在蒙古高压之上，更加强了冬季风的势力，使我国东部南北温差增大。夏季，青藏高原上为一热低压。这个热低压又强烈吸引着来自南亚地区的西南暧湿气流，使西南季风的势力加强，给江南北部、江淮地区送去大量的降水。特殊年份也能影响到川西、陇东地区。同时，在高原的高空，又常形成一个暖性高压。这个暖性高压在东移时，常给川、陕、云、贵各省带来干旱天气，使长江中下游地区的梅雨结束，转为伏旱。这个暖性高压，如果位置偏西，则长江中下游、川东和贵州多雨；而川西与华北少雨；如果位置偏北，则长江流域少雨干旱；偏南则长江流域多雨偏涝。

由于青藏高原的屏障作用，它直接阻挡了我国西部地区对流层下部南北冷暖气流的交流。冬季，冬季风阻滞于高原以北，使我国西北内陆冷高压势力更强，并使冷空气南下的途径偏东；使位于高原南面的印度比其东西同纬度地区气温高而气压低，气温年较差小。夏季，青藏高原阻挡了西南季风深入北上，使大量的来自印度洋热带洋面上的暖湿气流只能大部停留在南亚的东北部和青藏高原的东南一隅；一部分掠过高原东南边缘的西南暖湿气流进入我国的西南。华中和华东地区，加强了这些地区的降水过程，而我国西北地区则由于青藏高原的屏障作用干旱少雨。

论文链接： Going deeper with convolutions

对于深度学习来说，目前的共识是更深的网络的性能要优于较浅的网络，所以论文中所做的就是在充分利用计算机资源的基础上，精心设计网络的结构，使网络更深。

1、目前普遍的较为高效的神经网络，是由一系列堆积的卷积层，后面跟有池化层跟全连接层，如果出现过拟合，可以采用dropout进行处理。

2、由network-in-network这篇paper的启发，11的卷积可以用来进行降维打破计算的瓶颈，同时也能增加网络的宽度，保持网络较高的性能。

3、一般来说，如果直接增加网络的深度，会带来两个比较严重的问题：第一个是网络规模太大，参数太多容易过拟合，第二个是计算资源会急剧的增加，即便只有两个卷积层连在一起，其计算量也会以幂级增加。解决这个问题的方法是使用较为稀疏的结构，不仅在全连接层进行这种操作，甚至卷积层也需要这么做。Arora等人的研究表明，如果数据集的概率分布可以用一个稀疏的网络进行表示，那么可以通过分析每一层的激活值的相关性，将相关的神经元进行聚类，进而将网络搭建起来。这也符合赫布原则（赫布原则是神经学的理论，没搞懂跟这地方是怎么联系起来的，有待后续的学习）。然而，目前的计算机手段处理稀疏的数据结构是非常低效的，所以采取了一种折中的办法，即将稀疏的矩阵聚类到相对密集的子矩阵，当进行稀疏矩阵相乘的操作时就能达到较高的效率。关键是如何做到这点，首先，卷积肯定是密集型操作，这个无法改变，而且也有利于计算，关键是在其他方面下功夫，可以理解成以下几点，空间上的稀疏性，采用卷积本身就是一种稀疏，其对图像的局部进行操作，而且采用了不同大小的卷积核，33的卷积核可以理解成55的稀疏表示，这也是一种稀疏；特征上的稀疏性，根据赫布原则（一起激活一起连接，即相关性强的特征聚集在一起），特征图可以由强相关性的特征图群聚而成，因此使用了不同级别的特征图，例如33，55等，其内部特征高度相关，这其实也就是多尺度。

1、原始结构：

网络实现的关键是找到某些密集成分，来拟合网络的局部稀疏结构，为了做到这点，网络去除了全连接层，同时构造了上述的结构，体现了聚类的思维，这样做增加了网络的宽度，同时增加了网络对多尺度的适应性。这个地方卷积核的尺寸不具有特殊的含义，仅仅是为了方便最终组合特征图。然而，这样的结构也有一个较大的缺点，那就是55卷积的存在，会极大的增加运算量，同时又有池化层的存在，进行特征图的融合增加输出的数量，使得网络在计算上并不高效。

2、改进结构：

为了减小运算量，在进行卷积之前加入了11的卷积进行降维，使得这种结构的高效成为可能。

3、整个结构：

网络的前端还是普通的卷积网络结构，在后面使用了inception网络的堆砌，同时，在网络的下面，还延伸出了几个分支，这是用来进行辅助分类。

论文链接： Batch Normalization

当对深层的网络进行训练时，由于模型的参数不断的改变，每一层输入的概率分布都在不断的变化，这就要求使用非常小的学习率，同时需要非常谨慎的设置参数。而且由于非线性饱和的存在，会使得网络非常难以训练，这个现象被称之为 internal covariate shif。

1、Experience Covariate Shift现象，即系统输入的分布发生了改变，解决方法是领域适应与迁移学习，作者发现，如果输入的分布更有利于训练。

2、非线性饱和问题：网络越深，越容易出现梯度的弥散，而数据的分布不一致，使这种情况出现的概率增加。

3、internal covariate shif问题，即网络训练过程中网络参数不断变化，导致各层的输入分布变化，使得网络不易训练。

1、由经验可知，对输入进行白化处理，可以加快收敛，因此，为了解决每层的输入不一致的问题，考虑对每一层的输入进行归一化，使其分布一致。

2、理论上来说，应该在每一层的非线性激活之后进行归一化操作，然而，在训练初期分界面还在剧烈变化，计算出的参数很不稳定，所以一般讲归一化的操作放在非线性激活之前，这也是现在网络所采用的方式。

3、论文中提出的批量归一化，并非只是简单的白化处理，在计算梯度时就需要考虑归一化的问题。因为网络学习的本质就是学习数据的分布，如果只是简单的归一化会破坏这种分布，论文给出的解决办法是归一化之后要通过均值和方差两个系数还原这种分布。（在别处还看到另一种说法，就是如果只是单纯的归一化，一旦进行反向传播操作，会撤销这种归一化的处理，所以在最后要通过均值和方差两个系数来避免这种情况的出现）

4、通过论文中这种归一化的操作，不仅可以加快训练，而且在一定程度上可以解决过拟合问题。

论文链接： Rethinking the Inception Architecture for Computer Vision

相较于AlexNet与VGGNet，googleNet的计算量与参数无疑少了许多，但是，由于网络的复杂性，使得网络不易于向更大规模进行扩展，论文主要是为了解决这个问题。

1、通用的网络设计原则：

1）避免表示瓶颈：前向传播网络可以看作一个有向无环图，从输入到输出，其特征图应该缓慢的减小。我们不能仅仅通过维度来读取的信息，因为在维度增加的过程中已经丢掉了许多重要的特征，例如相关结构。维度信息只是对信息的粗略估计。对于表示瓶颈的简单理解就是网络中层的池化等操作使得特征图尺寸明显减小。

2）高维度的特征在局部更加容易处理，在网络中增加非线性关系，可以使训练更加快速，另外层宽一些还是有好处的，可以增加其表示能力；

3）在网络的深层，空间的聚合可以在较低维度上进行，这样不会损失表示能力，例如在33、55卷积之前进行了降维处理。

4）平衡网络的深度与宽度，理论上来说，同时增加网络的深度与宽度都能增加网络的性能，但要考虑计算资源的分配。

2、使用较大的卷积核往往意味着巨大的运算量，理论已经证明，往往可以通过几个较小的卷积核来代替较大的卷积核，从而使得计算量的下降。

1、

使用33卷积代替55卷积，且使用了非线性激活。

2、尝试进一步减小网络的计算量，结果发现，非对称的结构要比进一步减小卷积核的尺寸更加高效，即将nn的卷积分解为1n与n1，网络设计如下：

实践证明，在网络的开始应用这种结构效果并没有明显的改善，这种网络适用于中等的网络（特征图的大小为mm，m介于12到20之间）

在高维特征上，如下的网络结构更好一些：

3、采用了辅助分类结构，实践证明，在初期辅助分类结构并没有加速训练过程，反而在训练将要结束时开始发挥作用，辅助分类结构在这里起到了一个正则化的作用，实验证明，辅助分类结构使用了batch-normalized或dropout时，主分类器效果会更好。

4、一般来说，会使用池化来减小特征图的尺寸，但为了避免表示瓶颈，在池化之前会增加特征图的维数，这会导致计算量的增加，论文提出了一种并行结构，使用步长为2的卷积与池化并行操作，之后将两者的响应结合在一起，这样既能降低维度，又不至于造成信息提取上的损失。

论文链接： Inception-v4, Inception-ResNet

ResNet网络取得了较好的效果，所以尝试结合ResNet

论文提出，残差连接并不是训练较深网络的必要条件，但残差连接的确可以提升训练速度，且不会提高运算量。

1、incetion v4:

其中，Stem的结构如图所示：

inception-A、B、C的结构如下所示：

为了减小运算量，网络加入了reduction结构，如下所示：

整个网络思想与前几个版本并没有太大的不同，这里不再赘述。

2、inception-resnet v1与inception-resnet v2：

两者的框架与inception v4大致相同，其中的改进就是将inception模块变成了inception-resnet模块，如下所示：

另外，引入了残差连接之后，如果一个残差连接的滤波器过多，很可能出现输出都是0的结果，论文中给出的解决方案是在残差函数之后，激活函数之前引入一个尺度变换，如下所示：