麻省理工学院学位论文

克劳德·艾尔伍德·香农（Claude Elwood Shannon，1916年4月30日－2001年2月26日），美国数学家、电子工程师和密码学家，被誉为信息论的创始人。1937年21岁的香农是麻省理工学院的硕士研究生，他在其硕士论文中提出，将布尔代数应用于电子领域，能够构建并解决任何逻辑和数值关系，被誉为有史以来最具水平的硕士论文之一。1948年香农发表了划时代的论文——通信的数学原理，奠定了现代信息理论的基础。二战期间，香农为军事领域的密码分析——密码破译和保密通信——做出了很大贡献。2001年2月26日去世，享年84岁。香农出生于密歇根州的Petoskey。父亲克劳德（1862–1934）与他的姓名完全相同，是新泽西州早期移民的后裔，曾自主创业经商，也担任过审核遗嘱的法官。母亲玛贝尔·沃夫·香农（1890–1945）是德国移民的女儿，职业是语言学教师，曾长期担任密歇根州Gaylord高中的校长。香农人生的前16年都是在Gaylord度过的，他在那儿接受了公立学校教育，并于1932年从Gaylord高中毕业。香农对机械和电气电子表现出了极大爱好。他最优秀的学科就是科学和数学，并在家中制作了模型飞机、无线电控制的模型船和一个可与半英里内的朋友家联系的无线电报系统。大一点的时候，他做过西联汇款的投递员。香农孩提时期仰慕的英雄是托马斯·爱迪生，后来他才知道自己是托马斯·爱迪生的远房亲戚。他们都是约翰·欧格登（John Ogden）的后裔。约翰·欧格登是一个殖民领袖，也是许多杰出人物的先祖。布尔理论和二战前研究1932香农进入密歇根大学学习，在大学的一门课程中接触到了乔治·布尔的理论。1936年大学毕业时，香农获得了两个学士学位：电子工程学士和数学学士。不久，香农进入麻省理工学院开始研究生学习，参与了万尼瓦尔·布什的微分分析机（Differential Analyzer）的相关工作。微分分析机是一种模拟计算机，是现代电脑的鼻祖。在研究微分分析机的自组织（ad hoc）电路时，香农发现引入布尔理论的概念会带有很大的好处。在1937年硕士论文的基础上，香农在1938年发行的Transactions of the American Institute of Electrical Engineers上发表了著名论文“A Symbolic Analysis of Relay and Switching Circuits”。由于这篇论文，香农于1940年被授予美国Alfred Noble协会美国工程师奖。哈佛大学的哈沃德·加德纳称香农的硕士论文“可能是本世纪最重要、最著名的硕士学位论文”。在这篇论文中，香农证明了布尔代数和二进制算术可以简化当时在电话交换系统中广泛应用的机电继电器的设计。然后，香农扩展了这个概念，证明了基于机电继电器的电路能用于模拟和解决布尔代数问题。用电子开关模拟布尔逻辑运算是现代电子计算机的基本思路，香农的工作成为数字电路设计的理论基石，完全取代了之前盛行的ad hoc方法。Vannevar Bush建议香农将类似的数学方法应用于孟德尔遗传学，香农接受了这个建议，写出了An Algebra for Theoretical Genetics。凭此论文，香农于1940年获得麻省理工学院博士学位。1940年，香农成为普林斯顿高等研究院的研究员。在那里香农有很多机会与当时有影响力的科学家和数学家交流，比如阿尔伯特·爱因斯坦、赫尔曼·外尔和约翰·冯·诺伊曼，现代信息理论的思想逐渐在他脑海中成型。 二战期间的研究二战期间，香农加入贝尔实验室，研究火力控制系统和密码学，相关课题直属国防研究委员会领导。在贝尔实验室，香农遇到了担任数值分析员的Betty。两人于1949年结婚。1943年，香农有机会和英国数学家和密码学家艾伦·图灵合作。图灵被派到华盛顿和美国海军交流破译德国的北大西洋潜艇舰队密码的成果，并在贝尔实验室呆了一段时间。香农和图灵在一个自助餐厅见面。图灵向香农介绍了现在被称为“通用图灵机”的概念。香农对此很感兴趣，因为图灵机的概念和香农自己的很多想法相吻合。1945年，战争进入尾声，国防研究委员会NDRC的使命即将结束。在正式解散之间，NDRC决定将重要研究成果整理成册，其中有一篇论文“火力控制系统的数据平滑和数据预测”是香农和Ralph Beebe Blackman、Hendrik Wade Bode一起写的，它的思路和“通信系统中将信号和噪声相分离”是类似的，也就是说，香农在火力控制系统研究中已经发现了后来成为信息理论的基本概念和框架体系。战时香农在密码学领域的研究与通信领域的关系更加密切。1945年，香农向贝尔实验室提交了一份备忘录，题目是“密码学的一个数学理论”，之后在1949年以“保密系统的通信理论”的标题在Bell System Technical Journal正式发表，包含了很多在“通信的一个数学理论”出现的概念和数学公式。香农说，战时对通信理论和密码学的研究使他认识到“两者密不可分”。还是在贝尔实验室，香农证明了一次性密钥（cryptographic one-time pad）是无法被破译的。香农同时证明了一个无法被破译的密码系统的密钥必须有以下特征：完全随机；不能重复使用；保密；和明文一样长。战后的贡献1948年，划时代的“通信的一个数学理论”分成两部分，在7月和10月的Bell System Technical Journal发表。文章系统论述了信息的定义，怎样数量化信息，怎样更好地对信息进行编码。在这些研究中，概率理论是香农使用的重要工具。香农同时提出了信息熵的概念，用于衡量消息的不确定性。1949年，香农和Warren Weaver合著了“通信的数学理论”，包含了香农1948年的论文“通信的一个数学理论”和Warren Weaver为非专业人士写的介绍通信理论的内容。Warren Weaver指出，在信息理论中"information"这个词不是指“你说了什么”，而是指“你能够说什么”，也就是说，信息表示人们可有多少选择。之后，John Robinson Pierce在“Symbols, Signals, and Noise”这本书中也对香农的概念作了通俗的介绍。1951年，香农写了"Prediction and Entropy of Printed English"，说明信息基础理论能够应用于自然语言和计算机语言，计算了英语这门语言的熵，从而为从统计的角度分析语言打下了基础。而且，香农认为如果把空格当作英语字母表上的第27个字母，能够降低提取英语处理的不确定性。数学通信的基础理论——抽样分析理论——的提出也有香农的贡献。抽样分析理论将连续的模拟信号抽样成离散的数字信号，为20世纪60年代之后数字通信的兴起奠定了基础。1956年，香农返回MIT。爱好和发明除了学术研究，香农爱好杂耍、骑独轮脚踏车和下棋。香农发明了很多用于科学展览的设备，比如火箭动力飞行光盘、一个电动弹簧高跷和一个喷射小号。香农的办公桌上放着一个他称之为“终极机器”的盒子，这是香农众多好玩的发明之一，是根据人工智能研究的先驱、数学家马文·闵斯基提出的想法而做出来的。这个盒子外表平淡无奇，只是在一侧有一个开关，弹一下开关，盒盖就会打开，一个机械手会伸出来；将开关复原，机械手就缩回盒子。香农还做了一个设备能够复原魔方。香农还被认为和爱德华·索普一起发明了第一个佩戴式计算机，这个佩戴式计算机用于提高轮盘赌的获胜几率。

科学在论创始人是美贝尔电话研究所的数学家香农（——），他为解决通讯技术中的信息编码问题，突破老框框，把发射信息和接收信息作为一个整体的通讯过程来研究，提出通讯系统的一般模型；同时建立了信息量的统计公式，奠定了信息论的理论基础。1948年申农发表的《通讯的数学理论》一文，成为信息论诞生的标志。 申农创立信息论，是在前人研究的基础上完成的。 在信息论的发展中，还有许多科学家对它做出了卓越的贡献。法国物理学家L.布里渊（）1956年发表《科学与信息论》专著，从热力学和生命等许多方面探讨信息论，把热力学熵与信息熵直接联系起来，使热力学中争论了一个世纪之久的“麦克斯韦尔妖”的佯谬问题得到了满意的解释。英国神经生理学家（）1964年发表的《系统与信息》等文章，还把信息论推广应用于生物学和神经生理学领域，也成为信息论的重要著作。这些科学家们的研究，以及后来从经济、管理和社会的各个部门对信息论的研究，使信息论远远地超越了通讯的范围。因此，信息论可以分成两种：狭义信息论与广义信息论。 狭义信息论是关于通讯技术的理论，它是以数学方法研究通讯技术中关于信息的传输和变换规律的一门科学。广义信息论，则超出了通讯技术的范围来研究信息问题，它以各种系统、各门科学中的信息为对象，广泛地研究信息的本质和特点，以及信息的取得、计量、传输、储存、处理、控制和利用的一般规律。显然，广义信息论包括了狭义信息论的内容，但其研究范围却比通讯领域广泛得多，是狭义信息论在各个领域的应用和推广，因此，它的规律也更一般化，适用于各个领域，所以它是一门横断学科。广义信息论，人们也称它为信息科学。关于信息的本质和特点，是信息论研究的首要内容和解决其它问题的前提。信息是什么？迄今为止还没有一个公认的定义。 英文信息一词（Information）的含义是情报、资料、消息、报导、知识的意思。所以长期以来人们就把信息看作是消息的同义语，简单地把信息定义为能够带来新内容、新知识的消息。但是后来发现信息的含义要比消息、情报的含义广泛得多，不仅消息、情报是信息，指令、代码、符号语言、文字等，一切含有内容的信号都是信息。哈特莱第一次把消息、情报、信号、语言等等都是信息的载体，而信息则是它们荷载着的内容。但是信息到底是什么呢？申农的狭义信息论第一个给予信息以科学定义：信息是人们对事物了解的不确定性的消除或减少。这是从通讯角度上下的定义，即信源发出了某种情况的不了解的状态，即消除了不定性。并且用概率统计数学方法，来度量为定性被消除的量的大小：H（x）为信息熵，是信源整体的平均不定度。而信息I（p）是从信宿角度代表收到信息后消除不定性的程度，也就是获得新知识的量，所以它只不在信源发出的信息熵被信宿收到后才有意义。在排除干扰的理想情况下，信源发出的信号与信宿接收的信号一一对应，H（x）与I（p）二者相等。所以信息熵的公式也就是信息量的分式。式中的k是一个选择单位的常数，当对数以2为底时，单位称比特（bit）,信息熵是l0g2=1比特。 在申农寻信息量定名称时，数学家冯.诺依曼建议称为熵，理由是不定性函数在统计力学中已经用在熵下面了。在热力学中熵是物质系统状态的一个函数，它表示微观粒子之间无规则的排列程度，即表示系统的紊乱度，维纳说：“信息量的概念非常自然地从属于统计学的一个古典概念——熵。正如一个系统中的信息量是它的组织化程度的度量，一个系统的熵就是它的无组织程度的度量；这一个正好是那一个的负数。”这说明信息与熵是一个相反的量，信息是负熵，所以在信息熵的公式中有负号，它表示系统获得后无序状态的减少或消除，即消除不定性的大小。 信息一般具有如下一些特征：1可识别；2可转换；3可传递；4可加工处理；5可多次利用（无损耗性）；6在流通中扩充；7主客体二重性。信息是物质相互作用的一种属性，涉及主客体双方；信息表征信源客体存在方式和运动状态的特性，所以它具有客体性，绝对性；但接收者所获得的信息量和价值的大小，与信宿主体的背景有关表现了信息的主体性和相对性。8信息的能动性。信息的产生、存在和流通，依赖于物质和能量，没有物质和能量就没有能动作用。信息可以控制和支配物质与能量的流动。 信息论还研究信道的容量、消息的编码与调制的问题以及噪声与滤波的理论等方面的内容。信息论还研究语义信息、有效信息和模糊信息等方面的问题。广义信息论则把信息定义为物质在相互作用中表征外部情况的一种普遍属性，它是一种物质系统的特性以一定形式在另一种物质系统中的再现。信息概念具有普遍意义，它已经广泛地渗透到各个领域，信息科学是具有方法论性质的一门科学。信息方法具有普适性。 所谓信息方法就是运用信息观点，把事物看做是一个信息流动的系统，通过对信息流程的分析和处理，达到对事物复杂运动规律认识的一种科学方法。它的特点是撇开对象的具体运动形态，把它作为一个信息流通过程加以分析。信息方法着眼于信息，揭露了事物之间普遍存在的信息联系，对过去难于理解的现象从信息观点作出了科学的说明。信息论为控制论、自动化技术和现代化通讯技术奠定了理论基础，为研究大脑结构、遗传密码、生命系统和神经病理象开辟了新的途径，为管理的科学化和决策的科学批提供了思想武器。信息方法为认识当代以电子计算机和现代通讯技术为中心的新技术革命的浪潮，为认识论的研究和发展，将进一步提高人类认识与改造自然界的能力。

一个高GPA或者一个逐年上升的GPA。美国TOP50学校商科，建议就是GPA最少还要在之上，TOP30的花朵，左右才是一个比较常规分数。中外合办，英本这类，要想TOP30，平均分必须在70之上。假如总体平均分一般，可是大三分数非常高，还可以分段计算GPA，反映自身分数上涨的一个发展趋势，美国的院校对这一点非常看重。

符合要求的托福成绩但最好是在100之上。申请办理美国TOP50，托福的分数一般都在100之上，有的学校例如斯坦福大学，哈佛大学等对学生的托福成绩并没有最少规定，但取得这所学校offer的师兄师姐平均托福成绩接近在110分。此外，假如达到一个较为适宜的分数例如105分，大部分门槛功效已经达到了，无需强制涨分。

强势实习经验或者拿的出手科研论文。我之前看过一些关于美国出国留学申请的帖子，许多朋友在做答的时候就会会将这一趴一笔带过，我觉得这是一种会使学生觉得这一趴并不是非常重要的不正确的导向性。美国的很多项目特别是商科这种以学生就业为出发点的一个项目，很看重学生们的实践能力。一个没有能表现自己实践能力物品的学生们，即便在硬件配置上再优秀，并不是美国名牌大学有兴趣的。

份能呈现你，突显自己优势的公文。这一条不属个人背景的提高，但是作为在注册情况下会一起递交给招收官的申报材料，做为危害申请人录取结果的因素之一，假如公文不做好，将在一定程度上危害他给招生官留下的印象。一句话总结：公文的好与坏将会确定你能否备战到更好的学校。

规定大学本科入校，靠谱大学本科毕业，获得学士学位证书，托福不少于90，无单项工程规定。雅思不少于，部分专业规定之上，部分专业规定之上。新生的SAT分数是2240,GPA并不是，新生平均分数是。

中国985高校一批大学本科毕业，高校分数，上下；托福110+,GRE要贴近100分(创作最少5),GMAT750之上；有参加基层工作工作经验，两封推荐函需要做2-3个较为有名气的新项目，最好是发布有关毕业论文，有很大牛邀请人强烈推荐；或是到世界500强企业实习见习，实习时间在2个月之上；参与名气大活动，如做ACE商业服务比赛、AIECSE青年志愿者等，积极参与学校或社会上大中型赛事并获得好的名次。

入学条件包含：雅思成绩在之上，有一些专业限制做到之上，无单项工程成绩规定。托福最低成绩为90多分，且没有单项工程成绩规定。很多专业限制申请者一定要GRE成绩，还有一些技术专业则要求申请者递交GMAT成绩。GPA超出。由于麻省理工大学是世界上着位的理工学院学校，对学生科学合理成绩要求比较高，让学生需要学习培训理工学院的全部课程。

语言成绩、GRE / GMAT成绩、大学成绩单/毕业证学位证、书面材料、财务证明材料和在线申请表。雅思或者托福成绩，前者必须在7．0分以上

有意义。要是在国家机关上班，那还是很有用的。不论是想要继续考博、出国深造、参加国家公务员考试及单位中评职称等，根据国家有关政策，在职研究生所获得的硕士学位与统招研究生的硕士学位在价值和用途上是完全没有差别的。在职研究生有三种 1、每年一月份的统一考研在职人员可以参加，通过后需要脱产学习，是唯一的一种既可以拿学历有可以拿学位的那钟，报名既可以是应届毕业生也可以是在职人员； 2、每年大概是十月份只是在职人员联考，通过入学考试不脱产学习，将来再参加学校研究生院组织的学位考试，通过者可以拿到硕士学位(无学历)，有的只有有学士学位的才能报名,且工作5年以上,需要单位推荐； 3、在职研究生班，免试入学，有学士学位并且学士学位满三年可以参加每年五月份的同等学力人员申请硕士学位考试，包括专业课程和一门外语，通过参加硕士论文答辩（要有近三年的论文发表不少于3000字）全部通过可以取得和一月份统一考研完全一样的硕士学位。大专学历以上可以报名学习，但若申请硕士学位就必须是有学士学位的。 在职研毕业后国家统一颁发硕士学位证，对于今后的加薪晋升评职称都是有用的