总的来说大数据有5个部分。数据采集，数据存储，数据清洗，数据挖掘，数据可视化。还有新兴的实时流处理，可能还有别的
大数据技术，简而言之，就是提取大数据价值的技术，是根据特定目标，经过数据收集与存储、数据筛选、算法分析与预测、数据分析结果展示等，为做出正确决策提供依据，其处理的数据量通常是TB级，甚至是PB或EB级的数据，这是传统数据处理手段所无法完成的，其涉及的技术有分布式计算、高并发处理、高可用处理、集群、实时性计算等，汇集了当前IT领域热门流行的IT技术。想要成为炙手可热的大数据技术人才，这些大数据的核心技术一定要知晓！一、大数据基础阶段大数据基础阶段需掌握的技术有：Linux、Docker、KVM、MySQL基础、Oracle基础、MongoDB、redis以及hadoop mapreduce hdfs yarn等。1、Linux命令对于大数据开发通常是在Linux环境下进行的，相比Linux操作系统，Windows操作系统是封闭的操作系统，开源的大数据软件很受限制，因此，想从事大数据开发相关工作，还需掌握Linux基础操作命令2、 RedisRedis是一个key-value存储系统，其出现很大程度补偿了memcached这类key/value存储的不足，在部分场合可以对关系数据库起到很好的补充作用，它提供了Java，C/C++，C#，PHP，JavaScript，Perl，Object-C，Python，Ruby，Erlang等客户端，使用很方便，大数据开发需掌握Redis的安装、配置及相关使用方法。二、大数据存储阶段大数据存储阶段需掌握的技术有：hbase、hive、sqoop等。1、HBaseHBase是一个分布式的、面向列的开源数据库，它不同于一般的关系数据库，更适合于非结构化数据存储的数据库，是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统，大数据开发需掌握HBase基础知识、应用、架构以及高级用法等。2、HiveHive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行，十分适合数据仓库的统计分析。对于Hive需掌握其安装、应用及高级操作等。三、大数据架构设计阶段大数据架构设计阶段需掌握的技术有：Flume分布式、Zookeeper、Kafka等。1、KafkaKafka是一种高吞吐量的分布式发布订阅消息系统，其在大数据开发应用上的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理，也是为了通过集群来提供实时的消息。大数据开发需掌握Kafka架构原理及各组件的作用和使用方法及相关功能的实现！2、FlumeFlume是一款高可用、高可靠、分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据;同时，Flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力。大数据开发需掌握其安装、配置以及相关使用方法。3、ZooKeeperZooKeeper是Hadoop和Hbase的重要组件，是一个为分布式应用提供一致性服务的软件，提供的功能包括：配置维护、域名服务、分布式同步、组件服务等，在大数据开发中要掌握ZooKeeper的常用命令及功能的实现方法。四、大数据实时计算阶段大数据实时计算阶段需掌握的技术有：Mahout、Spark、storm。1、SparkSpark是专为大规模数据处理而设计的快速通用的计算引擎，其提供了一个全面、统一的框架用于管理各种不同性质的数据集和数据源的大数据处理的需求，大数据开发需掌握Spark基础、SparkJob、Spark RDD、spark job部署与资源分配、Spark shuffle、Spark内存管理、Spark广播变量、Spark SQL、Spark Streaming以及Spark ML等相关知识。2、stormStorm为分布式实时计算提供了一组通用原语，可被用于“流处理”之中，实时处理消息并更新数据库。这是管理队列及工作者集群的另一种方式。Storm可以方便地在一个计算机集群中编写与扩展复杂的实时计算，Storm用于实时处理，就好比 Hadoop 用于批处理。Storm保证每个消息都会得到处理，而且它很快——在一个小集群中，每秒可以处理数以百万计的消息。五、大数据数据采集阶段大数据数据采集阶段需掌握的技术有：Python、Scala。1、Python与数据分析Python是面向对象的编程语言，拥有丰富的库，使用简单，应用广泛，在大数据领域也有所应用，主要可用于数据采集、数据分析以及数据可视化等，因此，大数据开发需学习一定的Python知识。2、ScalaScala是一门多范式的编程语言，大数据开发重要框架Spark是采用Scala语言设计的，想要学好Spark框架，拥有Scala基础是必不可少的，因此，大数据开发需掌握Scala编程基础知识！以上只是一些简单的大数据核心技术总结，比较零散，想要学习大数据的同学，还是要按照一定到的技术路线图学习！
首先我们要了解Java语言和Linux操作系统，这两个是学习大数据的基础，学习的顺序不分前后。大数据Java ：只要了解一些基础即可，做大数据不需要很深的Java 技术，学java SE 就相当于有学习大数据基础。Linux：因为大数据相关软件都是在Linux上运行的，所以Linux要学习的扎实一些，学好Linux对你快速掌握大数据相关技术会有很大的帮助，能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置，能少踩很多坑，学会shell就能看懂脚本这样能更容易理解和配置大数据集群。还能让你对以后新出的大数据技术学习起来更快。Hadoop：这是现在流行的大数据处理平台几乎已经成为大数据的代名词，所以这个是必学的。Hadoop里面包括几个组件HDFS、MapReduce和YARN，HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面，MapReduce是对数据进行处理计算的，它有个特点就是不管多大的数据只要给它时间它就能把数据跑完，但是时间可能不是很快所以它叫数据的批处理。Zookeeper：这是个万金油，安装Hadoop的HA的时候就会用到它，以后的Hbase也会用到它。它一般用来存放一些相互协作的信息，这些信息比较小一般不会超过1M，都是使用它的软件对它有依赖，对于我们个人来讲只需要把它安装正确，让它正常的run起来就可以了。Mysql：我们学习完大数据的处理了，接下来学习学习小数据的处理工具mysql数据库，因为一会装hive的时候要用到，mysql需要掌握到什么层度那?你能在Linux上把它安装好，运行起来，会配置简单的权限，修改root的密码，创建数据库。这里主要的是学习SQL的语法，因为hive的语法和这个非常相似。Sqoop：这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不用这个，直接把Mysql数据表导出成文件再放到HDFS上也是一样的，当然生产环境中使用要注意Mysql的压力。Hive：这个东西对于会SQL语法的来说就是神器，它能让你处理大数据变的很简单，不会再费劲的编写MapReduce程序。有的人说Pig那?它和Pig差不多掌握一个就可以了。Oozie：既然学会Hive了，我相信你一定需要这个东西，它可以帮你管理你的Hive或者MapReduce、Spark脚本，还能检查你的程序是否执行正确，出错了给你发报警并能帮你重试程序，最重要的是还能帮你配置任务的依赖关系。我相信你一定会喜欢上它的，不然你看着那一大堆脚本，和密密麻麻的crond是不是有种想屎的感觉。Hbase：这是Hadoop生态体系中的NOSQL数据库，他的数据是按照key和value的形式存储的并且key是唯一的，所以它能用来做数据的排重，它与MYSQL相比能存储的数据量大很多。所以他常被用于大数据处理完成之后的存储目的地。Kafka：这是个比较好用的队列工具，队列是干吗的?排队买票你知道不?数据多了同样也需要排队处理，这样与你协作的其它同学不会叫起来，你干吗给我这么多的数据(比如好几百G的文件)我怎么处理得过来，你别怪他因为他不是搞大数据的，你可以跟他讲我把数据放在队列里你使用的时候一个个拿，这样他就不在抱怨了马上灰流流的去优化他的程序去了，因为处理不过来就是他的事情。而不是你给的问题。当然我们也可以利用这个工具来做线上实时数据的入库或入HDFS，这时你可以与一个叫Flume的工具配合使用，它是专门用来提供对数据进行简单处理，并写到各种数据接受方(比如Kafka)的。Spark：它是用来弥补基于MapReduce处理数据速度上的缺点，它的特点是把数据装载到内存中计算而不是去读慢的要死进化还特别慢的硬盘。特别适合做迭代运算，所以算法流们特别稀饭它。它是用scala编写的。Java语言或者Scala都可以操作它，因为它们都是用JVM的。
“大数据”的核心：整理、分析、预测、控制。重点并不是我们拥有了多少数据，而是我们拿数据去做了什么。如果只是堆积在某个地方，数据是毫无用处的。它的价值在于“使用性”，而不是数量和存储的地方。任何一种对数据的收集都与它最后的功能有关。如果不能体现出数据的功能，大数据的所有环节都是低效的，也是没有生命力的。
标准化和规范化 数据的标准化有助于消除数据库中的数据冗余。标准化有好几在设计数据库的时候考虑到哪些数据字段将来可能会发生变更。 举例，姓氏就是
一次文献包括图书、剪刊、会议文献、学位论文、专利文献、政府出刊物、产品样本、科技报告、标准文献、档案等。图书的范围很广，它包括名著、一般性专著、教科书、科普通俗读物、资料性工具书等。1、一次文献是指人们直接以自己的生产、科研、社会活动等实践经验为依据生产出来的文献，也常被称为原始文献，其所记载的知识、信息比较新颖、具体、详尽。2、二次文献是指它是将大量分散、零乱、无序的一次文献进行整理、浓缩、提炼，并按照一定的逻辑顺序和科学体系加以编排存储，使之系统化，以便于检索利用。3、三次文献是指是选用大量有关的文献，经过综合、分析、研究而编写出来的文献。它通常是围绕某个专题，利用二次文献检索搜集大量相关文献，对其内容进行深度加工而成。文献按载体形式可分为印刷型，缩微型，机读，音像。机读文献：将文字声音图形图像等多媒体信息记录在磁盘、光盘等介质上，借助计算机等电子设备使用的文献类型。零次文献：口语，笔记，实物，日记，会议记录;一次文献：论文，专著，报纸，科技报告，学位论文，专利，标准等。二次文献有目录、索引、文摘，三次文献有综述、述评、专题报告、可行性报告、数据手册、百科全书、各类教科书等。电子出版物的优点：信息量大、体积小、密度高、节省空间;查阅便捷、快速，精确度高;传播速度快;相对价格便宜;信息资源利用频率高，使用范围广;直观生动，交互性强;缺点：寿命有限，技术依赖性强;存储信息易受干扰，破坏和丢失;版权和盗版问题严重。
一共三次文献。是以著者本人在科研、生产工作中，取得的科技成果为依据，撰写、创作的原始文献，不论其载体形式，出版类型如何，都属于一次文献，大部分期刊论文、科技报告、专利文献、会议文献、学位论文等，都是一次文献，一次文献直接记载了科研和生产中，创造发明成果的原始资料，是科技人员宝贵的参考资料，在一次文献的基础上进行加工、整理、简化和组织，形成文献的目录、索引和文摘，作为检索原始文献的工具，此工具书即为二次文献，利用二次文献科研人员可全面、系统地查找有关文献的线索，是在利用二次文献检得一次文献线索的基础上，合理应用一次文献，对其内容进行综合、分析、评述，再度加工的产物，如：图书专著、评论综述、手册年鉴、百科全书、标准资料以及数据库等，都属于三次文献，三次文献一般综合性强、系统性好、知识面广，有的还有检索功能，参考价值高。
一次文献包括图书、剪刊、会议文献、学位论文、专利文献、政府出刊物、产品样本、科技报告、标准文献、档案等一次文献是人们直接以自己的生产、科研、社会活动等实践经验为依据生产出来的文献，也常被称为原始文献（或叫一级文献），其所记载的知识、信息比较新颖、具体、详尽。特征一次文献在整个文献中是数量最大、种类最多、所包括的新鲜内容最多、使用最广、影响最大的文献，如期刊论文、专利文献、科技报告、会议录、学位论文等等，这些文献具有创新性、实用性和学术性等明显特征。释义一次文献，又称原始文献,是情报学中的一种主要文献,指以作者本人的工作经验、观察或者实际研究成果为依据而创作的具有一定发明创造和一定新见解的原始文献，如期刊论文、研究报告、专利说明书、会议论文、学位论文、技术标准等。特点一次文献具有以下特点：一是内容有独创性，是作者本人的工作经验、观察或者实际研究成果,该种文献内容具有先进性和新颖性，反映了有关领域最新研究成果。二是文献内容叙述具体、详尽，有供研究三是一次文献数量庞大、分散在各种期刊、媒体、会议论文集、图书、连续性出版物、特种文献之中，所以寻找困难。
三大文献检索数据库是以下三个： 1、SCI(科学引文索引 )：(Science Citation Index, SCI)是由美国科学信息研究所(ISI)1961年创办出版的引文数据库，其覆盖生命科学、临床医学、物理化学、农业、生物、兽医学、工程技术等方面的综合性检索刊物。 2、EI(工程索引 )：(EngineeringIndex，EI),1884年创刊，由美国工程信息公司出版，报道工程技术各学科的期刊、会议论文、科技报告等文献。 3、ISTP(科技会议录索引 ) 是世界著名的三大科技文献检索系统，(Index to Scientific & TechnicalProceedings，ISTP)，也是由ISI出版，1978年创刊，报导世界上每年召开的科技会议的会议论文。
一次文献是人们直接以自己的生产、科研、社会活动等实践经验为依据生产出来的文献，也常被称为原始文献（或叫一级文献），其所记载的知识、信息比较新颖、具体、详尽。二次文献是对一次文献进行加工整理后产生的一类文献，如书目、题录、简介、文摘等检索工具。三次文献是在一、二次文献的基础上，经过综合分析而编写出来的文献，人们常把这类文献称为“情报研究”的成果，如综述、专题述评、学科年度总结、进展报告、数据手册等。扩展资料：一、一次文献特征一是内容有独创性，是作者本人的工作经验、观察或者实际研究成果,该种文献内容具有先进性和新颖性，反映了有关领域最新研究成果。二是文献内容叙述具体、详尽，有供研究三是一次文献数量庞大、分散在各种期刊、媒体、会议论文集、图书、连续性出版物、特种文献之中，所以寻找困难。二、二次文献特征1、具有浓缩性是对原始文献内容的浓缩，所以，二次文献是情报工作的重要工具，成为一种信息文体，是随着科技,、文化的发展，为适应信息的急剧增加而出现的。2、汇集性二次文献经过情报工作者加工，把有关内容汇集在一起，能比较全面地反映某个学科、专业或专题在一定时空范围内的文献线索。3、系统性由于二次文献是经过情报工作者加工，所以它能系统地反映某个学科、专业或专题在一定时空范围内的最新研究成果,。三、三次文献特征通常是围绕某个专题，利用二次文献检索搜集大量相关文献，对其内容进行深度加工而成。是对现有成果加以评论、综述并预测其发展趋势的文献，属于这类文献的有综述、述评、进展、动态等。在文献调研中，可以充分利用这类文献，在短时间内了解所研究课题的研究历史、发展动态、水平等，以便能更准确地掌握课题的技术背景。参考资料来源：百度百科-一次文献参考资料来源：百度百科-二次文献参考资料来源：百度百科-三次文献
一次文献 (primary document)：是指作者以本人的研究成果为基本素材而创作或撰写的文献，不管创作时是否参考或引用了他人的著作，也不管该文献以何种物质形式出现，均属一次文献。大部分期刊上发表的文章和在科技会议上发表的论文均属一次文献。二次文献 (secondary document)：是指文献工作者对一次文献进行加工、提炼和压缩之后所得到的产物，是为了便于管理和利用一次文献而编辑、出版和累积起来的工具性文献。检索工具书和网上检索引擎是典型的二次文献。三次文献 (tertiary document)：是指对有关的一次文献和二次文献进行广泛深入的分析研究综合概括而成的产物。如大百科全书、辞典等。 也有研究者在以上分类基础上再加上零次文献，它是指未经过任何加工的原始文献，如实验记录、手稿、原始录音、原始录像、谈话记录等。零次文献在原始文献的保存、原始数据的核对、原始构思的核定(权利人)等方面有着重要的作用。
全文检索:CNKI全文数据库(中文文献)、维普ACS和ELSEVIER数据库(英文文献)文献线索的二次检索:CA和EI上面我说的都是化工方面常用的文献检索工具啊，哈哈。。。。。。
人工智能数据采集是指在人工智能领域，根据特定项为训练机器学习数学模型所使用的的训练数据集的要求，在一定的既定标准下收集和衡量数据和信息的过程，并输出一套有序的数据。澳鹏提供的数据采集服务，提升规模化机器学习。作为训练数据服务的行业领先者，我们能够快速交付涵盖多种数据类型大量优质数据，包括图像、视频、语音、音频和文本，以满足客户特定 AI 项目的需求
大数据开发涉及到的关键技术：大数据采集技术大数据采集技术是指通过 RFID 数据、传感器数据、社交网络交互数据及移动互联网数据等方式获得各种类型的结构化、半结构化及非结构化的海量数据。大数据预处理技术大数据预处理技术主要是指完成对已接收数据的辨析、抽取、清洗、填补、平滑、合并、规格化及检查一致性等操作。大数据存储及管理技术大数据存储及管理的主要目的是用存储器把采集到的数据存储起来，建立相应的数据库，并进行管理和调用。大数据处理技术大数据的应用类型很多，主要的处理模式可以分为流处理模式和批处理模式两种。批处理是先存储后处理，而流处理则是直接处理。大数据分析及挖掘技术大数据处理的核心就是对大数据进行分析，只有通过分析才能获取很多智能的、深入的、有价值的信息。大数据展示技术在大数据时代下，数据井喷似地增长，分析人员将这些庞大的数据汇总并进行分析，而分析出的成果如果是密密麻麻的文字，那么就没有几个人能理解，所以我们就需要将数据可视化。数据可视化技术主要指的是技术上较为高级的技术方法，这些技术方法通过表达、建模，以及对立体、表面、属性、动画的显示，对数据加以可视化解释。
大叔就是什么学的合理只要你天天的是学习学习
大数据的核心技术主要在于创新，然后创新的数据在一种合理化的一种要求，两者之间的一个共性