• 回答数

    4

  • 浏览数

    124

冰河水心
首页 > 论文问答 > 数据科学的核心

4个回答 默认排序
  • 默认排序
  • 按时间排序

A喵是kuma酱

已采纳
简单说有三大核心技术:拿数据,算数据,卖数据。基础的技术包含数据的采集、数据预处理、分布式存储、NoSQL数据库、数据仓库、机器学习、并行计算、可视化等各种技术范畴和不同的技术层面。大数据预处理,指的是在进行数据分析之前,先对采集到的原始数据所进行的诸如“清洗、填补、平滑、合并、规格化、一致性检验”等一系列操作,旨在提高数据质量,为后期分析工作奠定基础。数据预处理主要包括四个部分:数据清理、数据集成、数据转换、数据规约。数据清理:指利用ETL等清洗工具,对有遗漏数据(缺少感兴趣的属性)、噪音数据(数据中存在着错误、或偏离期望值的数据)。数据集成:是指将不同数据源中的数据,合并存放到统一数据库的,存储方法,着重解决三个问题:模式匹配、数据冗余、数据值冲突处理。数据转换:是指对所抽取出来的数据中存在的不一致,进行处理的过程。它同时包含了数据清洗的工作,即根据业务规则对异常数据进行清洗,以保证后续分析结果准确性。数据规约:是指在最大限度保持数据原貌的基础上,最大限度精简数据量,以得到较小数据集的操作,包括:数据方聚集、维规约、数据压缩、数值规约、概念分层等。
179 评论

张小电1301

339 评论

暖暖烛光2016

2020年成为数据科学家需要具备哪些技能?

166 评论

felixcyrus

数学功底:微积分是严格要掌握的。不一定要掌握多元微积分,但一元微积分是必须要熟练掌握并使用的。另外线性代数一定要精通,特别是矩阵的运算、向量空间、秩等概念。当前机器学习框架中很多计算都需要用到矩阵的乘法、转置或是求逆。虽然很多框架都直接提供了这样的工具,但我们至少要了解内部的原型原理,比如如何高效判断一个矩阵是否存在逆矩阵并如何计算等。数理统计:概率论和各种统计学方法要做到基本掌握,比如贝叶斯概率如何计算?概率分布是怎么回事?虽不要求精通,但对相关背景和术语一定要了解。交互式数据分析框架:这里并不是指SQL或数据库查询,而是像Apache Hive或Apache Kylin这样的分析交互框架。开源社区中有很多这样类似的框架,可以使用传统的数据分析方式对大数据进行数据分析或数据挖掘。笔者有过使用经验的是Hive和Kylin。不过Hive特别是Hive1是基于MapReduce的,性能并非特别出色,而Kylin采用数据立方体的概念结合星型模型,可以做到很低延时的分析速度,况且Kylin是第一个研发团队主力是中国人的Apache孵化项目,因此日益受到广泛的关注。机器学习框架:机器学习当前真是火爆宇宙了,人人都提机器学习和AI,但笔者一直认为机器学习恰似几年前的云计算一样,目前虽然火爆,但没有实际的落地项目,可能还需要几年的时间才能逐渐成熟。不过在现在就开始储备机器学习的知识总是没有坏处的。说到机器学习的框架,大家耳熟能详的有很多种, 信手拈来的就包括TensorFlow、Caffe8、Keras9、CNTK10、Torch711等,其中又以TensorFlow领衔。笔者当前建议大家选取其中的一个框架进行学习,但以我对这些框架的了解,这些框架大多很方便地封装了各种机器学习算法提供给用户使用,但对于底层算法的了解其实并没有太多可学习之处。因此笔者还是建议可以从机器学习算法的原理来进行学习。

130 评论

相关问答

  • 数据科学的核心是回答问题

    数据科学与大数据技术,是2016年我国高校设置的本科专业,专业代码为080910T,学位授予门类为工学、理学,修业年限为四年,课程教学体系涵盖了大数据的发现、处

    媛姐姐丶 2人参与回答 2023-12-08
  • 大数据的核心是()

    人工智能数据采集是指在人工智能领域,根据特定项为训练机器学习数学模型所使用的的训练数据集的要求,在一定的既定标准下收集和衡量数据和信息的过程,并输出一套有序的数

    吊炸天1234 5人参与回答 2023-12-09
  • 数据安全的核心

    人的不安全行为

    Candy526368302 5人参与回答 2023-12-07
  • 数据科学的核心问题

    2020高考志愿填报,大数据专业解读

    滋味游龙 3人参与回答 2023-12-06
  • 大数据的核心是?

    数据挖掘,无论是银行的大数据、证券的大数据、互联网的大数据、还是你在央视上看到的春运大数据,都是用过数据挖掘来产生价值的

    变猪猪911 5人参与回答 2023-12-11