“大数据架构”用哪种框架更为合适？

1. “大数据架构”用哪种框架更为合适？

个完整的大数据平台应该提供离线计算、即席查询、实时计算、实时查询这几个方面的功能。hadoop、spark、storm 无论哪一个，单独不可能完成上面的所有功能。
hadoop+spark+hive是一个很不错的选择.hadoop的HDFS毋庸置疑是分布式文件系统的解决方案，解决存储问题；hadoop mapreduce、hive、spark application、sparkSQL解决的是离线计算和即席查询的问题；spark streaming解决的是实时计算问题；另外，还需要HBase或者Redis等NOSQL技术来解决实时查询的问题。
除了这些，大数据平台中必不可少的需要任务调度系统和数据交换工具；任务调度系统解决所有大数据平台中的任务调度与监控；数据交换工具解决其他数据源与HDFS之间的数据传输，比如：数据库到HDFS、HDFS到数据库等等。关于大数据平台的架构技术文章，可搜索"lxw的大数据田地"，里面有很多。
大数据是什么意思：
麦肯锡全球研究所给出的定义是：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。
大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换而言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘。但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。
随着云时代的来临，大数据（Big data）也吸引了越来越多的关注。大数据（Big data）通常用来形容一个公司创造的大量非结构化数据和半结构化数据，这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起，因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。
大数据需要特殊的技术，以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术，包括大规模并行处理（MPP）数据库、数据挖掘、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。

2. “大数据架构”用哪种框架更为合适？

个完整的大数据平台应该提供离线计算、即席查询、实时计算、实时查询这几个方面的功能。hadoop、spark、storm无论哪一个，单独不可能完成上面的所有功能。
hadoop+spark+hive是一个很不错的选择.hadoop的HDFS毋庸置疑是分布式文件系统的解决方案，解决存储问题；hadoopmapreduce、hive、sparkapplication、sparkSQL解决的是离线计算和即席查询的问题；sparkstreaming解决的是实时计算问题；另外，还需要HBase或者Redis等NOSQL技术来解决实时查询的问题。
除了这些，大数据平台中必不可少的需要任务调度系统和数据交换工具；任务调度系统解决所有大数据平台中的任务调度与监控；数据交换工具解决其他数据源与HDFS之间的数据传输，比如：数据库到HDFS、HDFS到数据库等等。关于大数据平台的架构技术文章，可搜索"lxw的大数据田地"，里面有很多。
大数据是什么意思：
麦肯锡全球研究所给出的定义是：一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。
大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换而言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘。但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。
随着云时代的来临，大数据（Bigdata）也吸引了越来越多的关注。大数据（Bigdata）通常用来形容一个公司创造的大量非结构化数据和半结构化数据，这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起，因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。
大数据需要特殊的技术，以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术，包括大规模并行处理（MPP）数据库、数据挖掘、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。

3. 什么是大数据的主流框架？

市场上有许多可用的框架。其中一些更受欢迎，例如Spark，Hadoop，Hive和Storm。Presto在效用指数上得分很高，而Flink具有巨大的潜力。
1. Apache Hadoop
Hadoop是基于Java的平台。这是一个开放源代码框架，可跨集群排列的一组硬件机器提供批处理数据处理和数据存储服务。Hadoop同样适用于可靠，可扩展和分布式的计算。但是，它也可以用作通用文件存储。它可以存储和处理PB的信息。Hadoop由三个主要组件组成。
2. Apache Spark
Spark框架由加利福尼亚大学伯克利分校成立。它是具有改进的数据流处理的批处理框架。借助完整的内存计算以及处理优化，它保证了极其快速的集群计算系统。
3.Apache Storm
Apache Storm是另一个引人注目的解决方案，专注于处理巨大的实时数据流。Storm的主要亮点是可伸缩性和停机后的迅速恢复能力。
4. Apache Flink
Apache Flink是一个开源框架，同样适用于批处理和流数据处理。它最适合于集群环境。该框架基于转换–流概念。它也是大数据的4G。它比Hadoop – Map Reduce快100倍。
5. Presto
Presto是最适合较小数据集的开源分布式SQL工具。Presto配备了协调员以及各种工人。当客户提交查询时，将对这些查询进行解析，分析，计划执行并分配给协调员在工作人员之间进行处理。
6. Samza
Apache Samza是有状态的流，准备与Kafka共同开发的大数据系统。Kafka提供数据服务，缓冲和容错能力。

4. 大数据处理框架有哪些?

1、批处理
批处理是大数据处理傍边的遍及需求，批处理主要操作大容量静态数据集，并在核算进程完成后返回成果。鉴于这样的处理模式，批处理有个明显的缺点，便是面对大规模的数据，在核算处理的功率上，不尽如人意。
现在来说，批处理在应对很多持久数据方面的体现极为出色，因而经常被用于对历史数据进行剖析。
2、流处理
批处理之后呈现的另一种遍及需求，便是流处理，针对实时进入体系的数据进行核算操作，处理成果马上可用，并会跟着新数据的抵达继续更新。
在实时性上，流处理体现优异，但是流处理同一时间只能处理一条(真正的流处理)或很少数(微批处理，Micro-batch Processing)数据，不同记录间只维持最少数的状况，对硬件的要求也要更高。
3、批处理+流处理
在实践的使用傍边，批处理和流处理一起存在的场景也很多，混合处理框架就旨在处理这类问题。供给一种数据处理的通用处理方案，不仅可以供给处理数据所需的办法，一起供给自己的集成项、库、东西，可满足图形剖析、机器学习、交互式查询等多种场景。

5. 关于大数据架构的相关知识

随着科技的发展和社会的进步，大数据、人工智能等新兴技术开始进入了我们的生活。我们已经从信息时代跨入了大数据时代，而大数据是一个十分火热的技术，现如今大数据已经涉及到了各行各业的方方面面。但是目前而言，很多人对于大数据不是十分清楚，下面我们就给大家讲一讲大数据的架构知识。
1.大数据架构的特点
一般来说，大数据的架构是比较复杂的，大数据的应用开发过于偏向底层，具有学习难度大，涉及技术面广的问题，这制约了大数据的普及。所以我们必须开发一种技术，把大数据开发中一些通用的，重复使用的基础代码、算法封装为类库，降低大数据的学习门槛，降低开发难度，提高大数据项目的开发效率。
2.大数据在工作的应用
大数据在工作中的应用有三种，第一种就是与业务相关，比如用户画像、风险控制等。第二种就是与决策相关，数据科学的领域，了解统计学、算法，这是数据科学家的范畴。第三种就是与工程相关，如何实施、如何实现、解决什么业务问题，这是数据工程师的工作。由此可见大数据是一门高深的学问。
3.对数据源的分类
根据数据源的特点，我们可以把数据源分为四大类。第一类就是从来源来看分为内部数据和外部数据，第二类就是从结构来看分为非结构化数据和结构化数据，第三类就是从可变性来看分为不可变可添加数据和可修改删除数据，第四类就是从规模来看分为大量数据和小量数据。这四类将大数据的数据源表达的淋漓尽致。完善了大数据的数据源。
4.为什么重视数据源？
为什么大数据平台十分重视数据源呢？这是因为大数据平台第一个要素就是数据源，我们要处理的数据源往往是在业务系统上，数据分析的时候可能不会直接对业务的数据源进行处理，而是先经过数据采集、数据存储，之后才是数据分析和数据处理。所以大数据平台十分重视数据源。
在这篇文章中我们给大家介绍了大数据架构的具体知识，大体包括大数据架构的特点、大数据在工作的应用、对数据源的分类、为什么重视数据源，希望这篇文章能够帮助大家更好地理解大数据。

6. 数据架构是什么

数据架构即数据库架构
 
数据库是相关数据的集合，一个数据库含有各种成分，包括表、记录、字段、索引等。
1．数据库(Database)
Visual Basic中使用的数据库是关系型数据库(Relational Database)。一个数据库由一个或一组数据表组成。每个数据库都以文件的形式存放在磁盘上，即对应于一个物理文件。不同的数据库，与物理文件对应的方式也不一样。对于dBASE,FoxPro和Paradox格式的数据库来说，一个数据表就是一个单独的数据库文件，而对于Microsoft Access、Btrieve格式的数据库来说，一个数据库文件可以含有多个数据表。
2．数据表(Table)
简称表，由一组数据记录组成，数据库中的数据是以表为单位进行组织的。一个表是一组相关的按行排列的数据；每个表中都含有相同类型的信息。表实际上是一个二维表格，例如，一个班所有学生的考试成绩，可以存放在一个表中，表中的每一行对应一个学生，这一行包括学生的学号，姓名及各门课程成绩。
3．记录(Record)
表中的每一行称为一个记录，它由若干个字段组成。
4．字段(Field)
也称域。表中的每一列称为一个字段。每个字段都有相应的描述信息，如数据类型、数据宽度等。
5．索引(Index)
为了提高访问数据库的效率，可以对数据库使用索引。当数据库较大时，为了查找指定的记录，则使用索引和不使用索引的效率有很大差别。索引实际上是一种特殊类型的表，其中含有关键字段的值(由用户定义)和指向实际记录位置的指针，这些值和指针按照特定的顺序(也由用户定义)存储，从而可以以较快的速度查找到所需要的数据记录。
6．查询(Query)
一条SQL(结构化查询语言)命令，用来从一个或多个表中获取一组指定的记录，或者对某个表执行指定的操作。当从数据库中读取数据时，往往希望读出的数据符合某些条件，并且能按某个字段排序。使用SQL，可以使这一操作容易实现而且更加有效。SQL是非过程化语言(有人称为第四代语言)，在用它查找指定的记录时，只需指出做什么，不必说明如何做。每个语句可以看作是一个查询(query)，根据这个查询，可以得到需要的查询结果。
7．过滤器(Filter)
过滤器是数据库的一个组成部分，它把索引和排序结合起来，用来设置条件，然后根据给定的条件输出所需要的数据。
8.视图(view)
数据的视图指的是查找到(或者处理)的记录数和显示(或者进行处理)这些记录的顺序。在一般情况下，视图由过滤器和索引控制

7. 主流的大数据分析框架有哪些

1、HadoopHadoop 采用 Map Reduce 分布式计算框架，根据 GFS开发了 HDFS 分布式文件系统，根据 Big Table 开发了 HBase数据存储系统。Hadoop 的开源特性使其成为分布式计算系统的事实上的国际标准。Yahoo，Facebook，Amazon 以及国内的百度，阿里巴巴等众多互联网公司都以 Hadoop 为基础搭建自己的分布。
2、Spark
　　Spark 是在 Hadoop 的基础上进行了一些架构上的改良。Spark 与Hadoop 最大的不同点在于，Hadoop 使用硬盘来存储数据，而Spark 使用内存来存储数据，因此 Spark 可以提供超过 Ha?doop 100 倍的运算速度。由于内存断电后会丢失数据，Spark不能用于处理需要长期保存的数据。
3、 Storm
Storm 是 Twitter 主推的分布式计算系统。它在Hadoop的基础上提供了实时运算的特性，可以实时的处理大数据流。不同于Hadoop和Spark，Storm不进行数据的收集和存储工作，它直接通过网络实时的接受数据并且实时的处理数据，然后直接通过网络实时的传回结果。
4、Samza
　　Samza 是由 Linked In 开源的一项技术，是一个分布式流处理框架，专用于实时数据的处理，非常像Twitter的流处理系统Storm。不同的是Sam?za 基于 Hadoop，而且使用了 Linked In 自家的 Kafka 分布式消息系统。
　　Samza 非常适用于实时流数据处理的业务，如数据跟踪、日志服务、实时服务等应用，它能够帮助开发者进行高速消息处理,同时还具有良好的容错能力。

8. 大数据平台有哪些架构

01
传统大数据架构

之所以叫传统大数据架构，是因为其定位是为了解决传统BI的问题。
优点：
简单，易懂，对于BI系统来说，基本思想没有发生变化，变化的仅仅是技术选型，用大数据架构替换掉BI的组件。
缺点：
对于大数据来说，没有BI下完备的Cube架构，对业务支撑的灵活度不够，所以对于存在大量报表，或者复杂的钻取的场景，需要太多的手工定制化，同时该架构依旧以批处理为主，缺乏实时的支撑。
适用场景：
数据分析需求依旧以BI场景为主，但是因为数据量、性能等问题无法满足日常使用。
02
流式架构

在传统大数据架构的基础上，直接拔掉了批处理，数据全程以流的形式处理，所以在数据接入端没有了ETL，转而替换为数据通道。
优点：
没有臃肿的ETL过程，数据的实效性非常高。
缺点：
流式架构不存在批处理，对于数据的重播和历史统计无法很好的支撑。对于离线分析仅仅支撑窗口之内的分析。
适用场景：
预警，监控，对数据有有效期要求的情况。
03
Lambda架构

大多数架构基本都是Lambda架构或者基于其变种的架构。Lambda的数据通道分为两条分支：实时流和离线。
优点：
既有实时又有离线，对于数据分析场景涵盖的非常到位。
缺点：
离线层和实时流虽然面临的场景不相同，但是其内部处理的逻辑却是相同，因此有大量荣誉和重复的模块存在。
适用场景：
同时存在实时和离线需求的情况。
04
Kappa架构

在Lambda 的基础上进行了优化，将实时和流部分进行了合并，将数据通道以消息队列进行替代。
优点：
解决了Lambda架构里面的冗余部分，以数据可重播的思想进行了设计，整个架构非常简洁。
缺点：
虽然Kappa架构看起来简洁，但实施难度相对较高，尤其是对于数据重播部分。
适用场景：
和Lambda类似，改架构是针对Lambda的优化。
05
Unifield架构

以上的种种架构都围绕海量数据处理为主，Unifield架构则将机器学习和数据处理揉为一体，在流处理层新增了机器学习层。
优点：
提供了一套数据分析和机器学习结合的架构方案，解决了机器学习如何与数据平台进行结合的问题。
缺点：
实施复杂度更高，对于机器学习架构来说，从软件包到硬件部署都和数据分析平台有着非常大的差别，因此在实施过程中的难度系数更高。
适用场景：
有着大量数据需要分析，同时对机器学习方便又有着非常大的需求或者有规划。
大数据时代各种技术日新月异，想要保持竞争力就必须得不断地学习。写这些文章的目的是希望能帮到一些人了解学习大数据相关知识 。加米谷大数据，大数据人才培养机构，喜欢的同学可关注下，每天花一点时间学习，长期积累总是会有收获的。