相关文章:

• 

  RDD和DataFrame和DataSet三者间的区别

  在SparkSQL中Spark为我们提供了两个新的抽象，分别是DataFrame和DataSet。他们和RDD有什么区别呢？首先从版本的产生上来看：RD... [阅读全文]

• 详解SQL中Group By的使用教程

  1、概述“group by”从字面意义上理解就是根据“by”指定的规则对数据进行分组，所谓的分组就是将一个“数据集”划分成若干个“小区域”，然后针对若干个“小区... [阅读全文]

• Spark读取Mysql，Redis，Hbase数据

  1、读取Mysql数据 object JdbcRddDemo { def getConn() = { Class.forName("com.m... [阅读全文]

• HBase Filter 过滤器之FamilyFilter详解

  前言： 本文详细介绍了 HBase FamilyFilter 过滤器 Java&Shell API 的使用，并贴出了相关示例代码以供参考。FamilyF... [阅读全文]
• 

  流媒体与实时计算，Netflix公司Druid应用实践

  Netflix(Nasdaq NFLX)，也就是网飞公司，成立于1997年，是一家在线影片[租赁]提供商，主要提供Netflix超大数量的[DVD]并免... [阅读全文]

• Spark高级算子aggregate所遇到的坑

  val rdd3 = sc.parallelize(List("12","23","345"... [阅读全文]

• 在一个千万级的数据库查寻中，如何提高查询效率？？？？

  摸清数据产生量如何，如果是1钞钟1条记录，则一台车一天就有86400条记录，则建议如下： 1、每台车使用单独的表，程序内部使用CreateTable，动... [阅读全文]
• 

  Spark中Broadcast的理解

  广播变量应用场景：在提交作业后，task在执行的过程中， 有一个或多个值需要在计算的过程中多次从Driver端拿取时，此时会必然会发生大量的网络IO， ... [阅读全文]
• 

  实时流式计算系统中的几个陷阱

  随着诸如Apache Flink，Apache Spark，Apache Storm之类的开源框架以及诸如Google Dataflow之类的云框架的增... [阅读全文]
• 

  DataHub——实时数据治理平台

  DataHub 首先，阿里云也有一款名为DataHub的产品，是一个流式处理平台，本文所述DataHub与其无关。 数据治理是大佬们最近谈的一个火热的话... [阅读全文]