Hudi

简介

什么是Hudi?

Hudi为大数据带来流处理,在提供新数据的同时,比传统的批处理效率高出一个数量级。

Hudi(发音为“hoodie”)摄取与管理处于DFS(HDFS 或云存储)之上的大型分析数据集并为查询访问提供三个逻辑视图。

  • 读优化视图 - 在纯列式存储上提供出色的查询性能,非常像parquet表。
  • 增量视图 - 在数据集之上提供一个变更流并提供给下游的作业或ETL任务。
  • 准实时的表 - 使用基于列存储和行存储(例如 Parquet + Avro)以提供对实时数据的查询
hudi_intro_1.png

通过仔细地管理数据在存储中的布局和如何将数据暴露给查询,Hudi支持丰富的数据生态系统,在该系统中,外部数据源可被近实时摄取并被用于prestospark等交互式SQL引擎,同时能够从处理/ETL框架(如hive和 spark中进行增量消费以构建派生(Hudi)数据集。

Hudi 大体上由一个自包含的Spark库组成,它用于构建数据集并与现有的数据访问查询引擎集成。有关演示,请参见快速开始