使用与约束
最近更新时间: 2021-09-15 15:59:08
支持的流计算引擎:流计算服务支持Flink、Spark Streaming两种计算引擎,其中Flink为全功能支持, Spark Streaming只支持上传JAR包方式使用,推荐用户优先使用Flink引擎,两种引擎的对比如下:
流计算引擎对比 |
Flink |
Spark Streaming |
引擎版本 |
Flink 1.11.3 |
Spark 2.3.0 |
产品生态 |
Apache顶级项目,Flink 产品发展速度快,在流处理方面处于业界最前沿水平 |
归属于Spark的子项目,Spark社区规模大,产品相对更加成熟 |
运行模式 |
事件驱动 |
时间驱动(微批处理,运行的时候需要指定批处理的时间,每次运行 任务时处理一个批次的数据) |
时间机制 |
支持三种时间机制:事件时间,注入时间,处理时间 |
只支持处理时间 |
支持程度 |
在大数据云服务中,支持可视化拖拽、上传JAR包两种开发方式 |
在大数据云服务中,只支持JAR包的开发方式 |
支持的source数据源、sink数据源:流计算服务支持的source源、sink源如下:
|
开源组件 |
组件版本 |
支持的source源 |
Kafka |
0.10及以上版本 |
支持的sink源 |
Kafka |
0.10及以上版本 |
Oracle |
11.2.0.1.0 |
MySQL |
5.6及以上版本 |
HBase |
2.0 |
Redis |
4.0 |
Elasticsearch |
6.4.2 |
InfluxDB |
2.1.5 |
Phoenix |
5.0.0 |
Hive |
3.1.0 |