使用与约束

最近更新时间: 2021-09-15 15:59:08

支持的流计算引擎:流计算服务支持Flink、Spark Streaming两种计算引擎,其中Flink为全功能支持, Spark Streaming只支持上传JAR包方式使用,推荐用户优先使用Flink引擎,两种引擎的对比如下:

流计算引擎对比 Flink Spark Streaming
引擎版本 Flink 1.11.3 Spark 2.3.0
产品生态 Apache顶级项目,Flink 产品发展速度快,在流处理方面处于业界最前沿水平 归属于Spark的子项目,Spark社区规模大,产品相对更加成熟
运行模式 事件驱动 时间驱动(微批处理,运行的时候需要指定批处理的时间,每次运行 任务时处理一个批次的数据)
时间机制 支持三种时间机制:事件时间,注入时间,处理时间 只支持处理时间
支持程度 在大数据云服务中,支持可视化拖拽、上传JAR包两种开发方式 在大数据云服务中,只支持JAR包的开发方式
支持的source数据源、sink数据源:流计算服务支持的source源、sink源如下:
开源组件 组件版本
支持的source源 Kafka 0.10及以上版本
支持的sink源 Kafka 0.10及以上版本
Oracle 11.2.0.1.0
MySQL 5.6及以上版本
HBase 2.0
Redis 4.0
Elasticsearch 6.4.2
InfluxDB 2.1.5
Phoenix 5.0.0
Hive 3.1.0