使用须知
- 在Flink作业进行动态扩缩时若队列资源被强占,剩余资源不满足作业启动所需资源则可能存在作业无法正常恢复的情况。
- 在Flink作业进行动态扩缩时后台作业需要停止继而从savepoint恢复,因此未恢复成功前,作业无法处理数据。
- 因扩缩容过程中需要触发savepoint,因此必须配置obs桶,并保存日志,同时请注意开启checkpoint。
- 扩缩容检测周期不要设置过小,避免频繁启停作业。
- 扩缩容作业恢复过程中的时间长短受savepoint的大小影响,若保存点较大,可能恢复时间较慢。
- 若需要调整动态扩缩容的配置项,则需要停止作业进行编辑,并提交运行才能生效。
操作步骤
Flink作业动态扩缩容适用于Flink Opensource SQL作业和Flink Jar作业。
1.登录DLI管理控制台。
2.单击“作业管理 > Flink作业”。
3.选择要开启动态扩缩容的作业,单击操作列下的编辑。
−Flink Opensource SQL作业单击“自定义配置”,配置动态扩缩容参数。
−Flink Jar作业单击“优化参数”框,配置动态扩缩容参数。
动态扩缩容参数说明
名称 | 默认值 | 描述 |
---|---|---|
flink.dli.job.scale.enable | false | 该配置表示是否开启动态扩缩的功能,即是否允许根据作业的负载调整作业的使用资源量和是否允许DLI根据作业优先级调整作业的使用资源量。 当前配置为false时,表示不允许。 当前配置为true时,表示允许。 默认值为false。 |
flink.dli.job.scale.interval | 30 | 该配置表示检测当前作业是否需要动态扩缩的时间周期,其单位为分钟,默认值为30。例如30表示每隔30分钟进行一次检测,判断是否需要对作业使用资源量进行扩缩。 注意:只有当用户开启动态扩缩时,该配置才有意义。 |
flink.dli.job.cu.max | 用户CU初始值 | 该配置表示当前作业在进行动态扩缩时允许使用的最大CU数,若用户未配置则默认值为该作业的初始总CU数。 注意:该配置值不能小于用户配置的总CU数,且只有当用户开启动态扩缩时,该配置才有意义。 |
flink.dli.job.cu.min | 2 | 该配置表示当前作业在进行动态扩缩时允许使用的最小CU数,其默认值为2。 注意:该配置值不能大于用户配置的总CU数,且只有当用户开启动态扩缩时,该配置才有意义。 |