Doris Routine Load重置offset

Viewed 5

使用Routine Load消费kafka消息时,经常会出现offset过期的情况

[INTERNAL_ERROR]fetch failed due to requested offset not available on the broker: Broker: Offset out of range

如何监控这种情况,或者如何在Routine Load在被自动调起时,将offset进度调整为offset_beginning

1 Answers
  1. 首先得根据导入速度来合理的配置offset的过期时间,比如log.retention.hours、log.retention.bytes
  2. 当前只能手动修改:

image.png