flink-training-course
flink-training-course copied to clipboard
使用window 后追数据的问题 如何解决
使用window 例如五分钟一个固定窗口 如果save任务后 过几个小时再去追数据,重启的时候source会大量涌进来数据(暂停的几个小时数据有很多), 在这种情况会不会使窗口提前关闭(后面的数据先进来了),导致很多本该计算在这个个窗口的数据 没有计算进来,最后结果的错误,这种情况如何解决?
尝试使用Event Time
首先kafka 单分区的数据是有顺序的,其二可以设置时间属性为 event time,这样开的window是事件的时间,而不是处理时间,就不会你说的很多数据都落在同一个窗口中