chunjun icon indicating copy to clipboard operation
chunjun copied to clipboard

mysql轮询读取数据时,第一个切片的InputFormat中会重复读取数据

Open HFurther opened this issue 3 years ago • 1 comments

Describe the bug 当source或reader并行度>1,轮询读取数据时(例如:MySQL),第一个切片的InputFormat中会重复读取数据。

Screenshots Chunjun Master分支代码中当source或reader并行度>1,轮询读取数据(例如:MySQL)时,会出现数据重复读取的情况。例如:设置mysql source的并行度为2时,mysql指定表此时只有2条数据,但是在Flink web UI中可以很明显的看见数据读取量不正确,经控制台打印分析,只有第一个子任务会重复读取数据: image image image

HFurther avatar Jun 23 '22 05:06 HFurther

@HFurther 能提供任务json文件吗

mggger avatar Aug 02 '22 08:08 mggger