怎么提高消费者的效率,一个文件都在一个分区内,读的时候发小好慢,有办法提高效率吗?
不清楚你的文件大小,频率,等等。本身kafka是做消息的,存过大的文件的话,应该考虑使用其他的系统了。
文件大小在200M以内,一个文件按行取,每行一个message,都放在同一个分区内
文件大小200M,按行取,每行一个message,对kafka来说,发送是多条message,消费也是多条message。和正常的没有什么区别。提问的时候一次描述清楚,提问不够详细,不知道你的场景是什么,读的很吃力,每次要问很多才能定位你的问题。
额,好吧,谢谢
大侠,broker设置了message.max.bytes为300M,replica.fetch.max.bytes为310M,消费者读取的时候该怎么设置fetch.meaasge.max.bytes,我这样写props.put("fetch.meaasge.max.bytes",325058560)不行,这是310M。我该怎么设置呢?
message,你写错了
配置说明:https://www.orchome.com/13
程序里面没错,这里错了
看那下我给你的地址
找不到想要的答案?提一个您自己的问题。
0 声望
这家伙太懒,什么都没留下
不清楚你的文件大小,频率,等等。
本身kafka是做消息的,存过大的文件的话,应该考虑使用其他的系统了。
文件大小在200M以内,一个文件按行取,每行一个message,都放在同一个分区内
文件大小200M,按行取,每行一个message,对kafka来说,发送是多条message,消费也是多条message。和正常的没有什么区别。
提问的时候一次描述清楚,提问不够详细,不知道你的场景是什么,读的很吃力,每次要问很多才能定位你的问题。
额,好吧,谢谢
大侠,broker设置了message.max.bytes为300M,replica.fetch.max.bytes为310M,消费者读取的时候该怎么设置fetch.meaasge.max.bytes,我这样写props.put("fetch.meaasge.max.bytes",325058560)不行,这是310M。我该怎么设置呢?
message,你写错了
配置说明:https://www.orchome.com/13
程序里面没错,这里错了
看那下我给你的地址
你的答案