项目中需要把kafka中的数据写入到es、mysql中,会涉及到一些简单的etl数据清洗,由于不想自己写接收kafka,入es这种重复代码,只想关注etl数据清洗部分,后来了解到了kafka connect,调研了一下,发现kafka安装后本身就带有connect模块,后来又了解到了另外一个平台confluent platform,这里边也会有kafka的connect ,目前调研阶段,不知道这两个
confluent platform不连接额,只知道是为企业提供服务的,但是底层都是基于kafka的原生功能。
你可以用logstash 或者 filebeat,我们就是这么用的。
我的业务场景是接收kafka消息,然后做一些数据清洗,最后存到es中。logstash 和 filebeat 是用来发送消息到kafka吧?
过滤(正则),logstash 和 filebeat 都可以的。
logstash的我整理的太少了
https://www.orchome.com/471
你的答案