如何将 JavaPairDStream 的结果写入 Spark Streaming 上的输出 kafka 主题?

2023-12-08

我正在寻找一种在输出 kafka 主题中编写 Dstream 的方法,只有当微批量 RDD 吐出一些东西时。

我在 Java8 中使用 Spark Streaming 和 Spark-streaming-kafka 连接器(都是最新版本)

我无法弄清楚。

谢谢您的帮助。


如果 dStream 包含要发送到 Kafka 的数据:

dStream.foreachRDD(rdd -> {
    rdd.foreachPartition(iter ->{
        Producer producer = createKafkaProducer();  
        while (iter.hasNext()){
               sendToKafka(producer, iter.next())
        }
    }

});

因此,您为每个 RDD 分区创建一个生产者。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

如何将 JavaPairDStream 的结果写入 Spark Streaming 上的输出 kafka 主题? 的相关文章

随机推荐