我正在寻找一种在输出 kafka 主题中编写 Dstream 的方法,只有当微批量 RDD 吐出一些东西时。
我在 Java8 中使用 Spark Streaming 和 Spark-streaming-kafka 连接器(都是最新版本)
我无法弄清楚。
谢谢您的帮助。
如果 dStream 包含要发送到 Kafka 的数据:
dStream.foreachRDD(rdd -> {
rdd.foreachPartition(iter ->{
Producer producer = createKafkaProducer();
while (iter.hasNext()){
sendToKafka(producer, iter.next())
}
}
});
因此,您为每个 RDD 分区创建一个生产者。
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)