在 Kafka 中，消费者通过订阅主题来消费数据。每个消费者都属于一个消费者组，消费者组中的多个消费者可以共同消费一个主题，实现分布式消费。每个消费者都会维护自己的偏移量，用于记录已经读取到的消息位置。消费者可以选择手动提交偏移量，也可以选择自动提交偏移量。当消费者处理完一个分区中的消息后，它需要将自己的偏移量提交给 Kafka 服务器，以便 Kafka 服务器知道消费者已经读取了哪些消息。
下面是一个使用 Python 实现 Kafka 消费者的示例代码：
import kafka def consume_messages(consumer_group, topics, bootstrap_servers): # 创建 Kafka 消费者 consumer = kafka.KafkaConsumer(consumer_group, bootstrap_servers=bootstrap_servers) # 订阅主题 consumer.subscribe(topics) # 定义处理消息的回调函数 def message_callback(msg): print(f"Received message: {msg.value.decode('utf-8')}") # 注册消息回调函数 consumer.on_message_callback = message_callback # 开始消费消息 consumer.poll() if __name__ == "__main__": # 定义消费者组 consumer_group = "my-consumer-group" # 定义要订阅的主题 topics = ["my-topic"] # 定义 Kafka 服务器的地址 bootstrap_servers = ["localhost:9092"] # 消费消息 consume_messages(consumer_group, topics, bootstrap_servers)
在这个示例中，我们使用了 Kafka 的 Python 客户端 kafka-python 来实现 Kafka 消费者。首先，我们创建了一个 Kafka 消费者，并指定了消费者组和 Kafka 服务器的地址。然后，我们使用 subscribe() 方法订阅了一个主题。接着，我们定义了一个处理消息的回调函数 message_callback()，并将其注册为消费者的消息回调函数。最后，我们使用 poll() 方法开始消费消息。
当 Kafka 服务器发送消息到订阅的主题时，消费者会收到这些消息，并调用回调函数 message_callback() 来处理这些消息。在回调函数中，我们可以打印出消息的内容，或者进行其他自定义的处理。
希望这篇文章对你有所帮助！如果你有任何其他问题，请随时提问。
