kafka-初识kafka

简介: - kafka是一个具有高吞吐,可水平扩展,可持久化的流式数据处理平台。- kafka主要包括:消息系统、日志系统、流式处理平台、zookeeper 四大重要组件。 消息系统的重要概念:生产者(producer),消费者(customer),服务节点(broker)。消息系统中一个重要的原理:通过连通器原理实现了保持数据的一致性。

初识kafka

  • kafka是一个具有高吞吐,可水平扩展,可持久化的流式数据处理平台。
  • kafka主要包括:消息系统、日志系统、流式处理平台、zookeeper 四大重要组件。

    消息系统的重要概念:生产者(producer),消费者(customer),服务节点(broker)。消息系统中一个重要的原理:通过连通器原理实现了保持数据的一致性。

日志系统的重要概念:副本、主题、分区、时间轮。日志持久化在磁盘中从而保证了数据的稳定性和可持久化,同时大量使用页存储从达到了消息的高吞吐。

流式处理平台:kafka不仅是一个消息中间件,还是一个可提供消息聚合、连接、变换的流式数据处理平台。

# kafka体系结构

Kafka体系结构.png

  • kafka体系结构主要由若干producer、若干customer、若干broker 三大模块构成,并由zookeeper进行协调并管理集群元数据。
  • producer生成消息发送到broker中,broker将消息存储在磁盘(kafka用磁盘作为主要的存储介质),customer从broker订阅并消费消息。
目录
相关文章
|
12月前
|
消息中间件 存储 Kafka
Kafka详解
当今数字化世界中,数据的流动变得至关重要。为了满足不断增长的数据需求,企业需要强大而可靠的数据处理工具。Apache Kafka就是这样一个工具,它在数据流处理领域表现出色。本文将详细介绍Apache Kafka,探讨它的核心概念、用途以及如何使用它来构建强大的数据流应用。
|
4月前
|
消息中间件 存储 分布式计算
|
1月前
|
消息中间件 Kafka
kafka里的acks是什么
【8月更文挑战第3天】kafka里的acks是什么
82 0
|
4月前
|
消息中间件 存储 分布式计算
|
4月前
|
消息中间件 存储 Java
玩转Kafka—初步使用
玩转Kafka—初步使用
43 0
|
10月前
|
消息中间件 开发框架 Java
113 Kafka介绍
113 Kafka介绍
64 0
|
消息中间件 分布式计算 Java
浅谈kafka 一
浅谈kafka 一
|
消息中间件 存储 缓存
kafka
kafka
349 0
|
消息中间件 存储 负载均衡
初识Kafka
通过阅读本篇文字,你可以了解到 Kafka 中的概念:消息、主题、分区、消费者群组、broker 等。
288 0
初识Kafka
|
消息中间件 缓存 Java
kafka为什么这么快
kafka为什么这么快
875 0
kafka为什么这么快