kafka是什么

发布时间：2026-10-04 07:36:52 阅读量： 22 来源： 互联网转载

Kafka是一种分布式的，基于发布/订阅的消息系统。它可以处理消费者在网站中的所有动作流数据。这种动作(网页浏览，搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。

一、 Kafka术语

① Broker ：Kafka集群包含一个或多个服务器，这种服务器被称为broker

② Topic：每条发布到Kafka集群的消息都有一个类别，这个类别被称为topic。（物理上不同topic的消息分开存储，逻辑上一个topic的消息虽然保存于一个或多个broker上但用户只需指定消息的topic即可生产或消费数据而不必关心数据存于何处）

③ Producer：负责发布消息到Kafka broker

④ Consume：消费消息。每个consumer属于一个特定的consuer group（可为每个consumer指定group name，若不指定group name则属于默认的group）。使用consumer high level API时，同一topic的一条消息只能被同一个consumer group内的一个consumer消费，但多个consumer group可同时消费这一消息。

⑤ Partition：parition是物理上的概念，每个topic包含一个或多个partition，创建topic时可指定parition数量。每个partition对应于一个文件夹，该文件夹下存储该partition的数据和索引文件

二、 Kafka架构

一个典型的kafka集群中包含若干producer（可以是web前端产生的page view，或者是服务器日志，系统CPU、memory等），若干broker（Kafka支持水平扩展，一般broker数量越多，集群吞吐率越高），若干consumer group，以及一个 Zookeeper 集群。Kafka通过Zookeeper管理集群配置，选举leader，以及在consumer group发生变化时进行rebalance。producer使用push模式将消息发布到broker，consumer使用pull模式从 broker订阅并消费消息。

三、 Kafka特性

① 通过O(1)的磁盘数据结构提供消息的持久化，这种结构对于即使数以TB的消息存储也能够保持长时间的稳定性能。

② 高吞吐量 :即使是非常普通的硬件Kafka也可以支持每秒数百万的消息。

③ 支持通过Kafka服务器和消费机集群来分区消息。

④ 支持Hadoop并行数据加载。

上一篇: 地尽头外链：全面网站外链规划及执行方案

下一篇: 外链推广利器：网站外链宣传机全面规划指南

kafka是什么

热门文章