从0开始搭建 Kafka集群

server export zookeeper 3.8.4 bin
发布于 2026-01-20
4

我们非常重视原创文章,为尊重知识产权并避免潜在的版权问题,我们在此提供文章的摘要供您初步了解。如果您想要查阅更为详尽的内容,访问作者的公众号页面获取完整文章。

扫码阅读
手机扫码阅读

文章主旨:

本文详细介绍了如何从零开始搭建一个基于VMware虚拟机的Kafka集群,包括环境配置、Zookeeper集群与Kafka集群部署的具体步骤。

关键要点:

  • Kafka集群的机器分配与配置,包括主机名和免密登录设置。
  • 时区同步与自动时间同步配置,确保集群间时间一致性。
  • 安装并配置Zookeeper,作为Kafka集群的基础协调服务。
  • 部署Kafka集群,包含安装包上传、配置文件编辑和多节点部署。
  • 启动与测试Kafka集群和Zookeeper服务,确保正常运行。

内容结构:

1. 搭建设计

  • 机器分配:定义3台虚拟机的IP地址及主机名。
  • Linux与JDK安装:已预先介绍相关安装步骤。

2. 修改Linux主机名称

通过 hostnamectl 命令为每台机器设置主机名。

3. 配置主机名映射

在Windows和Linux的hosts文件中配置主机名与IP地址映射,确保网络通信正常。

4. 配置SSH免密登录

生成SSH密钥并分发到所有机器,实现三台服务器之间的免密互通。

5. 修改时区并配置自动时间同步

通过安装NTP服务并设置开机自启确保时间同步。

6. 部署Zookeeper集群

  • 下载并安装Zookeeper,创建配置文件(zoo.cfg)。
  • 分发安装好的Zookeeper文件夹,并为每台机器配置唯一标识(myid)。

7. 部署Kafka集群

  • 上传Kafka安装包并解压。
  • 编辑配置文件(server.properties),包括broker ID和Zookeeper连接信息。
  • 分发Kafka安装包到其他节点,并修改节点配置。

8. 配置环境变量

设置JAVA_HOME、KAFKA_HOME、ZOKEEPER_HOME,确保所有节点加载正确的环境变量。

9. 启动Zookeeper

  • 使用 zkServer.sh 启动Zookeeper服务。
  • 检查Zookeeper运行状态。

10. 启动Kafka

通过 kafka-server-start.sh 启动Kafka服务,并验证集群状态。

11. 测试Kafka功能

  • 创建主题并查询当前Kafka的所有主题。

文章总结:

文章以清晰的步骤呈现了Kafka集群的搭建流程,适合初学者参考实施。建议在实际操作中根据具体环境调整配置。

springboot葵花宝典