centos 7,jdk 1.8,kafka_2.11-2.0.0
在kafka官网下载对应版本的安装包,解压
tar -zvxf kafka_2.11-2.0.0.tgz -C /opt/
cd /opt
ln -s kafka_2.11-2.0.0/ kafka
kafka需要在zookeeper上注册自己的节点信息,故需要先启动一个zookeeper,这里不再阐述zk的安装,详见zookeeper集群搭建。
笔者之前已经搭建好一个三个节点的zk集群,首先启动zk集群,然后可直接启动单节点的kafka
cd /opt/kafka/bin
./kafka-server-start
`.sh ../config/server
.properties`
(提示:zk的默认端口是2181,如果修改了端口,需要在server.properties中将zookeeper.connect值修改为对应的ip:port)
至此,单节点搭建完成
官网介绍的集群搭建方法,是在同一台机器部署多个实例,但笔者需要在同一局域网不同机器上部署。理论上来说方法应该是一样的。
首先,修改master节点的kafka配置文件server.properties
为保证集群正常运行,先只修改4个配置项,master节点配置:
broker.id=0listeners=PLAINTEXT://master:9092log.dirs=/data/kafka/logzookeeper.connect=master:2181,slave1:2181,slave2:2181
将kafka文件拷贝到slave1和slave2节点上,分别修改配置,
slave1配置:
broker.id=1listeners=PLAINTEXT://slave1:9092log.dirs=/data/kafka/logzookeeper.connect=master:2181,slave1:2181,slave2:2181
slave2配置:
broker.id=2listeners=PLAINTEXT://slave2:9092log.dirs=/data/kafka/logzookeeper.connect=master:2181,slave1:2181,slave2:2181
broker.id:kafka broker的唯一标识
listeners:监听的url列表
log.dirs:日志路径
zookeeper.connect:zk访问路径集合,可根据实际情况配置
配置完成后,启动kafka集群,为方便一次性启动集群,编写脚本执行
usage="Usage: $0 (start|stop)"if [ $# -lt 1 ]; then echo $usage exit 1fibehave=$1echo "$behave kafka cluster..."#主机名称for i in master slave1 slave2do#使用ssh进行启动script=""if [ $1 == 'start' ];thenscript="kafka-server-start.sh /opt/kafka/config/server.properties 1>/data/kafka/log/kafka.out 2>&1 &"fiif [ $1 == 'stop' ];thenscript="kafka-server-stop.sh"fissh root@$i "/opt/kafka/bin/$script"doneexit 0
1>/data/kafka/log/kafka.out 2>&1 &表示后台启动,将标准输出和错误输出到kafka.out文件
启动成功后,创建一个测试topic
kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 3 --partitions 1 --topic my-replicated-topic
然后查看topic
kafka-topics.sh --describe --zookeeper localhost:2181 --topic my-replicated-topic
可以看到,该topic有一个分片,3个冗余备份,broker1被选举为leader,备份在0,1,2三个节点
Original url: Access
Created at: 2019-03-25 19:16:09
Category: default
Tags: none
未标明原创文章均为采集,版权归作者所有,转载无需和我联系,请注明原出处,南摩阿彌陀佛,知识,不只知道,要得到
java windows火焰图_mob64ca12ec8020的技术博客_51CTO博客 - 在windows下不可行,不知道作者是怎样搞的 监听SpringBoot 服务启动成功事件并打印信息_监听springboot启动完毕-CSDN博客 SpringBoot中就绪探针和存活探针_management.endpoint.health.probes.enabled-CSDN博客 u2u转换板 - 嘉立创EDA开源硬件平台 Spring Boot 项目的轻量级 HTTP 客户端 retrofit 框架,快来试试它!_Java精选-CSDN博客 手把手教你打造一套最牛的知识笔记管理系统! - 知乎 - 想法有重合-理论可参考 安宇雨 闲鱼 机械键盘 客制化 开贴记录 文本 linux 使用find命令查找包含某字符串的文件_beijihukk的博客-CSDN博客_find 查找字符串 ---- mac 也适用 安宇雨 打字音 记录集合 B站 bilibili 自行搭建 开坑 真正的客制化 安宇雨 黑苹果开坑 查找工具包maven pom 引用地 工具网站 Dantelis 介绍的玩轴入坑攻略 --- 关于轴的一些说法 --- 非官方 ---- 心得而已 --- 长期开坑更新 [本人问题][新开坑位]关于自动化测试的工具与平台应用 机械键盘 开团 网站记录 -- 能做一个收集的程序就好了 不过现在没时间 -- 信息大多是在群里发的 - 你要让垃圾佬 都去一个地方看难度也是很大的 精神支柱 [超级前台]sprinbboot maven superdesk-app 记录 [信息有用] [环境准备] [基本完成] [sebp/elk] 给已创建的Docker容器增加新的端口映射 - qq_30599553的博客 - CSDN博客 [正在研究] Elasticsearch, Logstash, Kibana (ELK) Docker image documentation elasticsearch centos 安装记录 及 启动手记 正式服务器 39 elasticsearch 问题合集 不断更新 6.1.1 | 6.5.1 两个版本 博客程序 - 测试 - bug记录 等等问题 laravel的启动过程解析 - lpfuture - 博客园 OAuth2 Server PHP 用 Laravel 搭建带 OAuth2 验证的 RESTful 服务 | Laravel China 社区 - 高品质的 Laravel 和 PHP 开发者社区 利用Laravel 搭建oauth2 API接口 附 Unauthenticated 解决办法 - 煮茶的博客 - SegmentFault 思否 使用 OAuth2-Server-php 搭建 OAuth2 Server - 午时的海 - 博客园 基于PHP构建OAuth 2.0 服务端 认证平台 - Endv - 博客园 Laravel 的 Artisan 命令行工具 Laravel 的文件系统和云存储功能集成 浅谈Chromium中的设计模式--终--Observer模式 浅谈Chromium中的设计模式--二--pre/post和Delegate模式 浅谈Chromium中的设计模式--一--Chromium中模块分层和进程模型 DeepMind 4 Hacking Yourself README.md update 20211011
Laravel China 简书 知乎 博客园 CSDN博客 开源中国 Go Further Ryan是菜鸟 | LNMP技术栈笔记 云栖社区-阿里云 Netflix技术博客 Techie Delight Linkedin技术博客 Dropbox技术博客 Facebook技术博客 淘宝中间件团队 美团技术博客 360技术博客 古巷博客 - 一个专注于分享的不正常博客 软件测试知识传播 - 测试窝 有赞技术团队 阮一峰 语雀 静觅丨崔庆才的个人博客 软件测试从业者综合能力提升 - isTester IBM Java 开发 使用开放 Java 生态系统开发现代应用程序 pengdai 一个强大的博主 HTML5资源教程 | 分享HTML5开发资源和开发教程 蘑菇博客 - 专注于技术分享的博客平台 个人博客-leapMie 流星007 CSDN博客 - 舍其小伙伴 稀土掘金 Go 技术论坛 | Golang / Go 语言中国知识社区
最新评论