分享好友 最新动态首页 最新动态分类 切换频道
kafka安装和相关命令操作——修改中
2024-12-27 00:24

目录

kafka安装和相关命令操作——修改中

一、kafka开发环境安装

二、kafka相关操作

1、使用命令创建topic

2、列出所有的topic

3、删除topic:second_topic

4、查看topic的相关信息

三、kafka-console-producer-生产消息

四、kafka-console-consumer-消费消息


kafka的安装需要先安装docker,如果之前没有安装过docker,可以看我的这篇文章进行安装

Docker镜像、容器和数据管理

为了方便一次性安装kafka的开发环境,我们使用github开源的镜像

GitHub - lensesio/fast-data-dev: Kafka Docker for development. Kafka, Zookeeper, Schema Registry, Kafka-Connect, Landoop Tools, 20+ connectors

安装命令,可以直接用,不用改动任何东西

 

安装过程有点长,文件比较多,请耐心等待,如下是安装的服务列表

 

安装完后,访问http://192.168.43.36:3030/可以看到如下界面,此ip是我linux的地址

 当然你也可以一个一个的进行安装,下边是不错的安装文档

Docker搭建kafka和zookeeper:http://blog.70ci.com/post/736.html

首先,我们在所有服务都启动的情况下,进入landoop/fast-data-dev容器

注意此处我们需要重新开一个命令窗口,不要关闭当前服务的启动窗口

 
 

使用kafka-topics创建第一个topic:first_topic

 

创建topic,必须指定注册中心,topic的名字,创建多少个partitions,以及备份replication-factor的数量(实际中replication-factor应该为3,但我目前只在一台服务器上安装了kafka,只有一个broker,因此只能设置为1,因为replication-facto数量不能大于brokers的数量

如果重复创建first_topic,服务会输出错误信息,从而保证topic的唯一性

 
 
 
 
 

可以看到以下相关信息,如Partition和replicationFactor的数量等

 
 

使用kafka-console-producer生产消息,需要指定broker和topic,命令如下

 

输入如上命令回车后,会出现输入提示,我们输入如下消息

 

然后进入kafka可视化页面,我们看到输入的message,被随机分配在了三个partition中

有时,我们需要把消息进行顺序的存储,而不是随机的分布在所有partition中,此时,我们可以设置一个key,那么相同key的消息都会被顺序的存储在一个partiton中

如下,我们加了两个属性,使用key,以及指定key和value的分隔符

 

我们来看下输入

 

然后进入kafka可视化页面,我们看到输入的message,被顺序的存储在相同partiton中

使用kafka-console-consumer消费消息,需要指定broker和topic,命令如下

 

输入如上命令时,如果此时我们没有生产message,那么我们将看不到任何效果,因为此时的消费者默认读取从当前启动时间后生产的message,因此启动时间之前的message都将不被消费

我们此时创建一个生产者,并输入一些message,来看看效果

如果想要消费消息队列中所有的message(包括历史消息,需要加上参数 --from-beginning

 

如果需要指定消费的partition,可以加上--partition参数

 

上边,我们指定消费partition2中的消息,一共消费了5条,我们通过UI界面,也可以看到partition2中确实有5条消息

ConsumerGruop

使用ConsumerGruop,把多个消费者划分到一个组中,组的名字通过group.id进行指定

 

通过group.id划分到组的consumer,每消费完一个message,都会提交一个committed offset,当组内的下一个consumer读数据时,会从committed offset处开始读取。因此,分组后的consumer,并不会重复消费组内中任意一个consumer已经消费完成的消息。

kafka中message存储的json形式

最新文章
让AI激发创作!首届豆包MarsCode AI编程挑战赛报名开启
在科技变革浪潮中,编程领域持续演进,AI为其注入无限活力。我们的目标是期望为广大编程爱好者与专业开发者打造一个开放、多元且相当挑战性的平台,促进技术交流与创新思维的碰撞,加速AI技术在编程领域的深度融合与应用落地。在这里你的创
考研区域经济学专业容易上岸的大学怎么选择
对于准备考研的同学来说,选择一个合适的学校和专业至关重要。在众多专业中,考研区域经济学大学排名引起了越来越多同学的关注。区域经济学不仅涉及经济学的基本理论,还结合了地理、社会等多方面的知识,非常适合对社会发展有兴趣的同学。
管家婆2024精准资料大全|讲解词语解释释义
管家婆2024精准资料大全——词语解释释义详解本文将详细介绍管家婆2024精准资料大全中的相关词语,并对其中的关键词进行解释和释义,通过本文,读者可以了解管家婆资料的准确性和可靠性,掌握相关术语的含义,从而更好地利用这些资料。管家
站酷网站建设,打造创意生态新标杆,引领数字未来之光
本文目录导读:智能创作助手,灵感一触即发云端协作,打破地域限制AI绘画,让创意更上一层楼虚拟现实,沉浸式体验站酷社区,创意无限可能在这个信息爆炸的时代,创意的火花需要更为广阔的舞台,站酷网站建设,一款融合前沿科技与极致用户体
节日晚会快闪2
2019年度盛会年度盛会年度盛会3212019准备好了没准备好了没准备好了没准备好了没接下来开始接下来开始你的表演年会正式开始领导致词领导致词今晚我们在这里欢聚一堂,在这辞旧迎新之际我首先祝大家新年快乐。在过去的一年里,我们职工团结
谷歌SEO主页怎么优化,才能提升排名?
在竞争激烈的互联网世界中,谷歌搜索引擎优化(SEO)已经成为网站获取流量、提升品牌知名度的关键。作为一名在SEO领域摸爬滚打多年的从业者,我深知优化谷歌主页排名的重要性。无论是小型企业还是大型品牌,都渴望在谷歌搜索结果中获得更高
跨平台数据整合和数字算力矩阵!
跨平台数据整合和数字算力矩阵!前文引言:微三云发布了新一代云平台 OS 数字化操作系统。该系统拥有灵活而强大的零售 PaaS 平台,能够助力企业实现业务zhongtai、业务应用、业务前端等功能的模块化组建,实时的前后 端协同;并基于统一的
高效关键词推广优化软件大揭秘,开启企业互联网营销新时代
高效关键词推广优化软件揭秘,助力企业互联网营销新篇章。该软件通过智能分析,精准定位关键词,优化推广策略,提升企业在线曝光度和率,为企业带来更广阔的市场机遇和营销效益。随着互联网的飞速发展,已成为企业推广产品和服务的重要手段
相关文章
推荐文章
发表评论
0评