08、Kafka ------ 消息存储相关的配置-->消息过期时间设置、查看主题下的消息存活时间等配置
消息存储相关的配置
★ 消息的存储
Kafka的消息主题与JMS、AMQP的消息队列是不同:JMS、AMQP消息队列中的消息只能被消费一次,当消息被消费时,这条消息就会被移出队列;
但Kafka主题中的消息完全可以被多次重复消费,甚至可以从指定下标处开始读取消息。
从某种角度来看,Kafka主题中的消息,就像数据表中的记录,它会在一段时间内持久化保存,客户端(消费者)可根据需要反复地读取它们,
这正是一开始就介绍过的:Kafka并不是单纯的消息组件,而是“开源的分布式事件流平台(open-source distributed event streaming platform)”。
★ 消息过期
Kafka主题中的消息默认保存期限为7天,这个默认保存时间可通过server.propeties文件中的 log.retention.hours 属性进行修改。
当数据过期之后,Kafka可以对数据进行两种处理:delete或compact,其中
- delete 表示直接删除过期数据,
- compact 则表示对数据进行压缩整理,更多是偏向整理。
通过server.propeties文件中的 log.cleanup.policy 属性进行配置。
★ 修改指定主题的消息保存时间
在 server.properties 文件中配置的参数,它们都是对整个Broker生效的。
有些时候,可能希望仅修改特定主题的某些配置,此时就需要对特定主题进行修改了。
修改指定主题的额外属性推荐使用 kafka-configs.bat(.sh)命令,该工具命令可指定如下常用选项:
--alter:修改。
--describe:显示。该选项与--alter选项只能选择其中之一。
--delete-config:指定要删除的配置属性,该选项的值应该符合“k1,k2”的形式。
--add-config:指定要添加的配置属性,
该选项的值为应该符合“k1=v1,k2=[v1,v2,v2],k3=v3”的形式。
--bootstrap-server:指定要连接的服务器。
--entity-type:指定要配置的实体类型,
该选项可支持topics(主题)、clients(客户端)、users(用户)、
brokers(代理)和broker-loggers(代理日志)这些值。
--entity-name:指定要配置的实体的名称,该选项与--entity-type结合使用,
用于指定主题名,客户端ID、用户名、Broker ID。
修改指定主题的保存时间,用 “retention.ms” 属性。
▲ 将 test2 主题下的消息的保存时间设为10个小时
kafka-configs --bootstrap-server localhost:9092 ^
--alter ^
--entity-name test2 ^
--entity-type topics ^
--add-config retention.ms=36000000
没设置保存时间之前,查看下配置:发现什么都没有
查询的命令在下面查看那里:就是这个查寻命令
kafka-configs --bootstrap-server localhost:9092 ^
--describe ^
--entity-name test2 ^
--entity-type topics
cmak 界面也没有时间显示:配置里面默认消息存放是7天,这里没有显示
然后设置test2主题下的消息保存时间为10小时:
然后再查一遍:
CMAK 界面查看也有了消息的存活时间:
★ 查看指定主题的配置
查看指定主题的配置可用两条命令:
1、使用 kafka-configs.bat 命令的 --describe 子命令
——该命令可查看所有对象的信息
–bootstrap-server localhost:9092 ^ 这个就是指定连接哪个kafka服务器地址
kafka-configs --bootstrap-server localhost:9092 ^
--describe ^
--entity-name test2 ^
--entity-type topics
直接查9092节点的kafka下的test2主题的所有对象详细,所以描述的比较少。
可以看到test2主题的配置中,该主题消息的存活时间是10小时。
2、使用 kafka-topics.bat 命令的 --describe子 命令
——该命令只能查看特定主题的信息
kafka-topics --bootstrap-server localhost:9092 ^
--topic test2 ^
--describe
因为是专门查看主题的,所以不仅有主题的配置信息,还有该主题的分区信息。
可以在CMAK界面查看这个主题的配置:
不仅可以用命令修改主题配置,在这个CMAK界面也可以直接修改和查看:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。 如若内容造成侵权/违法违规/事实不符,请联系我的编程经验分享网邮箱:veading@qq.com进行投诉反馈,一经查实,立即删除!