首页>>数据库>>nosql->rockermq数据写入redis,rocketmq 读写队列

rockermq数据写入redis,rocketmq 读写队列

时间:2023-12-23 本站 点击:0

数据多的时候为什么要使用redis而不用mysql?

在需求方面,mysql和redis因为需求的不同,一般都是配合使用。需要高性能的地方使用Redis,不需要高性能的地方使用MySQL。存储数据在MySQL和Redis之间做同步。

从类型上来说,mysql是关系型数据库,redis是缓存数据库。mysql用于持久化的存储数据到硬盘,功能强大,但是速度较慢。redis用于存储使用较为频繁的数据到缓存中,读取速度快。

类型不同 MySQL是关系型数据库;而Redis是非关系型数据库。作用不同 mysql用于持久化的存储数据到硬盘,功能强大,但是速度较慢。redis用于存储使用较为频繁的数据到缓存中,读取速度快。

redis使用场景有哪些

1、云数据库redis的应用场景有:缓存、会话存储、发布/订阅系统、计数器和排行榜、实时数据分析。缓存 Redis最常见的用途就是作为缓存层,由于Redis存储在内存中,读写速度非常快,可以显著减轻数据库或其他后端服务的负载压力。

2、通常而言目前的数据库分类有几种,包括 SQL/NSQL,关系数据库,键值数据库等等 等,分类的标准也不以,Redis本质上也是一种键值数据库的,但它在保持键值数据库简单快捷特点的同时,又吸收了部分关系数据库的优点。

3、Redis全称为:RemoteDictionaryServer(远程数据服务),该软件使用C语言编写,Redis是一个key-value存储系统,它支持丰富的数据类型,如:string、list、set、zset(sortedset)、hash。

4、常见应用场景 redis中的pub/sub可以实现广播功能,类似rocketmq中的broadcast 常见应用场景 除了上述最基本的数据结构外,redis还提供了一些其他的数据结构,有的是需要安装相关redis stack来使用的。

redis用在什么地方

1、Redis 是互联网技术领域使用最为广泛的存储中间件,它是「Remote Dictionary Service」的首字母缩写,也就是「远程字典服务」。

2、缓存:这应该是 Redis 最主要的功能了,也是大型网站必备机制,合理地使用缓存不仅可以加 快数据的访问速度,而且能够有效地降低后端数据源的压力。

3、消息队列、分布式锁。消息队列:Redis可以作为一种高性能的消息队列使用,实现异步处理和解耦。分布式锁:Redis可以作为一种分布式锁的存储层,通过缓存锁信息和锁状态,实现分布式锁和并发控制。

一起讨论下,消息幂等(去重)通用解决方案

如果要保证一致性,需要生产者在失败后重试,不过重试又会导致消息重复的问题,一个解决方案是每个消息给一个唯一的id,通过服务端的主动去重来避免重复消息的问题,不过这一机制目前Kafka还未实现。

服务器处理消息需要是幂等的,消息的生产方和接收方都需要做到幂等性; 发送放需要添加一个定时器来遍历重推未处理的消息,避免消息丢失,造成的事务执行断裂。

Kafka本身支持At least once消息送达语义,因此实现消息发送的幂等关键是要实现Broker端消息的去重。

消息堆积的产生原因 消息堆积的原因主要在于两方面,其一为消费的太慢或消费方出现异常,其二为生产方生产的太快,总的来说就是 消息的速度赶不上生产的速度,生产和消费速度不匹配造成的 。

另外打造一个高可靠的幂等服务还需要考虑很多问题,比如一台机器虽然把全局ID先写入了存储,但是在写入之后挂了,这就需要引入全局ID的超时机制。使用全局唯一ID是一个通用方案,可以支持插入、更新、删除业务操作。

高并发的系统如何保证幂等性? 查询 查询的API,可以说是天然的幂等性,因为你查询一次和查询两次,对于系统来讲,没有任何数据的变更,所以,查询一次和查询多次一样的。

RocketMQ部署以及调优

1、根据Rocketmq集群说明,其实最终只需暴露nameserver的地址给应用即可,因此,各个环境绑定各个环境对应的hosts/dns即可使用统一连接的地址。

2、下面我们将要部署双master双slave同步复制的RocketMQ集群,这里需要准备两个虚拟机。就这样,rockermq就安装好了,接下来我们要修改配置文件。

3、console的部署就不说那么多了,直接上命令。

4、RockerMQ在k8s的部署有两种方式, 一种是使用operator 在k8s集群中部署,可参考 operation项目 ; 一种是编写简单的k8s配置文件,在rocketmq的docker项目中有提供模板。

mysql同步数据到redis-增量同步

1、使用阿里开源的 canal 作为数据同步工具。总的来说有两种方案 本文把两种方式都实现下。如果公司有统一的平台接入binlog的话,canal+mq应该是比较好的解耦的方式。

2、二者数据同步的关键在于mysql数据库中主键,方案是在redis启动时区mysql读取所有表键值存入redis中,往redis写数据是,对redis主键自增并进行读取,若mysql更新失败,则需要及时清除缓存及同步redis主键。

3、mysql2redis_mission.sql文件就是将mysql数据的输出数据格式和redis的输入数据格式协议相匹配,从而大大缩短了同步时间。

4、我们大多倾向于使用这种方式,也就是将数据库中的变化同步到Redis,这种更加可靠。Redis在这里只是做缓存。

5、监控与告警:可以配置任务告警,在任务异常的情况下实时获取异常提醒,以便及时处理。灵活的同步选项:NineData提供了多种同步选项,包括全量同步和增量同步等,以满足不同场景的数据同步需求。

rockermq数据写入redis的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于rocketmq 读写队列、rockermq数据写入redis的信息别忘了在本站进行查找喔。


本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:/nosql/55621.html