一文彻底搞定Redis与MySQL的数据同步

本文涉及的产品
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 【10月更文挑战第21天】本文介绍了 Redis 与 MySQL 数据同步的原因及实现方式。同步的主要目的是为了优化性能和保持数据一致性。实现方式包括基于数据库触发器、应用层双写和使用消息队列。每种方式都有其优缺点,需根据具体场景选择合适的方法。此外,文章还强调了数据同步时需要注意的数据一致性、性能优化和异常处理等问题。

一、为什么要进行 Redis 与 MySQL 数据同步


  1. 性能优化
  • MySQL 是关系型数据库,数据存储和读取相对复杂。Redis 是内存数据库,读写速度极快。将热点数据存储在 Redis 中,可以大大提高系统的访问速度。例如,在一个电商系统中,商品的基本信息(如名称、价格等)如果频繁被用户访问,将这些信息存储在 Redis 中,用户查询时可以快速响应。
  1. 数据一致性需求
  • 虽然 Redis 和 MySQL 存储的数据有不同的用途,但在很多场景下,它们的数据需要保持一定程度的一致性。比如,当 MySQL 中的商品库存发生变化时,Redis 中缓存的库存信息也需要相应更新,否则可能会导致数据不一致的问题,如超卖现象。


二、数据同步的实现方式


(一)基于数据库的触发器


  1. 原理
  • 可以在 MySQL 数据库中创建触发器,当表中的数据发生插入、更新或删除操作时,触发器会自动执行一段代码。这段代码可以通过相关的 Redis 客户端库与 Redis 进行通信,将变化的数据同步到 Redis 中。
  1. 示例
  • 假设我们有一个名为products的 MySQL 表,其中包含idnameprice字段。我们要在插入数据时同步到 Redis。首先,我们需要创建一个 Redis 连接:


import redis
   r = redis.Redis(host='localhost', port=6379, db=0)


  • 然后在 MySQL 中创建触发器。以下是一个简单的INSERT触发器示例(假设使用的是 MySQL 数据库):


DELIMITER //
   CREATE TRIGGER sync_product_insert AFTER INSERT ON products
   FOR EACH ROW
   BEGIN
       SET @product_key = CONCAT('product:', NEW.id);
       SET @product_name = NEW.name;
       SET @product_price = NEW.price;
       SET @redis_command = CONCAT('HMSET ', @product_key,'name ', @product_name,'price ', @product_price);
       SELECT sys_exec(@redis_command); 
   END;
   //
   DELIMITER ;


  • 这里使用了sys_exec函数来执行外部命令,实际上是通过 Redis 客户端工具(假设系统中有合适的配置来执行外部命令)来执行HMSET命令将新插入的产品数据同步到 Redis 中。不过这种方式可能会受到安全和性能的限制,在实际生产环境中需要谨慎使用。


(二)应用层双写


  1. 原理
  • 在应用程序代码中,当对 MySQL 进行数据操作(插入、更新、删除)时,同时对 Redis 进行相应的数据更新操作。这种方式的好处是灵活性高,开发者可以根据具体的业务逻辑来决定如何同步数据。
  1. 示例
  • 以 Python 的 Django 框架为例,假设我们有一个Product模型类,并且希望在保存产品数据时同步到 Redis。首先在models.py文件中定义模型:


from django.db import models
   class Product(models.Model):
       name = models.CharField(max_length=100)
       price = models.DecimalField(max_length=10, decimal_places=2, max_digits=10)


  • 然后在保存数据的方法中添加 Redis 同步代码。可以在views.py或者模型的save方法中添加:


import redis
   r = redis.Redis(host='localhost', port=6379, db=0)
   def save_product(request):
       product_name = request.POST.get('name')
       product_price = request.POST.get('price')
       new_product = Product(name=product_name, price=product_price)
       new_product.save()
       product_key = f"product:{new_product.id}"
       r.hset(product_key, "name", product_name)
       r.hset(product_key, "price", product_price)
       return HttpResponse("Product saved and synced to Redis")


  • 这种方式的缺点是代码耦合度较高,如果有多个地方需要对数据进行操作,就需要在每个地方都添加同步代码。


(三)使用消息队列


  1. 原理
  • 当 MySQL 中的数据发生变化时,通过消息队列发送一条消息,消息中包含数据变化的相关信息(如操作类型、表名、主键等)。然后有一个独立的消费者进程从消息队列中获取消息,并根据消息内容对 Redis 进行数据同步操作。这种方式解耦了数据的产生和处理过程,提高了系统的可扩展性和可靠性。
  1. 示例
  • 以 RabbitMQ 为例,首先在应用程序中,当 MySQL 数据发生变化时,发送消息到 RabbitMQ。假设我们使用 Python 的pika库来操作 RabbitMQ:


import pika
   def send_message_to_queue(data_change_info):
       connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))
       channel = connection.channel()
       channel.queue_declare(queue='data_sync_queue')
       channel.basic_publish(exchange='', routing_key='data_sync_queue', body=data_change_info)
       connection.close()


  • 然后创建一个消费者来接收消息并同步数据到 Redis。同样使用pika库:


import pika
   import redis
   r = redis.Redis(host='localhost', port=6379, db=0)
   def callback(ch, method, properties, body):
       data_change_info = body.decode('utf - 8')
       # 根据消息内容进行Redis数据同步操作,这里只是示例,实际需要解析消息内容
       print("Received:", data_change_info)
       # 假设消息内容包含操作类型和产品ID,进行简单的同步
       operation_type, product_id = data_change_info.split(":")
       if operation_type == "insert":
           # 假设根据产品ID从MySQL中获取数据并同步到Redis,这里省略获取数据的过程
           product_name = "Sample Name"
           product_price = 10.0
           product_key = f"product:{product_id}"
           r.hset(product_key, "name", product_name)
           r.hset(product_key, "price", product_price)
   connection = pika.BlockingConnection(pika.ConnectionParameters('localhost'))
   channel = connection.channel()
   channel.queue_declare(queue='data_sync_queue')
   channel.basic_consume(queue='data_sync_queue', on_message_callback=callback, auto_ack=True)
   channel.start_consuming()


  • 这种方式需要额外维护消息队列系统,但在高并发和复杂系统中能够更好地保证数据同步的稳定性和效率。


三、数据同步的注意事项


  1. 数据一致性问题的处理
  • 由于 Redis 和 MySQL 的数据同步可能存在延迟,在一些对数据一致性要求极高的场景下,需要考虑如何处理可能出现的数据不一致情况。例如,可以采用分布式事务或者补偿机制来尽量减少数据不一致带来的影响。
  1. 性能优化
  • 在进行数据同步时,要注意不要因为频繁的同步操作而影响系统的整体性能。例如,在使用消息队列时,要合理设置消息的消费速度,避免消息堆积影响系统的响应时间。同时,对于频繁读取但很少更新的数据,可以适当延长同步周期,以减少不必要的同步操作。
  1. 异常处理
  • 在数据同步过程中,可能会出现网络故障、Redis 或 MySQL 服务故障等情况。需要在代码中添加完善的异常处理机制,例如,当 Redis 连接失败时,可以尝试重新连接或者将数据同步操作放入重试队列中,等待服务恢复后再进行同步。
相关实践学习
如何在云端创建MySQL数据库
开始实验后,系统会自动创建一台自建MySQL的 源数据库 ECS 实例和一台 目标数据库 RDS。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
10天前
|
NoSQL 关系型数据库 MySQL
2024Mysql And Redis基础与进阶操作系列(4-2)作者——LJS[含MySQL非空、唯一性、PRIMARY KEY、自增列/自增约束举例说明等详解步骤及常见报错问题对应的解决方法]
24MySQL非空、唯一性、PRIMARY KEY、自增列/自增约束举例说明等详解步骤及常见报错问题对应的解决方法(4-2) 学不会你来砍我!!!
|
10天前
|
NoSQL 安全 关系型数据库
2024Mysql And Redis基础与进阶操作系列(6)作者——LJS[含MySQL 多表之一对一/多;多对多;多表联合查询等详解步骤及常见报错问题所对应的解决方法]
MySQL 多表之一对一/多;多对多;多表联合之交叉连接;内连接;左、右、外、满、连接;子查询及关键字;自连接查询等详解步骤及常见报错问题所对应的解决方法
|
10天前
|
SQL NoSQL 关系型数据库
2024Mysql And Redis基础与进阶操作系列(5)作者——LJS[含MySQL DQL基本查询:select;简单、排序、分组、聚合、分组、分页等详解步骤及常见报错问题所对应的解决方法]
MySQL DQL基本查询:select;简单、排序、分组、聚合、分组、分页、INSERT INTO SELECT / FROM查询结合精例等详解步骤及常见报错问题所对应的解决方法
|
10天前
|
SQL NoSQL 关系型数据库
|
10天前
|
SQL 关系型数据库 MySQL
|
9天前
|
SQL NoSQL 关系型数据库
2024Mysql And Redis基础与进阶操作系列(13)作者——LJS[你个小黑子这都还学不会嘛?你是真爱粉嘛?真是的 ~;以后请别侮辱我家鸽鸽]
MYSQL日志之详解如何配置查看二进制、查询及慢查询日志;备份与恢复等具体详解步骤;举例说明、注意点及常见报错问题所对应的解决方法
2024Mysql And Redis基础与进阶操作系列(13)作者——LJS[你个小黑子这都还学不会嘛?你是真爱粉嘛?真是的 ~;以后请别侮辱我家鸽鸽]
|
9天前
|
存储 SQL NoSQL
|
9天前
|
存储 SQL NoSQL
2024Mysql And Redis基础与进阶操作系列(10)作者——LJS[你个IKUN还学不会嘛?你是真爱粉嘛?真是的 ~;以后别侮辱我家鸽鸽]
Mysql And Redis基础与进阶操作系列之存储函数和MySQL 触发器等具体举例以及详解步骤;注意点及常见报错问题所对应的解决方法]
|
9天前
|
NoSQL 关系型数据库 MySQL
2024Mysql And Redis基础与进阶操作系列(8)作者——LJS[含MySQL 创建、修改、跟新、重命名、删除视图等具体详步骤;注意点及常见报错问题所对应的解决方法]
MySQL 创建、修改、跟新、重命名、删除视图等具体详步骤;举例说明注意点及常见报错问题所对应的解决方法
|
9天前
|
SQL NoSQL 关系型数据库

推荐镜像

更多