Go项目优化——动态缓存Redis的使用

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
简介: Go项目优化——动态缓存Redis的使用

1. Redis:

1.1 简介:

garyburd/redigo 包是网上很多博文都在推荐使用的一个高Star的Redis连接包,项目已经迁移到了gomodule/redigo,同时包的获取也理所当然地改成了go get github.com/gomodule/redigo/redis,总之,暂时不管这两个包的详细区别,以下就以新包为准,介绍下redigo包使用。

1.2 连接redis

//第一种连接方法
con,err := redis.Dial("tcp", 
  "链接地址,例如127.0.0.1:6379", 
  redis.DialPassword("密码"),
)
// or
// con,err := redis.Dial("tcp","127.0.0.1:6379")
if err != nil {
   fmt.Println(err)
}
defer con.Close()

1.3 常用api:

// Do 向服务器发送命令并返回收到的应答。
func Do(commandName string, args ...interface{}) (reply interface{}, err error)
// reply 具体类型,具体转换
func Int(reply interface{}, err error) (int, error) 
func String(reply interface{}, err error) (string, error)
func Bool(reply interface{}, err error) (bool, error) 
func Values(reply interface{}, err error) ([]interface{}, error) 
func Strings(reply interface{}, err error) ([]string, error)
func ByteSlices(reply interface{}, err error) ([][]byte, error)
func Ints(reply interface{}, err error) ([]int, error)
func StringMap(result interface{}, err error) (map[string]string, error)
...
// 更多函数自行探索

1.3 连接池

在golang的项目中,若要频繁的用redis(或者其他类似的NoSQL)来存取数据,最好用redigo自带的池来管理连接。

 不然的话,每当要操作redis时,建立连接,用完后再关闭,会导致大量的连接处于TIME_WAIT状态(redis连接本质上就是tcp)。

注:TIME_WAIT,也叫TCP半连接状态,会继续占用本地端口。

import (
  "fmt"
  "github.com/gomodule/redigo/redis"
  "time"
)
var redisPoll *redis.Pool
func initRedis() {
  redisPoll = &redis.Pool{
    // 连接方法
    Dial: func() (redis.Conn, error) {
      c, err := redis.Dial("tcp", "链接地址,例如127.0.0.1:6379",
        redis.DialPassword("密码"),
        redis.DialReadTimeout(1*time.Second),
        redis.DialWriteTimeout(1*time.Second),
        redis.DialConnectTimeout(1*time.Second),
      )
      if err != nil {
        return nil, err
      }
      return c, nil
    },
    // 最大的空闲连接数,
    // 表示即使没有redis连接时依然可以保持N个空闲的连接,而不被清除,随时处于待命状态。
    MaxIdle: 256,
    // 最大的激活连接数,表示同时最多有N个连接
    MaxActive: 256,
    // 最大的空闲连接等待时间,超过此时间后,空闲连接将被关闭
    IdleTimeout: time.Duration(120),
  }
}
// myDo
// @Title myDo
// @Description 封装的 redis Do函数
// Do(commandName string, args ...interface{}) (reply interface{}, err error)
// @Param cmd string 命令
// @Param key interface{} 键
// @Param args ...interface{} 参数
// @Return interface{} redis服务器返回值
// @Return error 错误
func myDo(cmd string, key interface{}, args ...interface{}) (interface{}, error) {
  // 从pool里获取一个redis连接,如果连接池没有,会调用 Dial()
  con := redisPoll.Get()
  if err := con.Err(); err != nil {
    return nil, err
  }
  parmas := make([]interface{}, 0)
  parmas = append(parmas, key)
  // 如果参数不为空,也加入参数列表
  if len(args) > 0 {
    for _, arg := range args {
      parmas = append(parmas, arg)
    }
  }
  return con.Do(cmd, parmas...)
}
func main() {
  initRedis()
  myDo("set", "mykey1", "myvalue1")
  result, err := myDo("get", "mykey1")
  if err != nil {
    fmt.Println(err.Error())
  }
  // String()是将命令应答转换为字符串的帮助器。
  str, _ := redis.String(result, err)
  fmt.Println(str)
}

1.4 项目中使用:

dynamic cache:动态缓存

conf/dynamicache.conf

#*******************
#动态缓存配置
#*******************
# redis地址
dynamicache_addrstr=127.0.0.1:6379
# redis密码
dynamicache_passwd=密码

conf/app.conf

...
# 引入动态缓存配置文件
include "dynamicache.conf"
...

utils/dynamic_cache.go

package dynamicache
import (
  "encoding/json"
  "github.com/astaxie/beego/logs"
  "strconv"
  "time"
  "github.com/astaxie/beego"
  "github.com/gomodule/redigo/redis"
)
var (
  pool *redis.Pool = nil
  // MaxIdle 最大的空闲连接数,
  MaxIdle int = 0
  // MaxOpen 最大的激活连接数,表示同时最多有N个连接
  MaxOpen int = 0
  // ExpireSec 超时时间
  ExpireSec int64 = 0
)
// InitCache 在 sysinit.go 中调用
// 初始化redis配置
func InitCache() {
  addr := beego.AppConfig.String("dynamicache_addrstr")
  if len(addr) == 0 {
    addr = "127.0.0.1:6379"
  }
  if MaxIdle <= 0 {
    MaxIdle = 256
  }
  password := beego.AppConfig.String("dynamicache_passwd")
  if len(password) == 0 {
    pool = &redis.Pool{
      MaxIdle:     MaxIdle,
      MaxActive:   MaxOpen, // 最大
      IdleTimeout: time.Duration(120),
      Dial: func() (redis.Conn, error) {
        return redis.Dial(
          "tcp",
          addr,
          redis.DialReadTimeout(1*time.Second),
          redis.DialWriteTimeout(1*time.Second),
          redis.DialConnectTimeout(1*time.Second),
        )
      },
    }
  } else {
    pool = &redis.Pool{
      MaxIdle:     MaxIdle,
      MaxActive:   MaxOpen,
      IdleTimeout: time.Duration(120),
      Dial: func() (redis.Conn, error) {
        return redis.Dial(
          "tcp",
          addr,
          redis.DialReadTimeout(1*time.Second),
          redis.DialWriteTimeout(1*time.Second),
          redis.DialConnectTimeout(1*time.Second),
          redis.DialPassword(password),
        )
      },
    }
  }
}

sysinit/sysinit.go

package sysinit
import (
    ...
  "mybook/utils/dynamicache"
  ...
)
....
// initDynamicCache
// @Title initDynamicCache
// @Description 初始化dynamic_cache.go里的公有值,并初始化redis配置 
func initDynamicCache() {
  dynamicache.MaxOpen = 128
  dynamicache.MaxIdle = 128
  dynamicache.ExpireSec = 10
  dynamicache.InitCache()
}
....

根据实际业务需要,在utils/dynamic_cache.go里封装会用到的方法

utils/dynamic_cache.go

...
// redisDo
// @Title redisDo
// @Description 封装的 redis Do函数
// Do(commandName string, args ...interface{}) (reply interface{}, err error)
// @Param cmd string 命令
// @Param key interface{} 键
// @Param args ...interface{} 参数
// @Return interface{} redis服务器返回值
// @Return error 错误
func redisDo(cmd string, key interface{}, args ...interface{}) (interface{}, error) {
  con := pool.Get()
  if err := con.Err(); err != nil {
    return nil, err
  }
  params := make([]interface{}, 0)
  params = append(params, key)
  if len(args) > 0 {
    for _, v := range args {
      params = append(params, v)
    }
  }
  return con.Do(cmd, params...)
}
// WriteString
// @Title WriteString
// @Description 写字符串
// @Param key string 键
// @Param value string 值
// @Return error 错误
func WriteString(key string, value string) error {
  _, err := redisDo("SET", key, value)
  logs.Debug("redis set:" + key + "-" + value)
  redisDo("EXPIRE", key, ExpireSec)
  return err
}
// ReadString
// @Title ReadString
// @Description  读字符串
// @Param key string 键
// @Param value string 值
// @Return error 错误
func ReadString(key string) (string, error) {
  result, err := redisDo("GET", key)
  logs.Debug("redis get:" + key)
  if nil == err {
    str, _ := redis.String(result, err)
    return str, nil
  } else {
    logs.Debug("redis get error:" + err.Error())
    return "", err
  }
}
// 以下封装的方法都是在WriteString() ReadString()上封装的,使用的都是redis里的string类型
// WriteStruct
// @Title WriteStruct
// @Description 写结构体(本质是还是写json字符串)
func WriteStruct(key string, obj interface{}) error {
  data, err := json.Marshal(obj)
  if nil == err {
    return WriteString(key, string(data))
  } else {
    return nil
  }
}
// ReadStruct
// @Title ReadStruct
// @Description 读结构体
func ReadStruct(key string, obj interface{}) error {
  if data, err := ReadString(key); nil == err {
    return json.Unmarshal([]byte(data), obj)
  } else {
    return err
  }
}
// WriteList
// @Title WriteList
// @Description 写数组
func WriteList(key string, list interface{}, total int) error {
  realKeyList := key + "_list"
  realKeyCount := key + "_count"
  data, err := json.Marshal(list)
  if nil == err {
    WriteString(realKeyCount, strconv.Itoa(total))
    return WriteString(realKeyList, string(data))
  } else {
    return nil
  }
}
// ReadList
// @Title ReadList
// @Description 读数组
func ReadList(key string, list interface{}) (int, error) {
  realKeyList := key + "_list"
  realKeyCount := key + "_count"
  if data, err := ReadString(realKeyList); nil == err {
    totalStr, _ := ReadString(realKeyCount)
    total := 0
    if len(totalStr) > 0 {
      total, _ = strconv.Atoi(totalStr)
    }
    return total, json.Unmarshal([]byte(data), list)
  } else {
    return 0, err
  }
}
相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
2月前
|
NoSQL 安全 测试技术
Redis游戏积分排行榜项目中通义灵码的应用实战
Redis游戏积分排行榜项目中通义灵码的应用实战
78 4
|
30天前
|
存储 缓存 NoSQL
解决Redis缓存数据类型丢失问题
解决Redis缓存数据类型丢失问题
172 85
|
2天前
基于springboot+thymeleaf+Redis仿知乎网站问答项目源码
基于springboot+thymeleaf+Redis仿知乎网站问答项目源码
51 36
|
5天前
|
存储 缓存 NoSQL
云端问道21期方案教学-应对高并发,利用云数据库 Tair(兼容 Redis®*)缓存实现极速响应
云端问道21期方案教学-应对高并发,利用云数据库 Tair(兼容 Redis®*)缓存实现极速响应
|
5天前
|
缓存 NoSQL 关系型数据库
云端问道21期实操教学-应对高并发,利用云数据库 Tair(兼容 Redis®)缓存实现极速响应
本文介绍了如何通过云端问道21期实操教学,利用云数据库 Tair(兼容 Redis®)缓存实现高并发场景下的极速响应。主要内容分为四部分:方案概览、部署准备、一键部署和完成及清理。方案概览中,展示了如何使用 Redis 提升业务性能,降低响应时间;部署准备介绍了账号注册与充值步骤;一键部署详细讲解了创建 ECS、RDS 和 Redis 实例的过程;最后,通过对比测试验证了 Redis 缓存的有效性,并指导用户清理资源以避免额外费用。
|
1月前
|
NoSQL Java 关系型数据库
Liunx部署java项目Tomcat、Redis、Mysql教程
本文详细介绍了如何在 Linux 服务器上安装和配置 Tomcat、MySQL 和 Redis,并部署 Java 项目。通过这些步骤,您可以搭建一个高效稳定的 Java 应用运行环境。希望本文能为您在实际操作中提供有价值的参考。
147 26
|
27天前
|
缓存 监控 NoSQL
Redis经典问题:缓存穿透
本文详细探讨了分布式系统和缓存应用中的经典问题——缓存穿透。缓存穿透是指用户请求的数据在缓存和数据库中都不存在,导致大量请求直接落到数据库上,可能引发数据库崩溃或性能下降。文章介绍了几种有效的解决方案,包括接口层增加校验、缓存空值、使用布隆过滤器、优化数据库查询以及加强监控报警机制。通过这些方法,可以有效缓解缓存穿透对系统的影响,提升系统的稳定性和性能。
|
2月前
|
缓存 NoSQL 关系型数据库
大厂面试高频:如何解决Redis缓存雪崩、缓存穿透、缓存并发等5大难题
本文详解缓存雪崩、缓存穿透、缓存并发及缓存预热等问题,提供高可用解决方案,帮助你在大厂面试和实际工作中应对这些常见并发场景。关注【mikechen的互联网架构】,10年+BAT架构经验倾囊相授。
大厂面试高频:如何解决Redis缓存雪崩、缓存穿透、缓存并发等5大难题
|
2月前
|
缓存 NoSQL PHP
Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出
本文深入探讨了Redis作为PHP缓存解决方案的优势、实现方式及注意事项。Redis凭借其高性能、丰富的数据结构、数据持久化和分布式支持等特点,在提升应用响应速度和处理能力方面表现突出。文章还介绍了Redis在页面缓存、数据缓存和会话缓存等应用场景中的使用,并强调了缓存数据一致性、过期时间设置、容量控制和安全问题的重要性。
55 5
|
2月前
|
存储 负载均衡 监控
如何利用Go语言的高效性、并发支持、简洁性和跨平台性等优势,通过合理设计架构、实现负载均衡、构建容错机制、建立监控体系、优化数据存储及实施服务治理等步骤,打造稳定可靠的服务架构。
在数字化时代,构建高可靠性服务架构至关重要。本文探讨了如何利用Go语言的高效性、并发支持、简洁性和跨平台性等优势,通过合理设计架构、实现负载均衡、构建容错机制、建立监控体系、优化数据存储及实施服务治理等步骤,打造稳定可靠的服务架构。
55 1