9_企业架构队列缓存中间件分布式Redis

2023-12-13 16:30:05

企业架构队列缓存中间件分布式Redis

学习目标和内容

1、能够描述Redis作用及其业务适用场景

2、能够安装配置启动Redis

3、能够使用命令行客户端简单操作Redis

4、能够实现操作基本数据类型

5、能够理解描述Redis数据持久化机制

6、能够操作安装php的Redis扩展

7、能够操作实现Redis主从模式

一、背景描述及其方案设计

1、业务背景描述

时间:2016.9.-2017.6

发布产品类型:互联?动态站点 商城

?户数量: 10000-12000(?户量猛增)

PV : 100000-500000(24小时访问次数总和)

QPS: 50-100*(每秒访问次数)

DAU: 2000(每日活跃用户数)

2、模拟运维设计方案

根据以上业务需求,准备加入Redis缓存中间件服务器,可以使用到redis更加丰富的功能

在商城业务中实现:

①session共享存储到redis

②openresty(nginx+lua)动态限制IP访问

二、Redis介绍

1、介绍

Nosql 非关系数据库 key => value 键值对

Redis是Remote Dictionary Server(远程数据服务)的缩写

由意大利人 antirez(Salvatore Sanfilippo) 开发的一款 内存高速缓存数据库

该软件使用C语言编写,它的数据模型为 key-value

它支持丰富的数据结构,比如 String list(双向链表) hash(哈希) set(集合) sorted set(zset有序集合)

可持久化(保存数据到磁盘中),保证了数据安全

2、业务使用场合

①[Sort Set]排行榜应用,取top n操作,例如sina微博热门话题

②[List]获得最新N个数据 或 某个分类的最新数据

③[String]计数器应用

④[Set]sns(social network site)获得共同好友

⑤[Set]防攻击系统(ip判断)黑白名单等等

3、对比memcached

①Redis不仅仅支持简单的k/v类型的数据,同时还提供list,set,zset,hash等数据结构的存储。

②Redis支持master-slave(主—从)模式应用。

③Redis支持数据的持久化,可以将内存中的数据保持在磁盘中,重启的时候可以再次加载进行使用。

④Redis单个value存储string的最大限制是512MB, memcached只能保存1MB的数据

⑤redis是单核,memcached是多核

由于redis只能使用单核,而memcached可以使用多核,所以在比较上,平均每一个核上redis在储存小数据时比memcached性能更高。而却100K以上数据中,memcached性能要高于redis,虽然redis最近也在储存大数据的性能上进行优化,但是比起memcached还是有点逊色。结论是无论你使用那个,每秒处理请求的次数都不会成为瓶颈。

你需要关注内存使用率。对于key-vlaue这样简单的数据储存,memcached的内存使用率更高,如果采用hash结构,redis的内存使用率会更高,当然这都依赖于具体的应用场景。

三、安装和配置

官方网址:Redis

github: GitHub - redis/redis: Redis is an in-memory database that persists on disk. The data model is key-value, but many different kind of values are supported: Strings, Lists, Sets, Sorted Sets, Hashes, Streams, HyperLogLogs, Bitmaps.

1、源码编译安装

①上传软件到目录中

redis-4.3.0.tgz php扩展 server01和server03安装

redis-5.0.5.tar.gz redis软件 server08安装

②解压编译安装

shell > tar xvf redis-5.0.5.tar.gz
shell > cd redis-5.0.5
shell > make PREFIX=/usr/local/redis install

使用文件/usr/local/redis/bin

redis-cli 命令行客户端

redis-server 服务端

③测试启动

shell > cd /usr/local/redis/bin
shell > ./redis-server

2、后台启动配置

①复制配置文件到软件目录下

②修改编辑配置文件

shell > vim /usr/local/redis/bin/redis.conf

③启动redis-server加入redis.conf参数

shell > cd /usr/local/redis/bin
shell > ./redis ./redis-server

3、命令行客户端简单使用

telnet可以连接redis,没有本身redis-cli更加好用

①简单的数据操作

②查看操作语法帮助

③系统状态信息

四、数据结构类型操作

数据结构 存储数据的方式

数据类型

算法 取数据的方式 代码就把数据进行组合、计算、存储、取出

排序算法 冒泡 堆排序 二分

1、key

key的命名规则不同于一般语言,键盘上除了空格、\n换行外其他的大部分字符都可以使用

像“my key”和“mykey\n”这样包含空格和换行的key是不允许的。

我们在使用的时候可以自己定义一个Key的格式。

例如 object-type🆔field

Key不要太长。占内存,查询慢。

Key不要太短。像u:1000:pwd:123456 就不如 user:1000:password:123456 可读性好

默认在redis中,提供了16库

查看配置文件

2、String

string是redis最基本的类型

redis的string可以包含任何数据。包括jpg图片 base64或者序列化的对象

单个value值最大上限是512MB

如果只用string类型,redis就可以被看作加上持久化特性的memcached

3、List

key value(value1,value2,value3)

list类型其实就是一个双向链表。通过push,pop操作从链表的头部或者尾部添加删除元素

这使得list既可以用作栈,也可以用作队列

同一端进出 先进后出 栈

一端 另外一端出 先进先出 队列

首部(左 left) 尾部(右right)

需求:显示最后登录的几个用户

设计实现:

①登录一个用户,把用户名称或者id存储在list中

②从头部(左部)存,从头部取(左部)

用户:xiaoming xiaohua xiaobaitu

Key名称:lastlogin

实现:

①最后登录的用户

②第一个登录的用户

栈操作

队列操作

4、set

redis的set是string类型的无序集合。集合里不允许有重复的元素

set元素最大可以包含(2的32次方-1)个元素。

关于set集合类型除了基本的添加删除操作,其他常用的操作还包含集合的取==并集(union),交集(intersection),差集(difference)==。通过这些操作可以很容易的实现sns中的好友推荐功能。

Tip:mysql连表文氏图

https://www.cnblogs.com/sunjie9606/p/4167190.html

需求:实现朋友圈的存储和共同好友的计算

设计:

key value

xiaomingFR xiaohong xiaoqiang xiaogang xiaohei xiaobai

xiaohongFR xiaoming xiaolv xiaolan xiaobai xiaohei

实现:

交集 查看xiaohong和xiaoming的共同好友

并集 计算所有的朋友数量

差集 互相介绍好友

使用set建立黑名单(白名单)

5、zset

和set一样sorted set也是string类型元素的集合,有序集合,元素不允许重复

不同的是每个元素都会关联一个权。

通过权值可以有序的获取集合中的元素,可以通过score值进行排序

需求:实现手机APP市场的软件排名

设计:

Key : hotTop

id Score name

1 2 QQ

2 3 wechat

3 5 alipay

4 7 taobao

5 10 king

6 8 jd

score从小到大,jd排第5位,超过第4位taobao的排名

①获取jd的score,taobao的score

②score从小到大排,jd的score调整到比taobao的score小

8 +(-2) = 6

6、Hash

使用redis做缓存,可以使用hash结构,压缩效率和使用效率更高,比string

Hash存储数据和关系型数据库(mysql),存储的一条数据的结构极为相似

Key:value(field:value)

devops:(username:devops,phone:15313131313,email:123456@qq.com)

17301296261:(username:17301296261,phone:17301296261,email:devops@qq.com)

五、数据持久化操作

数据 持久化(数据在服务或者软件重启之后不丢失)

如果数据只存在内存中,肯定会丢失,实现持久化,就需要把数据存储到磁盘中(hdd ssd)

1、snappshoting(快照)

默认snappshoting是开启的,有一个备份的频率

通过查看配置文件可以看到

备份文件

测试备份频率

在5分钟内,进行10key的改变,查看备份效果

手动数据备份

127.0.0.1:6379> SAVE

数据恢复 需要先停掉redis服务

如果需要恢复数据,只需将备份文件 (dump.rdb) 移动到 redis 安装目录并启动服务即可

2、append only file

aof的备份频率

①开启aof

开启aof后,之前的redis里的数据会丢失

重启redis服务

②查看aof效果

总结:

snappshoting 一般的数据持久化使用,效率高,数据迁移方便

aof 适合于备份、数据实时性备份要求更高的情况

六、企业案例使用

1、主从模式

缓存集群架构示意图

server08 master 192.168.17.107

server09 slave 192.168.17.108

①master配置

shell > vim /usr/local/redis/bin/redis.conf

开启监听,在网络中与其他服务器进行网络交互的网卡,默认eth0

bind的ip指的是其他的主机需要和这个主机通讯的ip(这个的主机)

重启服务器并查看是否启动成功

②slave配置

shell > vim /usr/local/redis/bin/redis.conf

redis5.0之后的版本修改为参数replicaof

重启服务器并查看是否启动成功

③查看效果

Tip:

slave不允许写操作

是因为配置文件里进行了slave read-only设置,也是符合业务的使用需求

2、安全限制

==IP限制登录==

①打开配置IP限制

注意如果有防火墙,先关闭防火墙,或者开启端口限制

bind ip 监听绑定网卡的IP

shell > vim /usr/local/redis/bin/redis.conf

重启服务,检测是否启动成功

②远程连接测试

==密码验证==

①修改配置文件

shell > vim /usr/local/redis/bin/redis.conf

重启服务并检查是否启动成功

②测试密码登录

Tip:如果开启了密码限制,搭建主从需要在slave配置中填写master密码

4、PHP扩展安装

server01和server03上安装redis扩展

①解压编译安装

shell > tar xvf redis-4.3.0.tgz
shell > cd redis-4.3.0
shell > phpize
shell > ./configure && make && make install

②配置文件php.ini开启

shell > vim /usr/local/php/etc/php.ini

③重启php-fpm服务器查看phpinfo

shell > service php-fpm restart

查看phpinfo,需要编写一个php文件内容如下

<?php
 	phpinfo();

通过浏览器访问编写的php文件页面,ctrl+f在搜索框里输入并查看

5、session存入redis

与之前session存储到memcached的方式一样,将session存储到redis中,也可以实现session的共享和实现单点登录(sso)的操作。

下面就是配置thinkphp框架存储session到redis中的示例配置文件。

##6、Nginx+lua+redis 实现访问攻击黑名单 WAF

https://www.cnblogs.com/huligong1234/p/4163832.html

①安装openresty 和之前安装一致

②配置文件

③lua脚本文件

④测试效果

超过访问计数之后,就禁止访问

文章来源:https://blog.csdn.net/qq_57747969/article/details/134841191
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。