一、关系型数据库和非关系型数据库:
1.关系型数据库:
- 关系型数据库是一个结构化的数据库 ,创建在关系模型 (二维表格 模型) 基础上,一般面向于记录。
- SQL语句 (标准数据查询语言 ) 就是一种基于关系型数据库的语言,用于执行对关系型数据库中数据的检索和操作。
- 主流的关系型数据库包括: Oracle 、MySQL(mariadb)、SQL Server、Microsoft Access、DB2等。
优点:
1、安全性高(持久化)
2、事务处理能力强
3、任务控制制能力强
3、可以做日志备份、恢复、容灾的能力更强一点。
2. 非关系型数据库:
- NoSQL (NoSQL=NotOnlySQL),意思是"不仅仅是SQL",是非关系型数据库的总称。
- 除了主流的关系型数据库外的数据库,都认为是非关系型。
- 主流的NoSQL数据库有Redis、MongBD、Hbase、Memcached等。
优点:
1、数据保存在缓存中,利于读取速度/查询数据
2、架构中位置灵活
3、分布式、扩展性高
3.关系型数据库和非关系型数据库区别:
3.1数据存储方式不同:
关系型和非关系型数据库的主要差异是: 数据存储的方式。
关系型数据天然就是表格式 的,因此存储在数据表的行和列中。数据表可以彼此关联协作存储,也很容易提取数据。
非关系型数据不适合存储在数据表的行和列中 ,而是大块组合在一起。非关系型数据通常存储在数据集中,就像文档、键值对或者图结构。你的数据及其特性是选择数据存储和提取方式的首要影响因素。
关系型:依赖于关系模型E-R图,同时以二维表格式的方式存储数据
非关系型:除了以表格形式存储之外,通常会以大块的形式组合在一起进行存储数
3.2扩展方式不同:
SQL和NoSQL数据库最大的差别:可能是在扩展方式上,要支持日益增长的需求当然要扩展。
要支持更多并发量,SQL数据库是纵向扩展,也就是说提高处理能力 ,使用速度更快速的计算机,这样处理相同的数据集就更快了。因为数据存储在关系表中,操作的性能瓶颈可能涉及很多个表,这都需要通过提高计算机性能来克服。虽然SQL数据库有很大扩展空间,但最终肯定会达到纵向扩展的上限。
而NoSQL数据库是横向扩展的 。因为非关系型数据存储天然就是分布式的,NoSQL数据库的扩展可以通过给资源池添加更多普通的数据库服务器 (节点) 来分担负载。
关系型数据库:纵向(天然表格式)
非关系型数据库:横向(天然分布式)
3.3对事务性的支持不同:
如果数据操作需要高事务性或者复杂数据查询需要控制执行计划,那么传统的SQL数据库从性能和稳定性方面考虑是你的最佳选择。SQL数据库支持对事务原子性细粒度控制,并且易于回滚事务。
虽然NoSQL数据库也可以使用事务操作,但稳定性方面没法和关系型数据库比较,所以它们真正闪亮的价值是在操作的扩展性和大数据量处理方面。
关系型:特别适合高事务性要求和需要控制执行计划的任务
非关系:此处会稍显弱势,其价值点在于高扩展性和大数据量处理方面
3.4 非关系型数据库产生背景:
可用于应对 Web2.0 纯动态网站类型的三高问题。
(1) High performance-------对数据库高并发读写需求
(2) HugeStorage--------------对海量数据高效存储与访问需求
(3) High Scalability && High Availability------- 对数据库高可扩展性与高可用性需求
3.5 NOSQL 与 SQL的数据记录对比:
- 关系型数据库:
实例-->数据库-->表(table)-->记录行(row)、数据字段(column)
- 非关系型数据库:
实例-->数据库-->集合(collection) -->键值对(key-value)
非关系型数据库不需要手动建数据库和集合(表)。
非关系型数据库不需要手动建数据库和集合(表)
二、缓存的概念:
缓存是为了调节速度不一致的两个或多个不同的物质的速度,在中间对速度较慢的一方起到加速作用,比如CPU的一级、二级缓存是保存了CPU最近经常访问的数据,内存是保存CPU经常访问硬盘的数据,而且硬盘也有大小不一的缓存,甚至是物理服务器的raid 卡有也缓存,都是为了起到加速CPU 访问硬盘数据的目的,因为CPU的速度太快了,CPU需要的数据由于硬盘往往不能在短时间内满足CPU的需求,因此CPU缓存、内存、Raid 卡缓存以及硬盘缓存就在一定程度上满足了CPU的数据需求,即CPU 从缓存读取数据可以大幅提高CPU的工作效率。
1.系统缓存:buffer与cache:
- buffer:缓冲也叫写缓冲,一般用于写操作,可以将数据先写入内存再写入磁盘,buffer 一般用于写缓冲,用于解决不同介质的速度不一致的缓冲,先将数据临时写入到里自己最近的地方,以提高写入速度,CPU会把数据先写到内存的磁盘缓冲区,然后就认为数据已经写入完成看,然后由内核在后续的时间在写入磁盘,所以服务器突然断电会丢失内存中的部分数据。
- cache:缓存也叫读缓存,一般用于读操作,CPU读文件从内存读,如果内存没有就先从硬盘读到内存再读到CPU,将需要频繁读取的数据放在里自己最近的缓存区域,下次读取的时候即可快速读取。
2.缓存保存位置及分层结构:
- 用户层:浏览器DNS缓存,应用程序DNS缓存,操作系统DNS缓存客户端
- 代理层:CDN,反向代理缓存
- Web层:Web服务器缓存
- 应用层:页面静态化
- 数据层:分布式缓存,数据库
- 系统层:操作系统cache
- 物理层:磁盘cache, Raid Cache
DNS缓存:
浏览器的DNS缓存默认为60秒,即60秒之内在访问同一个域名就不在进行DNS解析。
应用层缓存
Nginx、PHP等web服务可以设置应用缓存以加速响应用户请求,另外有些解释性语言,比如:PHP/Python/Java不能直接运行,需要先编译成字节码,但字节码需要解释器解释为机器码之后才能执行,因此字节码也是一种缓存,有时候还会出现程序代码上线后字节码没有更新的现象。所以一般上线新版前,需要先将应用缓存清理,再上线新版。
另外可以利用动态页面静态化技术,加速访问,比如:将访问数据库的数据的动态页面,提前用程序生成静态页面文件html 电商网站的商品介绍,评论信息非实时数据等皆可利用此技术实现。
数据层缓存:
- 分布式缓存服务:
- Redis
- Memcached
数据库:
- MySQL 查询缓存
- innodb缓存、MYISAM缓存
硬件缓存:
- CPU缓存(L1的数据缓存和L1的指令缓存)、二级缓存、三级缓存
- 磁盘缓存:Disk Cache
- 磁盘阵列缓存:Raid Cache,可使用电池防止断电丢失数据
三、redis介绍:
1.redis的简介:
Redis是一个开源的 、使用c语言编写的NoSQL 数据库。【非关系型数据库】
Redis基于内存运行并支持持久化(支持存储在磁盘) ,采用**key-value (键值对)**的存储形式,是目前分布式架构中不可或缺的一环。
Redis服务器程序是单进程模型 ,也就是在一台服务器上可以同时启动多个Redis进程,Redis的实际处理速度则是完全依靠于主进程的执行效率。
若在服务器上只运行一个Redis进程,当多个客户端同时访问时,服务器的处理能力是会有一定程度的下降;若在同一台服务器上开启多个Redis进程,Redis在提高并发处理能力的同时会给服务器的CPU造成很大压力。即:在实际生产环境中,需要根据实际的需求来决定开启多少个Redis进程。若对高并发要求更高一些,可能会考虑在同一台服务器上开启多个进程。若CPU资源比较紧张,采用单进程即可。
2.Redis 优缺点:
优点:
- 具有极高的数据读写速度:数据读取的速度最高可达到 110000 次/s,数据写入速度最高可达到 81000 次/s。
- 支持丰富的数据类型:支持 key-value、Strings、Lists、Hashes、Sets 及 Sorted Sets 等数据类型操作。
- 支持数据的持久化:可以将内存中的数据保存在磁盘中,重启的时候可以再次加载进行使用。
- 原子性:Redis 所有操作都是原子性的。
- 支持数据备份:即 master-salve 模式的数据备份。
缺点:
- 缓存和数据库双写一致性问题
- 缓存雪崩问题
- 缓存击穿问题
- 缓存的并发竞争问题
3. redis 的适用场景:
Redis作为基于内存运行的数据库,是一个高性能的缓存,一般应用在session缓存、 队列、排行榜、计数器、最近最热文章、最近最热评论、发布订阅等。
Redis适用于数据实时性要求高、数据存储有过期和淘汰特征的、不需要持久化或者只需要保证弱一致性、逻辑简单的场景。
4. redis 为什么运行速度快:
- Redis 是一款纯内存结构,避免了磁盘I/o等耗时操作。
- Redis 命令处理的核心模块为单线程,减少了锁竞争,以及频繁创建线程和销毁线程的代价,减少了线程上下文切换的消耗。(Redis具有高效的底层数据结构,为优化内存,对每种类型基本都有两种底层实现方式)
- 采用了I/O 多路复用机制,大大提升了并发效率
四、redis的安装部署:
1.关闭防火墙和防护:
bash
systemctl stop firewalld
setenforce 0
2.安装编译环境:
bash
yum install -y gcc gcc-c++ make
tar zxvf redis-5.0.7.tar.gz
cd redis-5.0.7/
make -j2
make PREFIX=/usr/local/redis install
##由于Redis源码包中直接提供了 Makefile 文件,所以在解压完软件包后,
不用先执行 ./configure 进行配置,可直接执行 make 与 make install 命令进行安装。
3.执行软件包提供的 install_server.sh 脚本文件设置Redis服务所需要的相关配置文件:
bash
cd /opt/redis-5.0.7/utils
./install_server.sh
....... #一直回车.
Please select the redis executable path [/usr/local/bin/redis-server] /usr/local/redis/bin/redis-server
#需要手动修改为 /usr/local/redis/bin/redis-server 注意要一次性正确输入
-------------------------------------------------------------------------------------
Selected config:
Port : 6379 #默认侦听端口为6379
Config file : /etc/redis/6379.conf #配置文件路径
Log file : /var/log/redis_6379.log #日志文件路径
Data dir : /var/lib/ redis/6379 #数据文件路径
Executable : /usr/local/redis/bin/redis-server #可执行文件路径
Cli Executable : /usr/local/redis/bin/redis-cli #客户端命令工具
4.把redis的可执行程序文件放入路径环境变量的目录中便于系统识别:
bash
ln -s /usr/local/redis/bin/* /usr/local/bin/
#当install_server.sh 脚本运行完毕,Redis 服务就已经启动,默认侦听端口为6379
netstat -natp | grep redis
#Redis服务控制
/etc/init.d/redis_6379 stop #停止
/etc/init.d/redis_6379 start #启动
/etc/init.d/redis_6379 restart #重启
/etc/init.d/redis_6379 status #状态
5.修改配置 /etc/redis/6379.conf 参数:
bash
vim /etc/redis/6379.conf
bind 127.0.0.1 192.168.10.27 #70行,添加监听的主机地址
port 6379 #93行,Redis默认的监听端口
daemonize yes #137行,启用守护进程
pidfile /var/run/redis_6379.pid #159行,指定PID文件
loglevel notice #167行,日志级别
logfile /var/log/redis_6379.log #172行,指定日志文件
/etc/init.d/redis_6379 restart
五、redis使用:
1.Redis 命令工具:
bash
redis-server:用于启动 Redis 的工具
redis-benchmark:用于检测 Redis 在本机的运行效率
redis-check-aof:修复 AOF 持久化文件
redis-check-rdb:修复 RDB 持久化文件
redis-cli:Redis 命令行工具
2.redis-cli 命令行工具:
bash
语法:redis-cli -h host -p port -a password
-h :指定远程主机
-p :指定 Redis 服务的端口号
-a :指定密码,未设置数据库密码可以省略-a 选项
若不添加任何选项表示,则使用 127.0.0.1:6379 连接本机上的 Redis 数据库
3.redis-benchmark 测试工具:
redis-benchmark 是官方自带的 Redis 性能测试工具,可以有效的测试 Redis 服务的性能。
基本的测试语法:redis-benchmark [选项] [选项值]
bash
-h :指定服务器主机名。
-p :指定服务器端口。
-s :指定服务器 socket
-c :指定并发连接数。
-n :指定请求数。
-d :以字节的形式指定 SET/GET 值的数据大小。
-k :1=keep alive 0=reconnect 。
-r :SET/GET/INCR 使用随机 key, SADD 使用随机值。
-P :通过管道传输<numreq>请求。
-q :强制退出 redis。仅显示 query/sec 值。
--csv :以 CSV 格式输出。
-l :生成循环,永久执行测试。
-t :仅运行以逗号分隔的测试命令列表。
-I :Idle 模式。仅打开 N 个 idle 连接并等待
4.Redis 数据库常用命令:
4.1set和get:
bash
set:存放数据,命令格式为 set key value
get:获取数据,命令格式为 get key
4.2 keys可以取符合规则的键值列表:
bash
127.0.0.1:6379> KEYS * # *: 查看当前数据库中所有键
127.0.0.1:6379> KEYS v* #查看当前数据库中以v开头的数据
127.0.0.1:6379> KEYS v? #查看当前数据库中以v开头后面包含任意一位的数据
127.0.0.1:6379> KEYS v?? #查看当前数据库中以v开头v开头后面包含任意两位的数据
4.3 exists命令可以判断键值是否存在:
bash
127.0.0.1:6379> exists teacher #判断teacher 键是否存在
(integer) 1 # 1表示teacher 键是存在
127.0.0.1:6379> exists tea
(integer) 0 #0表示tea键不存在
4.4 del命令可以删除当前数据库的指定key:
bash
127.0.0.1:6379> keys *
127.0.0.1:6379> del v1
(integer) 1
4.5 type 命令可以获取key对应的 value 值类型:
bash
127.0.0.1:6379> type k1
string
4.6 rename 命令是对已有key进行重命名(覆盖):
bash
命令格式: rename 源key 目标key
使用rename命令进行重命名时,无论目标key是否存在都进行重命名,且源key的值会覆盖目标key的值。在实际使用过程中,建议先用 exists命令查看目标key是否存在,然后再决定是否执行rename命令,以避免覆盖重要数据。
4.7 renamenx 命令的作用是对已有 key 进行重命名,并检测新名是否存在,如果目标 key 存在则不进行重命名。(不覆盖):
bash
rename n 不进行修改 x进行修改
nx 组合: 先判断 命令的作用是对已有key进行重命名,并检测新名是否存在,如果目标key存在则不进行重命名。 (不覆盖)
命令格式: renamenx 源key 目标key
4.8dbsize命令的作用是查看当前数据库中key的数目:
4.9 使用config set requirepass your password 命令设置密码:
bash
127.0.0.1:6379> config set requirepass 123456
#使用config get requirepass 命令查看密码(一旦设置密码,必须先验证通过密码,否则所有操作不可用)
127.0.0.1:6379> auth 123456
127.0.0.1:6379> config get requirepass
4.10删除密码:
bash
127.0.0.1:6379> auth 123123
127.0.0.1:6379> config set requirepass ''
#以上不设置,无法重启redis
5.Redis 多数据库常用命令:
Redis支持多数据库,Redis 默认情况下包含16个数据库 ,数据库名称是用数字0-15 来依次命名的。 多数据库相互独立,互不干扰。
5.1.select:多数据库间切换:
bash
格式: select 数据库序号
使用redis-cli连接Redis数据库后,默认使用的是序号为0的数据库。
select 1 #切换至序号为10的数据库
select 15 #切换至序号为15的数据库
select 0 #切换至序号为0的数据库
5.2.move:多数据库间移动数据:
bash
格式:move 键值 数据库序号
5.3 清空数据库内数据:
bash
flushdb:清空当前数据库数据
flushall:清空所有数据库的数据,慎用!