立即前往

活动

天翼云最新优惠活动,涵盖免费试用,产品折扣等,助您降本增效!
查看全部活动
热门活动
  • 智算采购季 热销S6云服务器2核4G限时88元/年起,部分主机可加赠对象存储组合包!
  • 免费体验DeepSeek,上天翼云息壤 NEW 新老用户均可免费体验2500万Tokens,限时两周
  • 云上钜惠 HOT 爆款云主机全场特惠,更有万元锦鲤券等你来领!
  • 算力套餐 HOT 让算力触手可及
  • 天翼云脑AOne NEW 连接、保护、办公,All-in-One!
  • 一键部署Llama3大模型学习机 0代码一键部署,预装最新主流大模型Llama3与StableDiffusion
  • 中小企业应用上云专场 产品组合下单即享折上9折起,助力企业快速上云
  • 息壤高校钜惠活动 NEW 天翼云息壤杯高校AI大赛,数款产品享受线上订购超值特惠
  • 天翼云电脑专场 HOT 移动办公新选择,爆款4核8G畅享1年3.5折起,快来抢购!
  • 天翼云奖励推广计划 加入成为云推官,推荐新用户注册下单得现金奖励
免费活动
  • 免费试用中心 HOT 多款云产品免费试用,快来开启云上之旅
  • 天翼云用户体验官 NEW 您的洞察,重塑科技边界

智算服务

打造统一的产品能力,实现算网调度、训练推理、技术架构、资源管理一体化智算服务
智算云(DeepSeek专区)
科研助手
  • 算力商城
  • 应用商城
  • 开发机
  • 并行计算
算力互联调度平台
  • 应用市场
  • 算力市场
  • 算力调度推荐
一站式智算服务平台
  • 模型广场
  • 体验中心
  • 服务接入
智算一体机
  • 智算一体机
大模型
  • DeepSeek-R1-昇腾版(671B)
  • DeepSeek-R1-英伟达版(671B)
  • DeepSeek-V3-昇腾版(671B)
  • DeepSeek-R1-Distill-Llama-70B
  • DeepSeek-R1-Distill-Qwen-32B
  • Qwen2-72B-Instruct
  • StableDiffusion-V2.1
  • TeleChat-12B

应用商城

天翼云精选行业优秀合作伙伴及千余款商品,提供一站式云上应用服务
进入甄选商城进入云市场创新解决方案
办公协同
  • WPS云文档
  • 安全邮箱
  • EMM手机管家
  • 智能商业平台
财务管理
  • 工资条
  • 税务风控云
企业应用
  • 翼信息化运维服务
  • 翼视频云归档解决方案
工业能源
  • 智慧工厂_生产流程管理解决方案
  • 智慧工地
建站工具
  • SSL证书
  • 新域名服务
网络工具
  • 翼云加速
灾备迁移
  • 云管家2.0
  • 翼备份
资源管理
  • 全栈混合云敏捷版(软件)
  • 全栈混合云敏捷版(一体机)
行业应用
  • 翼电子教室
  • 翼智慧显示一体化解决方案

合作伙伴

天翼云携手合作伙伴,共创云上生态,合作共赢
天翼云生态合作中心
  • 天翼云生态合作中心
天翼云渠道合作伙伴
  • 天翼云代理渠道合作伙伴
天翼云服务合作伙伴
  • 天翼云集成商交付能力认证
天翼云应用合作伙伴
  • 天翼云云市场合作伙伴
  • 天翼云甄选商城合作伙伴
天翼云技术合作伙伴
  • 天翼云OpenAPI中心
  • 天翼云EasyCoding平台
天翼云培训认证
  • 天翼云学堂
  • 天翼云市场商学院
天翼云合作计划
  • 云汇计划
天翼云东升计划
  • 适配中心
  • 东升计划
  • 适配互认证

开发者

开发者相关功能入口汇聚
技术社区
  • 专栏文章
  • 互动问答
  • 技术视频
资源与工具
  • OpenAPI中心
开放能力
  • EasyCoding敏捷开发平台
培训与认证
  • 天翼云学堂
  • 天翼云认证
魔乐社区
  • 魔乐社区

支持与服务

为您提供全方位支持与服务,全流程技术保障,助您轻松上云,安全无忧
文档与工具
  • 文档中心
  • 新手上云
  • 自助服务
  • OpenAPI中心
定价
  • 价格计算器
  • 定价策略
基础服务
  • 售前咨询
  • 在线支持
  • 在线支持
  • 工单服务
  • 建议与反馈
  • 用户体验官
  • 服务保障
  • 客户公告
  • 会员中心
增值服务
  • 红心服务
  • 客户支持计划
  • 专家技术服务
  • 备案管家

了解天翼云

天翼云秉承央企使命,致力于成为数字经济主力军,投身科技强国伟大事业,为用户提供安全、普惠云服务
品牌介绍
  • 关于天翼云
  • 智算云
  • 天翼云4.0
  • 新闻资讯
  • 天翼云APP
基础设施
  • 全球基础设施
  • 产品能力
  • 信任中心
最佳实践
  • 精选案例
  • 超级探访
  • 云杂志
  • 分析师和白皮书
  • 天翼云·创新直播间
市场活动
  • 2025智能云生态大会
  • 2024智算云生态大会
  • 2023云生态大会
  • 2022云生态大会
  • 天翼云中国行
天翼云
  • 活动
  • 智算服务
  • 产品
  • 解决方案
  • 应用商城
  • 合作伙伴
  • 开发者
  • 支持与服务
  • 了解天翼云
    • 关系数据库SQL Server版
    • 企业主机安全
    • 云防火墙
    • CDN加速
    • 物理机
    • GPU云主机
    • 天翼云电脑(政企版)
    • 天翼云电脑(公众版)
    • 云主机备份
    • 弹性云主机
      搜索发现
      关系数据库SQL Server版企业主机安全云防火墙CDN加速物理机GPU云主机天翼云电脑(政企版)天翼云电脑(公众版)云主机备份弹性云主机
    • 文档
    • 控制中心
    • 备案
    • 管理中心
    • 登录
    • 免费注册

    深入学习 Redis Cluster - 集群是啥,数如何理解据分片算法

    首页 知识中心 数据库 文章详情页

    深入学习 Redis Cluster - 集群是啥,数如何理解据分片算法

    2024-03-26 08:11:30 阅读次数:54

    redis,数据库

    一、集群模式


    前言

    重点:什么是 redis 集群,解决了什么问题?三种分片算法是什么,优缺点是什么?哈希槽分片算法为什么是 16384槽位,为什么最多是 16384 集群?

    1.1、集群是什么,解决了什么问题

    集群这个词,有两种说法:

    • 广义的集群:只要你是多个机器,构成的分布式系统,都可以成为是一个 “集群”,也就是说,之前所讲的 主从结构、哨兵模式,也可以称为是一个 “广义的集群”.
    • 狭义的集群:这个说的就是 redis 提供的集群模式.  这个集群模式之下,主要就是解决,存储空间不足的问题.

    Ps:之前讲到,哨兵模式提高了系统的可用性,本质上还是 redis 主从节点存储数据,也就要求一个主节点/从节点,就得存储整个数据的 “全集”.

    Redis cluster 的核心思路就是多搞几台机器,每台机器只存储全集数据的一部分.

    例如 有 1TB 的数据需要存储.

    拿两台机器来存,每个机器只需要 512GB 即可.

    拿三台机器来存,每个机器只需要 300多 GB 即可.

    拿四台机器来存,每个机器只需要 256GB 即可.

    随着机器数量的增加,每个机器存储的数据量就减少了.

    机器足够多了,那么接下来要面临的一个问题就是,如果给你一个 key,你该去哪台机子上存 value 值,或者读取 value 值?这时候就需要使用数据分片算法了~

    1.2、数据分片算法(重点/考点)

    关于数据分片算法,有三种主流的分片方式.

    1.2.1、哈希求余

    a)算法思路

    哈希求余算法,借鉴了哈希表的基本思想,借助 hash 函数,把一个  key 映射到整数,在针对数组的长度求余,就可以得到一个数组的下标.

    比如有三个分片,编号 0 1 2

    此时就可以针对要插入的数据 key(这里是一个键值对数据),计算 hash 值(比如使用 md5),再把这个 hash 值余上一个分片的个数,就得到了一个下标,此时就可以把这个数据放到下标对应的分片中了.

    假设 hash(key) % N = 0,那么此时这个 key 就要存储到 0 号分片中,后续如果查询的 key 是一样的,hash 函数不变,那么得到的分片就是一样的.

    对 md5 的解释

    md5 本身就是一个计算 hash 值的算法,针对一个字符串,里面的内容进行一系列的数字变换,最终得到一个整数.

    md5 计算有以下三个特点:

    1. md5 计算结果是定长的:无论输入的原字符串是多长,最终算出的结构都是固定长度.
    2. md5 计算结构式分散的:两个原字符串,哪怕大部分相同,只有一个小的地方不同,算出来的 md5 也会差别很大.
    3. md5 计算的结果不可逆:给你一个原字符串,可以很容易的算出 md5 的值,但是给你 md5 值,很难还原出原始字符串(网上有些 md5 破解,其实就是把常见的字符串用 md5 提前算好,保存下来,然后按照打表的方式,来映射对应的字符串,具体能不能查到,就随缘了).  基于这一特点,经常用来做加密处理.  
    b)面临的问题

    一旦服务器集群需要扩容,那么此时分片越多,数据量越大,扩容的成本越高.

    这是为什么?

    使用 hash(key) % N 的方式来计算,一旦引入新的分片,N 就改变了.  这也就导致,分片中很多原来的数据,都需要进行重新分配,也就是搬运元素,搬运到其他的分片中.

    如下图:

    深入学习 Redis Cluster - 集群是啥,数如何理解据分片算法

    一共 12 个元素,只有 3 个数据不需要搬运,如果数据量十分庞大,搬运的成本就非常高了.

    Ps:上述级别的扩容,开销极大,是不能直接再生产环境上操作的,只能通过 “替换” 的方式来实现扩容. 但是替换的成本更大,操作很复杂(重新搞原来这么多分片,并把数据都拷贝过来,再在新机器上扩容,扩容好了,再用新机器代替旧机器).

    1.2.2、一致性哈希算法

    a)算法思路

    在 hash 求余算法中,当前 key 属于哪个分片,是交替的,也就是不连续.

    在 一致性哈希算法 中,就把 交替出现,改进成了 连续出现.

    具体的,第一步,把 0 ~ 2^32-1这个数据空间, 映射到⼀个圆环上. 数据按照顺时针⽅向增⻓.

    深入学习 Redis Cluster - 集群是啥,数如何理解据分片算法

    第二步,假设当前存在三个分⽚, 就把分⽚放到圆环的某个位置上.

    深入学习 Redis Cluster - 集群是啥,数如何理解据分片算法

    第三步,假设有一个 key,通过 hash 计算出来的值为 value,就把个 value,映射到圆环上,接着顺时针去找,找到第一个分片就是该 key 所在的分片.  这样的分配就类似于下图

    深入学习 Redis Cluster - 集群是啥,数如何理解据分片算法

    最后如果,如果需要扩容,那么原有分⽚在环上的位置不动, 只要在环上新安排⼀个分⽚位置即可,如下

    深入学习 Redis Cluster - 集群是啥,数如何理解据分片算法

    这时候只需要把 0 号分片上部分数据搬运给 3 号分片即可,其他分片不用动.

    b)面临的问题

    这种算法,虽然搬运的成本低了,但是会导致数据倾斜(这几个分片上的数据量,可能会不均匀).

    1.2.3、哈希槽分区算法(redis使用)

    a)算法思想

    这也是 redis 真正采用的分片算法.  这种算法的本质,就是把 一致性哈希 和 哈希求余 这两种方式结合了一下.

    hash_slot = crc16(key) % 16384
    • hash_slot:表示哈希槽,有了哈希槽,就可以进一步把这些哈希槽分配到不同分片上.
    • crc16:也是一种计算 hash 值的算法.
    • 16384:16 * 1024,也就是 2^14.

    相当于是把整个哈希值, 映射到 16384 个槽位上, 也就是 [0, 16383].   然后再把这些槽位⽐较均匀的分配给每个分⽚. 每个分⽚的节点都需要记录⾃⼰持有哪些分⽚.

    假设当前有三个分片,一种可能的分配方式如下:

    • 0 号分片:[0, 5461],共 5462 个槽位.
    • 1 号分片:[5462, 10923],共 5642 个槽位.
    • 2号分片:[10924, 16383],共 5460 个槽位.

    虽然不是严格意义的 “均匀” 差异非常小,但已经是比较均匀的了.  这只是一种分片方式,实际上分片是非常灵活的,槽位号可以是连续的,也可以是不连续的.

    例如,进⾏扩容, ⽐如新增⼀个 3 号分⽚, 就可以针对原有的槽位进⾏重新分配.  ⽐如可以把之前每个分⽚持有的槽位, 各拿出⼀点, 分给新分⽚.  ⼀种可能的分配⽅式:

    • 0号分⽚: [0, 4095], 共 4096 个槽位

    • 1号分⽚: [5462, 9557], 共 4096 个槽位

    • 2号分⽚: [10924, 15019], 共 4096 个槽位

    • 3号分⽚: [4096, 5461] + [9558, 10923] + [15019, 16383], 共 4096 个槽位

    Ps:每一个分片都会使用 “位图” 这样的数据结构,表示除当前有多少槽位.  16384 个 bit 位,每一位用 0/1 区分是否是自己这个分片当前持有的槽位号.

    并且,redis 中,当前某个分片包含哪些槽位都是可以手动配置的.

    b)问题一:redis 集群是最多有 16384 个分片么?

    如果是这样,那么极端情况下,每个分片上就只分配一个槽位,而 key 是要先映射到槽位,在映射到分片的,这就导致很难保证数据在各个分片上的均衡性,因为有的槽位可能是多个 key,有的槽位可能没有 key,抛开这个不说,1.6W 个分片,整个服务器的集群规模就相当可怕,几万台主机构成的集群,整个集群的可用性是很低的(机器越多,越容易出故障).

    Ps:实际上,Redis 作者建议分片的数目不因该超过 1000.

    c)问题二:为什么是 16384 个槽位
    1. 分片之间是通过心跳包通信的,心跳包中就包含了该分片持有了哪些槽位,如果这个分片中持有的槽位越多,虽然使用位图这种数据结构表示,占用的内存不多,但是心跳包是周期性通信,吃非常吃网络带宽的(网络带宽相比于内存更稀有,更贵重).
    2. 另一方面,这个值基本够用了,占用的网络带宽也不是很大.
    版权声明:本文内容来自第三方投稿或授权转载,原文地址:https://blog.csdn.net/CYK_byte/article/details/132924832,作者:陈亦康,版权归原作者所有。本网站转在其作品的目的在于传递更多信息,不拥有版权,亦不承担相应法律责任。如因作品内容、版权等问题需要同本网站联系,请发邮件至ctyunbbs@chinatelecom.cn沟通。

    上一篇:JDK9中的String底层实现为什么用UTF-16而不用UTF-8呢?

    下一篇:SQLite学习笔记(一)

    相关文章

    2025-04-23 08:18:38

    基础—SQL—图形化界面工具的DataGrip使用(2)

    基础—SQL—图形化界面工具的DataGrip使用(2)

    2025-04-23 08:18:38
    创建 , 操作 , 数据库 , 界面 , 语句
    2025-04-22 09:40:08

    【进程】Azkaban 进程和任务监控(任务状态从MySQL同步到SqlServer或者MySQL)

    【进程】Azkaban 进程和任务监控(任务状态从MySQL同步到SqlServer或者MySQL)

    2025-04-22 09:40:08
    MySQL , 任务 , 数据库 , 状态
    2025-04-22 09:28:31

    【分布式数据库】HBase数据库中某张表中数据条数统计

    【分布式数据库】HBase数据库中某张表中数据条数统计

    2025-04-22 09:28:31
    default , 数据库 , 统计
    2025-04-22 09:27:37

    【Redis】浅析 Redis 事务

    【Redis】浅析 Redis 事务

    2025-04-22 09:27:37
    redis , Redis , 事务 , 命令 , 执行
    2025-04-18 08:01:53

    基础—SQL—通用语法及分类

    在编写SQL语句的时候,如果长度比较长,我们可以允许空格/缩进来增强语句的可读性,而且空格或者缩进的个数可以是一个或多个,基本没啥影响。

    2025-04-18 08:01:53
    MySQL , SQL , 数据 , 数据库 , 注释 , 语句
    2025-04-18 07:10:53

    Hive-DDL详解(超详细)

    创建数据库是在Hive中组织和管理表的第一步。

    2025-04-18 07:10:53
    DDL , Hive , 创建 , 删除 , 指定 , 数据库
    2025-04-18 07:10:44

    Hive-数据模型详解(超详细)

    Hive是基于Hadoop的数据仓库工具,它提供了类似于SQL的查询语言(称为HQL)来处理大规模结构化和半结构化数据。在使用Hive之前,我们需要了解其基本的数据模型。

    2025-04-18 07:10:44
    Hive , 分区 , 创建 , 数据 , 数据库 , 查询
    2025-04-16 09:26:45

    Sqoop基础理论与常用命令详解(超详细)

    Sqoop是一个用于在Hadoop和关系型数据库之间进行数据传输的工具。

    2025-04-16 09:26:45
    Sqoop , 命令 , 导入 , 导出 , 指定 , 数据库 , 示例
    2025-04-15 09:20:07

    Redis经典问题:缓存击穿

    缓存击穿是指在高并发场景下,同一时刻有大量用户请求同一条数据。当这条数据在缓存中不存在时(即缓存未命中),所有请求同时去查询数据库。这种情况下,数据库会瞬间受到大量请求的压力,导致性能瓶颈或系统崩溃。

    2025-04-15 09:20:07
    互斥 , 数据 , 数据库 , 示例 , 缓存 , 过期
    2025-04-15 09:20:07

    Redis经典问题:数据不一致

    数据不一致是指缓存中的数据和数据库中的数据存在差异。这种问题通常出现在缓存系统与数据库之间的同步过程中。当缓存中的数据与数据库中的数据不匹配时,会导致应用程序读取错误或过时的数据,从而影响应用的稳定性和性能。

    2025-04-15 09:20:07
    一致性 , 写入 , 数据 , 数据库 , 确保 , 缓存
    查看更多
    推荐标签

    作者介绍

    天翼云小翼
    天翼云用户

    文章

    32777

    阅读量

    4804356

    查看更多

    最新文章

    基础—SQL—图形化界面工具的DataGrip使用(2)

    2025-04-23 08:18:38

    【进程】Azkaban 进程和任务监控(任务状态从MySQL同步到SqlServer或者MySQL)

    2025-04-22 09:40:08

    【Redis】浅析 Redis 事务

    2025-04-22 09:27:37

    基础—SQL—通用语法及分类

    2025-04-18 08:01:53

    Hive-DDL详解(超详细)

    2025-04-18 07:10:53

    Hive-数据模型详解(超详细)

    2025-04-18 07:10:44

    查看更多

    热门文章

    redis-数据操作-键命令

    2023-03-29 10:07:52

    Nacos数据持久化到MySQL

    2023-05-12 07:20:56

    MySQL的间隙锁

    2023-05-12 07:20:56

    ​云原生微服务K8s容器编排第七章之ETCD的使用及备份

    2023-03-16 07:45:55

    Reids持久化

    2023-05-16 09:44:09

    k8s的operator-hub中的redis-operator的redis-cluster的CreateRedisLeaderService处理

    2022-11-08 07:33:08

    查看更多

    热门标签

    数据库 mysql 字符串 数据结构 MySQL redis 算法 java oracle sql python 数据 索引 数组 SQL
    查看更多

    相关产品

    弹性云主机

    随时自助获取、弹性伸缩的云服务器资源

    天翼云电脑(公众版)

    便捷、安全、高效的云电脑服务

    对象存储

    高品质、低成本的云上存储服务

    云硬盘

    为云上计算资源提供持久性块存储

    查看更多

    随机文章

    Patroni for opengauss 12:pick_synchronous_standby

    订单定时关闭几种方案对比

    【mysql】SET类型

    MySQL快速对比数据技巧

    MySQL——操作

    06MyCat - 概念 - 逻辑库(schema)

    • 7*24小时售后
    • 无忧退款
    • 免费备案
    • 专家服务
    售前咨询热线
    400-810-9889转1
    关注天翼云
    • 权益商城
    • 天翼云APP
    • 天翼云微信公众号
    服务与支持
    • 备案中心
    • 售前咨询
    • 智能客服
    • 自助服务
    • 工单管理
    • 客户公告
    • 涉诈举报
    账户管理
    • 管理中心
    • 订单管理
    • 余额管理
    • 发票管理
    • 充值汇款
    • 续费管理
    快速入口
    • 权益商城
    • 文档中心
    • 最新活动
    • 免费试用
    • 信任中心
    • 天翼云学堂
    云网生态
    • 甄选商城
    • 渠道合作
    • 云市场合作
    了解天翼云
    • 关于天翼云
    • 天翼云APP
    • 服务案例
    • 新闻资讯
    • 联系我们
    热门产品
    • 云电脑
    • 弹性云主机
    • 云电脑政企版
    • 天翼云手机
    • 云数据库
    • 对象存储
    • 云硬盘
    • Web应用防火墙
    • 服务器安全卫士
    • CDN加速
    热门推荐
    • 云服务备份
    • 边缘安全加速平台
    • 全站加速
    • 安全加速
    • 云服务器
    • 云主机
    • 智能边缘云
    • 应用编排服务
    • 微服务引擎
    • 共享流量包
    更多推荐
    • web应用防火墙
    • 密钥管理
    • 等保咨询
    • 安全专区
    • 应用运维管理
    • 云日志服务
    • 文档数据库服务
    • 云搜索服务
    • 数据湖探索
    • 数据仓库服务
    友情链接
    • 中国电信集团
    • 189邮箱
    • 天翼企业云盘
    • 天翼云盘
    ©2025 天翼云科技有限公司版权所有 增值电信业务经营许可证A2.B1.B2-20090001
    公司地址:北京市东城区青龙胡同甲1号、3号2幢2层205-32室
    • 用户协议
    • 隐私政策
    • 个人信息保护
    • 法律声明
    备案 京公网安备11010802043424号 京ICP备 2021034386号