操作场景
对于DDS分片集群实例,如果某个集合的存储量很高,建议对该集合设置数据分片。分片是将数据按照某种方式拆分,将其分散存放在不同的机器上,以充分利用各分片节点的存储空间和计算性能。
操作步骤
下面以数据库mytable,集合mycoll,字段“name”为分片键举例说明。
1.通过mongo shell登录分片集群实例。
2.对集合所属的数据库启用分片功能。
- 方式一
sh.enableSharding("")
示例:
sh.enableSharding("mytable")
- 方式二
use admin
db.runCommand({enablesharding:""})
3.对集合进行分片。
- 方式一
sh.shardCollection(".",{"": })
示例:
sh.shardCollection("mytable.mycoll",{"name":"hashed"})
- 方式二
use admin
db.runCommand({shardcollection:".",key:{"keyname": }})
表 参数说明
参数 | 说明 |
---|---|
数据库名称。 | |
集合名称。 | |
分片键。DDS集群根据该值进行数据分片,请结合具体业务选择合适的分片键。 | |
基于分片键的范围查询的排序方式。· 1:表示索引升序。· -1:表示索引降序。· hashed:表示使用Hash分片,通常能将写入均衡分布到各个分片节点。数据分布策略详情请参见选择合适的数据分布策略。 |
更多信息,请参见sh.shardCollection()。
4.查看数据库在各分片节点的数据存储情况。
sh.status()
示例:
选择合适的分片键
分片集群中数据的分片以集合为基础单位,集合中的数据通过分片键被分成多个部分。分片键是在集合中选择的一个合适的字段,数据拆分时以该分片键的值为依据均衡地分布到所有分片中。如果您没有选择到合适的的分片键,可能会降低集群的使用性能,出现执行分片语句时执行过程卡住的问题。
说明:
分片键一旦设置后不能再更改。如果未选取到合适的分片键,需要使用正确的分片策略,将数据迁移到新的集合后重新执行分片。
合适的分片键具有以下特点:
- 所有的插入、更新以及删除操作,将会均匀分发到集群中的所有分片中。
- key的分布足够离散。
- 尽量避免scatter-gather查询。
如果所选分片键不具备以上所有特点,将会影响集群的读写扩展性。例如,通过find()操作读取的工作量在分片中非均匀分布,最终会产生查询热分片。同样,如果写工作量(插入、更新和修改)在分片中非均匀分布,最终会产生写热分片,严重限制分片的优势。因此,您需要根据应用读写状态(重读取还是重写入)、经常查询及写入的数据等业务需求,调整您的分片键。
您可以通过以下几个维度,判断所选分片键是否能够满足业务需求。
- 片键基数
片键基数是指划分数据块的能力。例如,要记录某个学校的学生信息,由于学生的年龄比较集中,如果选择年龄作为分片键,同一个数据段中将存储很多同龄学生的数据,影响集群的性能以及可管理性。由于学生的学号唯一,如果选择学号作为分片键,分片基数较大,有利于数据的均匀分布。
- 写分布
若用户业务在同一时间段有大量写操作,则希望这些写操作能够均匀分布到各个分片上。如果数据分布策略为范围分片,并以一个单调递增的值作为分片键,此时,大量写入的数据同样是片键字段递增,数据将写入同一个分片。
- 读分发
若用户业务在同一时间段有大量读操作,则希望这些读操作能够均匀分布到各个分片上,以充分利用各分片节点的计算性能。
- 定向读
mongos查询路由器可以执行定向查询(只查询一个分片)或scatter/gather查询(查询所有分片)。只有查询中存在分片键,mongos才能定位到单一分片,因此,您需要选择在业务运行时可用于普遍查询的分片键。如果您选择合成的分片键,将无法在定向查询中使用该片键,所有的查询方式将变成scatter/gather查询,从而限制扩展读数据的能力。
选择合适的数据分布策略
分片集群支持将单个集合的数据分散存储在多个分片上,用户可以根据集合内文档的分片键来分布数据。
目前,主要支持两种数据分布策略,即范围分片(Range based sharding)和Hash分片(Hash based sharding)。
下面分别介绍这两种数据分布策略以及各自的优缺点。
- 范围分片
基于范围进行分片,即集群按照分片键的范围把数据分成不同部分。假设有一个数字分片键,为一条从负无穷到正无穷的直线,每一个片键的值均在直线上进行标记。可以理解为将该直线划分为更短的不重叠的片段,并称之为数据块,每个数据块包含了分片键在一定的范围内的数据。
图 数据分布示意图
如上图所示,x表示范围分片的片键,x的取值范围为[minKey,maxKey],且为整型。将整个取值范围划分为多个chunk,每个chunk(通常配置为64MB)包含其中一小段的数据。其中,chunk1包含x值在[minKey, -75]中的所有文档,每个chunk的数据都存储在同一个分片上,每个分片可以存储多个chunk,并且chunk存储在分片中的数据会存储在config服务器中,mongos也会根据各分片上的chunk的数据自动执行负载均衡。
范围分片能够很好的满足范围查询的需求,例如,查询x的取值在[-60,20]中的文档,仅需mongos将请求路由到chunk2。
范围分片的缺点在于,如果分片键有明显递增(或递减)趋势,新插入的文档很大程度上会分布到同一个chunk,从而无法扩展写的能力。例如,使用“_id”作为分片键,集群自动生成id的高位值将是递增的时间戳。
- Hash分片
根据用户的分片键值计算出Hash值(长度64bit且为整型),再按照范围分片策略,根据Hash值将文档分布到不同的chunk中。基于Hash分片主要的优势为保证数据在各节点上分布基本均匀,具有“相近”片键的文档很可能不会存储在同一个数据块中,数据的分离性更高。
图 数据分布示意图
Hash分片与范围分片互补,能将文档随机分散到各个chunk,充分扩展写能力,弥补范围分片的不足。但所有的范围查询要分发到后端所有的分片,才能获取满足条件的文档,查询效率低。