支持的源和目标数据库

表支持的数据库

前提条件

• 已登录数据复制服务控制台。
• 满足实时同步支持的数据库类型和版本，详情请参见实时同步。

使用建议

• 数据库同步与环境多样性和人为操作均有密切关系，为了确保同步的平顺，建议您在进行正式的数据同步之前进行一次演练，可以帮助您提前发现问题并解决问题。

• 同步阶段，确保目标数据库无业务写入，保证同步前后数据一致。

• 基于以下原因，建议您在启动任务时选择“稍后启动”功能，将启动时间设置在业务低峰期，相对静止的数据可以有效提升一次性同步成功率，避免同步对业务造成性能影响。

  • 在网络无瓶颈的情况下，全量同步会对源数据库增加约20MB/s的查询压力，以及占用2~4个CPU。
  • DRS并发读取数据库，会占用大约6-10个session连接数，需要考虑该连接数对业务的影响。

• 数据对比

建议您结合数据对比的“稍后启动”功能，选择业务低峰期进行数据对比，以便得到更为具有参考性的对比结果。由于同步具有轻微的时差，在数据持续操作过程中进行对比任务，可能会出现少量数据不一致对比结果，从而失去参考意义。

使用须知

在创建同步任务前，请务必阅读以下使用须知。

说明
建议创建单独用于DRS任务连接的数据库帐号，避免因为数据库帐号密码修改，导致的任务连接失败。
连接源或目标数据库的帐号密码修改后，请尽快修改连接信息，避免任务连接失败后自动重试，导致数据库帐号被锁定影响使用。

表使用须知

类型名称
使用和操作限制
数据库权限设置
源数据库最小权限要求：
l 全量+增量同步权限要求：
− 副本集：连接源数据库的用户需要有admin库的readAnyDatabase权限，有local库的read权限。
目标数据库最小权限要求：连接目标数据库的用户需要有admin库的dbAdminAnyDatabase权限，有目标数据库的readWrite权限。
同步对象约束
l 副本集：目前只支持集合(包括验证器，是否是固定集合)，索引和视图的同步。
l 不支持同步系统库（如local、admin、config等）和系统集合，如果业务数据在系统库下，则需要先将业务数据移动到用户数据库下，可以使用renameCollection命令进行移出。
l 不支持视图的创建语句中有正则表达式。
l 不支持_id字段没有索引的集合。
l 不支持BinData()的第一个参数为2。
l 同步对象映射名称长度在1到63个字符之间，不支持以下字符：/ \ . " $<>。
源数据库要求
l 增量同步时，源数据库的Oplog日志必须打开。
l 在磁盘空间允许的情况下，建议源数据库Oplog保存时间越长越好，建议为3天。
l 不支持源数据库的库名包含/\."$和空格， 集合名或视图名中不能包含$或以system.开头。
l 源数据库不能是GaussDB(for Mongo)实例。
目标数据库要求
l 目标数据库实例的运行状态必须正常。
l 目标数据库实例必须有足够的磁盘空间。
l 目前不支持从高版本数据库到低版本数据库的同步。
操作须知
l 相互关联的数据对象要确保同时同步，避免同步因关联对象缺失，导致同步失败。常见的关联关系：视图引用集合、视图引用视图等。
l 副本集：MongoDB数据库的副本集实例状态必须正常，要存在主节点。
l 源数据库为副本集实例时，增量同步阶段支持如下操作：
− 支持文档（document）新增、删除、更新。
− 支持集合（collection）新建、删除。
− 支持索引（index）新建、删除。
− 支持视图（view）新建，删除。
− 支持convertToCapped、collMod、renameCollection命令。
l 对于在源数据库已经存在TTL索引的集合，或者在增量同步期间在源库数据创建了TTL索引的集合，由于源数据库和目标库数据库时区，时钟的不一致，不能保证同步完成之后数据的一致性。
l 压缩参数block_compressor的取值，根据源库对应集合的stats().wiredTiger.creationString.block_compressor来决定，如果目标库已经存在对应的空集合，则不同步压缩参数；特殊的，对于不支持的压缩参数，按照目标库实例的net.compression.compressors参数决定。当目标库为DDS 4.2版本时，由于目标库不支持压缩参数的设置，DRS不同步压缩参数。
l 如果源数据库的MongoDB服务不是单独部署的，而是和其他的服务部署在同一台机器，则必须要给源数据库的wiredTiger引擎加上cacheSizeGB的参数配置，建议值设为最小空闲内存的一半。
l 选择集合同步时，增量同步过程中不建议对集合进行重命名操作。
l 建议填写副本集所有的主节点和备节点信息，以防主备切换影响同步任务。如果填写的是主备多个节点的信息，注意所有的节点信息必须属于同一个副本集实例。
l 为了保持数据一致性，在整个同步过程中，不允许对正在同步中的目标数据库进行修改操作（包括但不限于DDL、DML操作）。
l 同步过程中，不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限，或修改源和目标数据库的端口号。
l 在任务启动、任务全量同步阶段，不建议对源数据库做删除类型的DDL操作，比如删除数据库、集合、索引、文档、视图等，这样可能会引起任务同步失败。
l 在整个同步过程中，不支持源数据库主备切换导致数据回滚的情况。
l 不支持全量同步和增量同步阶段insert、update源库大于16MB的文档。
l 任务增量阶段，为保证同步的性能，会集合级的进行并发回放。特殊地，以下情况只支持单线程写入，不支持并发回放：
− 集合的索引中有unique key时；
− 集合属性的capped为true时；
这种情况可能会导致任务时延增高。
l 为了提高同步的速度，在开始同步之前，建议在源数据库删掉不需要的索引，只保留必须的索引。在同步过程中不建议对源库创建索引，如果必须要创建索引，请使用后台的方式创建索引。
l 为了防止回环，不支持在相同的源和目标库同时启动入云和出云任务。
说明
同步任务支持源和目标为同一个数据库，为了避免回环，必须使用对象名映射功能进行重命名。

操作步骤

本章节将以DDS副本集为示例，介绍在VPC网络场景下，通过数据复制服务配置DDS副本集同步任务的流程。

步骤 1 在“实时同步管理”页面，单击“创建同步任务”。

步骤 2 在“同步实例”页面，填选任务名称、描述、同步实例信息，单击“开始创建”。

• 任务信息

表 任务和描述

• 同步实例信息

表 同步实例信息

说明
对于创建失败的任务，DRS默认保留3天，超过3天将会自动结束任务。

步骤 3 在“源库及目标库”页面，同步实例创建成功后，填选源库信息和目标库信息，单击“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选协议，单击“下一步”。

• 源库信息

表 源库信息

说明

源数据库的IP地址或域名、数据库用户名和密码，会被系统加密暂存，直至删除该同步任务后自动清除。

• 目标库信息配置

表 目标库信息

说明

目标数据库的用户名和密码将在同步过程中被加密暂存到数据库和同步实例主机上，待该任务删除后会永久清除。

步骤 4 在“同步设置”页面，设置同步对象，单击“下一步”。

表同步对象

参数
描述
流速模式
流速模式支持限速和不限速，默认为不限速。
l 限速
自定义的最大同步速度，全量同步过程中的同步速度将不会超过该速度。
当流速模式选择了“限速”时，你需要通过流速设置来定时控制同步速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”，您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置3个定时任务，每个定时任务之间不能存在交叉的时间段，未设定在限速时间段的时间默认为不限速。
流速的大小需要根据业务场景来设置，不能超过9999MB/s。
l 不限速
对同步速度不进行限制，通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗，消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s，假设高速模式使用了80%带宽，则同步对源数据库将造成80MB/s的读操作IO消耗。
说明
l 限速模式只对全量阶段生效，增量阶段不生效。
l 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。
同步对象
左侧框是源数据库对象，右侧框是已经选择的对象，同步对象支持表级同步、库级同步，您可以根据业务场景选择对应的数据进行同步。
在同步对象右侧已选对象框中，可以使用对象名映射功能进行源数据库和目标数据库中的同步对象映射，具体操作可参考4.6.5.2 对象名映射。映射后名称长度在1到63个字符之间，不支持以下字符：/ \ . " $<>。
如果有切换源数据库的操作或源库同步对象变化的情况，请务必在选择同步对象前单击右上角的，以确保待选择的对象为最新源数据库对象。
说明
l 选择对象的时候支持对展开的库进行搜索，以便您快速选择需要的数据库对象。
l 如果有切换源数据库的操作或源库同步对象变化的情况，请在选择同步对象前单击右上角的，以确保待选择的对象为最新源数据库对象。
l 当对象名称包含空格时，名称前后的空格不显示，中间如有多个空格只显示一个空格。
l 选择的同步对象名称中不能包含空格。

步骤 5 在“预检查”页面，进行同步任务预校验，校验是否可进行同步。

• 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”按钮重新进行任务预校验。
• 预检查完成后，且预检查通过率为100%时，单击“下一步”。

说明
所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一步操作。

步骤 6 在“任务确认”页面，设置同步任务的启动时间，并确认同步任务信息无误后，单击“启动任务”，提交同步任务。

表任务启动设置

步骤 7 同步任务提交后，您可在“管理”页面，查看并管理自己的任务。

• 您可查看任务提交后的状态，状态请参见任务状态说明。
• 在任务列表的右上角，单击刷新列表，可查看到最新的任务状态。
• 对于未启动、状态为配置中的任务，DRS默认保留3天，超过3天DRS会自动删除后台资源，当前任务状态不变。当用户再次配置时，DRS会重新申请资源。