使用技巧(需要人为配合)
如果您使用的是全量迁移模式(离线迁移),确保源和目标数据库无业务写入,保证迁移前后数据一致。
如果您使用的是全量+增量迁移模式(在线迁移),支持在源数据库有业务数据写入的情况下进行迁移,推荐提前2-3天启动任务,并配合如下使用技巧和对应场景的操作要求,以确保顺利迁移。
全量迁移
基于以下原因,建议您结合定时启动功能,选择业务低峰期开始运行迁移任务,相对静态的数据,迁移时复杂度将会降低。如果迁移不可避免业务高峰期,推荐使用迁移限速功能,即“流速模式”选择“限速”。
全量迁移会对源数据库有一定的访问压力。
迁移无主键表时,为了确保数据一致性,会存在3s以内的单表级锁定。
正在迁移的数据被其他事务长时间锁死,可能导致读数据超时。
由于MySQL固有特点限制,CPU资源紧张时,存储引擎为Tokudb的表,读取速度可能下降至10%。
数据对比
建议您结合数据对比的“稍后启动”功能,选择业务低峰期进行数据对比,以便得到更为具有参考性的对比结果。由于同步具有轻微的时差,在数据持续操作过程中进行对比任务,可能会出现少量数据不一致对比结果,从而失去参考意义。
操作要求
针对一些无法预知或人为因素及环境突变导致迁移失败的情况,数据库复制服务提供以下常见的操作限制,供您在迁移过程中参考
类型名称
操作限制(需要人为配合)
注意事项
环境要求均不允许在迁移过程中修改,直至迁移结束。
相互关联的数据对象要确保同时迁移,避免迁移因关联对象缺失,导致迁移失败。常见的关联关系:视图引用表、视图引用视图、存储过程/函数/触发器引用视图/表、主外键关联表等。
不支持外键级联操作。
由于MySQL本身限制,若源库的一次性事件(EVENT)设定的触发时间在迁移开始前,该事件(EVENT)不会迁移到目标库。
多对一场景下,创建迁移任务时,目标库读写设置需要跟已有任务设置为一致。
增量迁移会过滤创建用户、删除用户及修改用户权限的DDL操作。
由于无主键表缺乏行的唯一性标志,网络不稳定时涉及少量重试,表数据存在少量不一致的可能性。
不支持目标数据库恢复到全量迁移时间段范围内的PITR操作。
若专属计算集群不支持4vCPU/8G或以上规格实例,则无法创建迁移任务。
源库和目标库为RDS for MySQL实例时,不支持带有TDE特性并建立具有加密功能表。
操作须知
在任务启动、任务全量迁移阶段,不建议对源数据库做删除类型的DDL操作,比如删除数据库、索引、视图等,这样可能会引起任务迁移失败。
在结束迁移任务时,将进行所选事件(EVENT)和触发器(TRIGGER)的迁移。请确保任务结束前,不要断开源和目标数据库的网络连通性,并在结束任务时关注迁移日志上报的状态,达到数据库完整迁移效果。
迁移过程中,不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限,或修改源和目标数据库的端口号。
迁移任务目标数据库可以设置“只读”和“读写”。
只读:目标数据库实例将转化为只读、不可写入的状态,迁移任务结束后恢复可读写状态,此选项可有效的确保数据迁移的完整性和成功率,推荐此选项。
读写:目标数据库可以读写,但需要避免操作或接入应用后会更改迁移中的数据(注意:无业务的程序常常也有微量的数据操作),进而形成数据冲突、任务故障、且无法修复续传,充分了解要点后可选择此选项。
增量迁移场景下,不支持源数据库进行恢复到某个备份点的操作(PITR)。
增量迁移过程中,若源库存在分布式事务,可能会导致迁移失败。
为了保持数据一致性,不允许对正在迁移中的目标数据库进行修改操作(包括但不限于DDL、DML操作)。
增量迁移阶段,支持断点续传功能,在主机系统崩溃的情况下,对于非事务性的无主键的表可能会出现重复插入数据的情况。
迁移过程中,不允许源库写入binlog格式为statement的数据。
迁移过程中,不允许源库执行清除binlog的操作。
选择表级对象迁移时,增量迁移过程中不支持对表进行重命名操作。
源库不支持阿里云RDS的只读副本。
如果源数据库为自建库,并且安装了Percona Server for MySQL 5.6.x或Percona Server for MySQL 5.7.x时,内存管理器必须使用Jemalloc库,以避免因系统表频繁查询带来的内存回收不及时,并最终导致数据库Out of Memory问题。
迁移过程中,不允许在源库创建库名为ib_logfile的数据库。
建议将expire_log_day参数设置在合理的范围,确保恢复时断点处的binlog尚未过期,以保证服务中断后的顺利恢复。
环境要求
实时迁移对环境有一些特定的要求,请确保环境配置满足以下条件。该类型的要求系统会自动检查,并给出处理建议。
类型名称
使用限制(DRS自动检查)
数据库权限设置
全量迁移最小权限要求:
源数据库帐户需要具备如下权限:
SELECT、SHOW VIEW、EVENT。
目标数据库帐号必须拥有如下权限:
SELECT、CREATE、ALTER、DROP、DELETE、INSERT、UPDATE、INDEX、EVENT、CREATE VIEW、CREATE ROUTINE、TRIGGER、WITH GRANT OPTION。
全量+增量最小迁移权限要求:
源数据库帐户需要具备如下权限:
SELECT、SHOW VIEW、EVENT、LOCK TABLES、REPLICATION SLAVE、REPLICATION CLIENT。
目标数据库帐号必须拥有如下权限:
SELECT、CREATE、ALTER、DROP、DELETE、INSERT、UPDATE、INDEX、EVENT、CREATE VIEW、CREATE ROUTINE、TRIGGER、WITH GRANT OPTION。
用户迁移最小权限要求:
用户迁移时,当源数据库为非阿里云数据库时,帐户需要有mysql.user的SELECT权限,源数据库为阿里云数据库,则帐户需要同时具有mysql.user和mysql.user_view的SELECT权限。
目标数据库帐户需要有mysql库的SELECT,INSERT,UPDATE,DELETE权限。
迁移对象约束
支持数据库、表、视图、索引、约束、函数、存储过程、触发器(TRIGGER)和事件(EVENT)的迁移。
不支持系统库的迁移以及事件状态的迁移。
不支持非MyISAM和非InnoDB表的迁移。
源数据库要求
源数据库中的库名不能包含:'<`>/\"以及非ASCII字符。
源数据库中的表名、视图名不能包含:'<>/\"以及非ASCII字符。
源数据库中的库名不允许为ib_logfile。
MySQL源数据库的binlog日志必须打开,且binlog日志格式必须为Row格式。
在磁盘空间允许的情况下,建议源数据库binlog保存时间越长越好,建议为3天。
源数据库expire_logs_days参数值为0,可能会导致迁移失败。
增量迁移时,必须设置MySQL源数据库的server_id。如果源数据库版本小于或等于MySQL5.6,server_id的取值范围在2-4294967296之间;如果源数据库版本大于或等于MySQL5.7,server_id的取值范围在1-4294967296之间。
MySQL源数据库建议开启skip-name-resolve,减少连接超时的可能性。
源数据库GTID状态建议为开启状态。
源库不支持mysql binlog dump命令。
源数据库和目标数据库字符集需保持一致,否则迁移失败。
源数据库log_slave_updates参数需设置为开启状态,否则会导致迁移失败。
源数据库的binlog_row_image参数需设置为FULL,否则会导致迁移失败。
源数据库MySQL8.0目前不支持参数lower_case_table_names等于0的迁移。
目标数据库要求
不支持从高版本迁移到低版本。
建议MySQL目标库的binlog日志格式为Row格式,否则增量迁移可能出错。
目标数据库实例的运行状态必须正常。
目标数据库实例必须有足够的磁盘空间。
除了MySQL系统数据库之外,目标数据库不能包含与源数据库同名的数据库。
建议目标库的事务隔离级别至少保证在已提交读。
DRS迁移时会有大量数据写入目标库,目标库max_allowed_packet 参数过小会导致无法写入,建议将目标库max_allowed_packet参数值设置大一点,使其大于100MB。
目标数据库GTID状态建议为开启状态。
源数据库和目标数据库的参数server_uuid相同, 将导致增量迁移失败。
源数据库和目标数据库的参数collation_server需保持一致,否则可能导致迁移失败。
所选迁移对象和外键依赖的表需一起进行迁移,否则会导致迁移失败。
源数据库和目标数据库的参数time_zone需保持一致,否则可能导致迁移失败。
源数据库和目标数据库的sql_mode参数值需保持一致,否则可能导致迁移失败。
迁移的对象中包含引擎为MyISAM的表,则目标数据库sql_mode不能包含no_engine_substitution参数,否则可能会导致迁移失败。
源数据库和目标数据库的innodb_strict_mode参数值需保持一致,否则可能导致迁移失败。
目标数据库和源数据库的lower_case_table_names参数需保持一致,否则可能导致迁移失败。
目标数据库的log_bin_trust_function_creators参数需设置为on,否则可能导致迁移失败。