支持的源和目标数据库
表 支持的数据库
源数据库 | 目标数据库 |
---|---|
本地自建Oracle数据库 ECS自建Oracle数据库 |
Kafka |
前提条件
- 已登录数据复制服务控制台。
- 满足实时同步支持的数据库类型和版本,详情请参见实时同步。
使用建议
- 数据库同步与环境多样性和人为操作均有密切关系,为了确保同步的平顺,建议您在进行正式的数据库同步之前进行一次演练,可以帮助您提前发现问题并解决问题。
- 建议您在启动任务时选择“稍后启动”功能,将启动时间设置在业务低峰期,避免同步对业务造成性能影响。
使用须知
在创建同步任务前,请务必阅读以下使用须知。
表 环境要求
类型名称 | 使用限制 (DRS自动检查) |
---|---|
数据库权限设置 | 源数据库端:− 12c及以上版本CDB数据库同步时,需要具有CREATE SESSION,SELECT ANY DICTIONARY,针对单表的SELECT权限(GRANT SELECT <userName.tbName> to drsUser;),EXECUTE_CATALOG_ROLE,SELECT ANY TRANSACTION,LOGMINING,SELECT ON SYS.COL,SELECT ON SYS.OBJ,SET CONTAINER(GRANT SET CONTAINER TOCONTAINER=ALL;)权限。 − 12c及以上版本PDB数据库同步时,除了需要具有CREATE SESSION,SELECT ANY DICTIONARY,针对单表的SELECT权限(GRANT SELECT <userName.tbName> to drsUser;),EXECUTE_CATALOG_ROLE,SELECT ANY TRANSACTION,LOGMINING,SELECT ON SYS.COL,SELECT ON SYS.OBJ权限,还需要具有CDB的CREATE SESSION,SELECT ANY DICTIONARYCREATE SESSION, SELECT ANY DICTIONARY,EXECUTE_CATALOG_ROLE,SELECT ANY TRANSACTION,LOGMINING,SET CONTAINER(GRANT SET CONTAINER TOCONTAINER=ALL;)权限。 − 11g及以下版本数据库同步时,需要具有CREATE SESSION,SELECT ANY DICTIONARY,针对单表的SELECT权限(GRANT SELECT <userName.tbName> to drsUser;),EXECUTE_CATALOG_ROLE,SELECT ANY TRANSACTION,SELECT ON SYS.COL,SELECT ON SYS.OBJ。 |
同步对象约束 | 支持表的同步,其他数据库对象暂不支持。 支持VARCHAR、VARCHAR2、NVARCHAR2、NUMBER、FLOAT、LONG、DATE、BINARY_FLOAT、BINARY_DOUBLE、CHAR、NCHAR、ROWID、TIMESTAMP、TIMESTAMP WITH TIME ZONE、TIMESTAMP WITH LOCAL TIME ZONE类型。* 不支持接入的列类型:GEOMETRY以及自定义类型。* 不支持同步但以过滤方式接入的列类型:BLOB、 CLOB、NCLOB、INTERVAL_YEAR_TO_MONTH、INTERVAL_DAY_TO_SECOND、UROWID、BFILE、XML、LONG、long raw。* 支持同步但默认过滤的列类型:raw(同步数据为原始二进制数据)。* 不支持默认值含有表达式的函数的表的同步。 |
源数据库要求 | 库名、表名不支持的字符有:非ASCII字符、“. ”、 “>”、 “<”、 “\”、 “`”、 “ |
目标数据库要求 | 目标库为社区Kafka。 |
操作须知 | 如有中文、日文等特殊字符,业务连接Oracle数据库使用的编码需和Oracle数据库服务端编码一致,否则目标库会出现乱码。 Oracle中实时同步到kafka后的字符集为UTF8。 对于Oracle RAC集群,建议使用SCAN IP+ SERVICE_NAMES方式创建任务,SCAN IP具有更强的容错性,更好的负载能力,更快的同步体验。 源库为Oracle RAC环境时,如果需要使用SCAN IP,需要保证SCAN IP与源库的所有VIP互通,否则无法通过连接检查。若不使用SCAN IP,可以使用某一节点的VIP,其他节点异常不影响同步。 日志中未出现的列在传递的消息中不会出现,表示该列未更新。 同步过程中,不允许删除连接源和目标数据库的用户的用户名、密码、权限,或修改目标数据库的端口号。 选择表级对象同步时,增量同步过程中不建议对表进行重命名操作。 由于kafka的机制,Topic名字格式不能以"__" , "."开头,或以".internal","-internal" 结尾,这些命名格式的Topic会被当做为kafka的内部Topic,业务无法使用。 支持表级DDL操作。 任务再编辑增加新表时,请确保新增的表的事务都已提交,否则未提交的事务可能无法同步到目标库。建议在业务低峰期做增加表的操作。 |
操作步骤
步骤 1 在“实时同步管理”页面,单击“创建同步任务”。
步骤 2 在“同步实例”页面,填选任务名称、描述、同步实例信息,单击“下一步”。
表 任务和描述
参数 | 描述 |
---|---|
任务名称 | 任务名称在4-50位之间,必须以字母开头,不区分大小写,可以包含字母、数字、中划线或下划线,不能包含其他的特殊字符。 |
描述 | 描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。 |
表 同步实例信息
参数 | 描述 |
---|---|
数据流动方向 | 选择“自建-自建”。 |
源数据库引擎 | 选择“Oracle”。 |
目标数据库引擎 | 选择“Kafka”。 |
网络类型 | 此处以“公网网络”为示例。目前支持可选公网网络、VPC网络和VPN、专线网络。 |
可用区 | 选择DRS实例创建在哪个可用区,选择跟源或目标库相同的可用区性能更优。 |
VPC | 选择可用的虚拟私有云。 |
同步实例所在子网 | 请选择同步实例所在的子网。也可以单击“查看子网”,跳转至“网络控制台”查看实例所在子网帮助选择。 默认值为当前所选数据库实例所在子网,请选择有可用IP地址的子网。为确保同步实例创建成功,仅显示已经开启DHCP的子网。 |
IP类型 | 选择迁移实例的IP类型,目前支持选择“IPv4”或“IPv4&IPv6双栈”。只有所选择的VPC及子网都开启了IPv6双栈功能,才能选择IP类型为“IPv4&IPv6双栈”。 |
同步类型 | 请选择内网安全组。内网安全组限制实例的安全访问规则,加强安全访问。 |
标签 | 对于已成功关联企业项目的用户,仅需在“企业项目”下拉框中选择目标项目。 如果需要自定义企业项目,请前往项目管理服务进行创建。关于如何创建项目,详见《项目管理用户指南》。 * 可选配置,对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持10个标签配额。* 任务创建成功后,您可以单击任务名称,在“标签”页签下查看对应标签。关于标签的详细操作,请参见 标签管理。 |
步骤 3 在“源库及目标库”页面,同步实例创建成功后,填选源库信息和目标库信息,单击“源库和目标库”处的“测试连接”,分别测试并确定与源库和目标库连通后,勾选协议,单击“下一步”。
表 源库信息
参数 | 描述 |
---|---|
IP地址或域名 | 源数据库的IP地址或域名。 说明 对于RAC集群,建议使用scanip接入,提高访问性能。 |
端口 | 源数据库服务端口,可输入范围为1~65535间的整数。 |
数据库服务名 | 数据库服务名(Service Name/SID),客户端可以通过其连接到Oracle,具体查询方法请参照界面提示。 |
PDB名称 | PDB同步仅在Oracle12c及以后的版本支持,该功能为选填项,当需要迁移PDB中的表时开启。 PDB功能开启后,只能迁移该PDB中的表,并且需要提供CDB的service name/sid及用户名和密码,不需要PDB的用户名和密码。 |
数据库用户名 | 源数据库的用户名。 |
数据库密码 | 源数据库的用户名所对应的密码。 |
SSL安全连接 | 通过该功能,用户可以选择是否开启对迁移链路的加密。如果开启该功能,需要用户上传SSL CA根证书。 说明 * 最大支持上传500KB的证书文件。* 如果不使用SSL证书,请自行承担数据安全风险。 |
说明源数据库的IP地址或域名、数据库用户名和密码,会被系统加密暂存,直至删除该迁移任务后自动清除。
表 目标库信息
参数 | 描述 |
---|---|
IP地址或域名 | 目标数据库的IP地址或域名。 |
安全协议 | 支持四种认证方式的选择,PLAINTEXT、SSL、SASL_PLAINTEXT和SASL_SSL,详细说明可参考 Kafka认证方式。 |
步骤 4 在“设置同步”页面,选择Topic和同步对象,单击“下一步”。
表 同步模式和对象
参数 | 描述 |
---|---|
Topic | 选择目标端需要同步到的Topic。 |
投送到kafka的数据格式 | 选择Oracle投送到kafka的数据格式。 * Avro:可以显示Avro二进制编码,高效获取数据。* Json:为Json消息格式。详细格式可参考Kafka消息格式。 |
同步对象 | 同步对象支持表级同步,您可以根据业务场景选择对应的数据进行同步。 选择对象的时候支持搜索,以便您快速选择需要的数据库对象。 |
步骤 5 在“预检查”页面,进行同步任务预校验,校验是否可进行实时同步。
- 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”按钮重新进行任务预校验。
- 预检查完成后,且所有检查项结果均通过时,单击“下一步”。
说明所有检查项结果均通过时,若存在请确认项,需要阅读并确认详情后才可以继续执行下一步操作。
步骤 6 在“任务确认”页面,设置同步任务的启动时间,并确认同步任务信息无误后,单击“启动任务”,提交同步任务。
表 任务启动设置
参数 | 描述 |
---|---|
启动时间 | 同步任务的启动时间可以根据业务需求,设置为“立即启动”或“稍后启动”。 说明 预计同步任务启动后,会对源数据库和目标数据库的性能产生影响,建议选择业务低峰期,合理设置同步任务的启动时间。 |
步骤 7 同步任务提交后,您可在“管理”页面,查看并管理自己的任务。
- 您可查看任务提交后的状态,状态请参见 任务状态说明。
- 在任务列表的右上角,单击刷新列表,可查看到最新的任务状态。