操作场景
使用对象存储迁移服务创建对象存储任务,对业务环境的对象数据实施迁移。
如果待迁移的整桶数据超过3TB或者对象个数超过500万,建议使用创建迁移任务组进行数据迁移。
前提条件
已获取源端和目的端账号的AK/SK。
源端账号拥有list Bucket,get BucketLocation,list Object,head Object,get Object等权限,具体权限获取方式请联系源端云服务商。
list Bucket、get BucketLocation权限在迁移前选择桶时使用,如果使用指定桶名时可不用配置。
目的端拥有OBS OperateAccess权限,获取方式请参见创建IAM用户并授权使用OBS。
- 已在天翼云OBS服务中创建桶。
操作步骤
步骤 1在浏览器中输入https://127.0.0.1:7099/,登录RDA控制台。
步骤 2单击左侧导航栏的“迁移实施”页签,展开右侧出现的“对象存储迁移”页签,单击“迁移任务 > 创建迁移任务”,仔细阅读弹出的隐私协议声明,勾选“同意以上隐私协议”,单击“确定”,进入“创建迁移任务”页面。
创建迁移任务
阅读,同意对象存储服务隐私协议,单机确认。
步骤 3选择源端/目的端。
选择源端
源端选择参数:
参数 | 说明 |
---|---|
数据源 | 待迁移的源端云服务提供商。 |
appID | 如果源端云服务提供商为腾讯云,则需要输入该参数,appID 是您腾讯云帐户的一个标识。 |
访问密钥 | 源端云服务提供商的访问密钥(AK)。最大长度是100个字符。 |
私有访问密钥 | 源端云服务提供商的私有访问密钥(SK),与AK相匹配。最大长度是100个字符。 |
区域 | 源端云服务提供商所在区域 |
桶名 | 待迁移数据所在的桶。 |
选择目的端:
目的端选择参数
参数 | 说明 |
---|---|
数据源 | 云服务提供商,选择天翼云 |
访问密钥 | 天翼云的访问密钥(AK)。最大长度是100个字符。 |
私有访问密钥 | 天翼云的私有访问密钥(SK),与AK相匹配。最大长度是100个字符。输入访问密钥和私有访问密钥后,请单击“连接目的端桶”。 |
桶名 | 存放迁移数据的天翼云OBS桶。 |
步骤 4单击“下一步”,设置任务参数。
步骤 5选择迁移方式。
- 选择文件/文件夹
单击“选择”,选择待迁移的文件或文件夹后,单击“确定”。对于已选择的文件或文件夹,您可以单击从迁移对象列表中删除。
如果选择的云服务提供商为七牛,则不支持选择文件/文件夹。
若不设置该参数,则默认迁移全桶数据。
针对每个迁移任务,在同一目录层级下,您最多可以选择500个文件或文件夹。
由于OBS服务的规格限制,请确认对象迁移到目的端后的名称不超过1024个字符,否则将导致任务失败。 - 指定对象列表
指定对象列表方式,一般用于增量迁移场景,用户需要将待迁移的源端对象名称写入对象列表文件,并将生成的对象列表文件放在天翼云OBS桶中,对象存储迁移服务将会迁移指定对象列表文件中的所有对象。
b.选择“列表文件所在桶(天翼云)”。
此参数中列出的桶是通过输入的目的端AK/SK得到的桶列表。
请确保列表文件所在桶与目的端桶处于同一区域,否则后续将无法选择对象列表文件。
c.在“对象列表文件”区域内单击“选择”,选择用户指定的对象列表文件,单击“确定”。
对象列表文件大小不能超过100MB。
对象列表文件必须是“.txt”类型的文件,并且该文件元数据中的“ContentType”只能为:“text/plain”。
对象列表文件必须是UTF-8无BOM格式编码格式。
对象列表文件中每行只能包含一个对象名称,并且对象名称使用URL Encode编码。
对象列表文件中每行不要添加无效空格,否则会将空格作为对象名,导致迁移失败。
对象列表文件中每行长度不要超过65535,否则会导致迁移失败。
对象列表文件的元数据中不能设置“ContentEncoding”,否则会导致迁移失败。
对象列表文件如果是归档数据,迁移前需要先手动恢复,对象存储迁移服务才能访问和获取。
- 输入对象前缀
在“添加对象数据”区域内输入对象数据名称或者名称前缀,系统会自动匹配出数据。您可以单击,从这些匹配到的迁移数据列表中删除不需要迁移的数据。
若不添加该参数,则默认迁移全桶的数据。
- 指定URL列表
指定URL列表方式,一般适用于HTTP或HTTPS源端的迁移场景,用户需要将待迁移的文件URL和目的端对象名称写入URL列表文件,并将生成的URL列表文件放在天翼云OBS桶中,对象存储迁移服务将会迁移指定URL列表文件中的所有对象。
d.选择“列表文件所在桶(天翼云)”。
- 此参数中列出的桶是通过输入的目的端AK/SK得到的桶列表。
- 请确保列表文件所在桶与目的端桶处于同一区域,否则后续将无法选择对象列表文件。
- 出于安全考虑,若您的源端同时支持HTTP和HTTPS协议,建议迁移时使用HTTPS协议;若使用HTTP协议,会存在数据可能会被监听窃取、数据被篡改、中间人重放攻击等风险。
- URL列表迁移不支持URL重定向。
e.在“选择URL列表文件”区域内单击“选择”,选择用户指定的URL列表文件,单击“确定”。
- URL列表文件大小不能超过100MB。
- URL列表文件必须是“.txt”类型的文件,并且该文件元数据中的“ContentType”只能为:“text/plain”。
- URL列表文件必须是UTF-8无BOM格式编码格式。
- URL列表文件中每行只能包含一个URL和目的端对象名称。
- URL列表文件中每行长度不要超过65535,否则会导致迁移失败。
- URL列表文件的元数据中不能设置“ContentEncoding”,否则会导致迁移失败。
- URL列表文件中每行使用制表符\t分割URL和目的端对象名称,格式为:[URL][制表符][目的端对象名称],其中目的端对象名称使用URL Encode编码,例如:
http://xxx.obs.cn-jssz1.ctyun.cn/doc/文件1.txt doc%2f%e6%96%87%e4%bb%b61.txt
http://xxx.obs.cn-jssz1.ctyun.cn/doc/thefile2.txt doc%2fthefile2.txt
http://xxx.obs.cn-jssz1.ctyun.cn/the%20file.txt the%20file.txt
http://xxx.obs.cn-jssz1.ctyun.cn/the%20file2.txt the+file2.txt
http://xxx.obs.cn-jssz1.ctyun.cn/doc/thefile.txt doc/thefile.txt
以上示例中,URL所表示的文件,被复制到目的端桶后,对象会被分别命名为:doc/文件doc/thefile2.txt、the file.txt、the file2.txt以及doc/thefile.txt。
- URL列表文件中每行不要添加无效空格,否则会将空格作为对象名,导致迁移失败。
步骤 6(可选)设置“源端参数”。
当您的源端云服务提供商提供了下表中首列相应的功能时,才会出现此部分参数。
源端参数
参数 | 说明 |
---|---|
源端使用自定义域名下载 | 当默认域名不能满足您的迁移需求,比如您需要一个自定义域名以便使用CDN降低源端出口下载流量的费用,且您的源端云服务提供商支持自定义域名时,可以勾选此选项。说明当源端云服务提供商是七牛云时,因其对默认域名的使用做了限制,为确保您的迁移顺利进行,系统已为您自动勾选此参数。勾选此选项后,进行如下设置:在“自定义域名传输协议”中选择传输协议。说明HTTP协议安全级别低于HTTPS协议,推荐使用HTTPS协议。填写“桶自定义域名”。如果您使用了源端云服务提供商提供的CDN鉴权,则选择“启用CDN鉴权校验”,并配置校验类型和秘钥。说明l您需要参见源端云服务提供商的相关资料配置CDN后,才能使用CDN相关功能。l使用源端CDN产生的费用遵从源端云服务提供商的计费规则,费用由源端云服务提供商向您收取。l不支持URl重定向。单击“检查”,检查配置是否正确。l如果检查未通过,请单击“详情”查看未通过的原因。l如果检查通过,则可继续进行其他迁移配置。 |
解冻归档数据 | 归档类型的对象存储要实现迁移,必须预先解冻。当您的源端云服务提供商支持自动解冻归档类型数据时,可以勾选此选项。l勾选:如果遇到归档类型对象,则自动解冻该对象并进行迁移。如果解冻失败,则判定该对象迁移失败并跳过,继续迁移其余对象。l不勾选:如果遇到归档类型对象,则直接判定该对象迁移失败并跳过,继续迁移其余对象。说明l目前支持以下云服务提供商的归档数据的自动解冻:华为云、阿里云、金山云、腾讯云。l解冻预计耗时1分钟及以上,对象越大解冻耗时越长,超过3分钟默认解冻失败。各云服务提供商的解冻耗时可能存在差异,具体请参考各云服务提供商的相关文档。l解冻归档数据的过程中会产生两种费用,一是API调用费用,二是归档数据取回费用,这些均由源端云服务提供商向您收取。l归档数据的解冻状态会持续一段时间,在此时间内支持对象的下载/访问,超过此时间后需要重新解冻。解冻状态持续时间请参考各云服务提供商的相关文档。l对象存储数据从源端云服务提供商迁移到天翼云后,存储类型和目的端桶的存储类型保持一致,与源端对象存储类型无关。 |
步骤 7单击“高级选项”后面“展开”,展开高级选项参数。
步骤 8(可选)设置高级选项参数。
高级选项参数
参数 | 说明 |
---|---|
服务端加密 | 如果勾选“KMS”,对迁移数据进行KMS服务端加密后再存储至目的OBS桶中。说明使用KMS服务端加密可能会降低迁移速率10%左右。当前区域支持KMS加密时,此参数方可用。 |
记录失败对象 | 选择是否记录迁移失败的对象。l选择“否”,则不记录迁移失败的对象。如果迁移失败,只能全量重传。l选择“是”,记录迁移失败的对象。如果迁移失败,支持只对迁移失败对象进行重传。说明迁移失败的对象将被记录在一个以任务名称命名的失败对象列表文件中,普通任务:上传到目的端桶的“oms/failed_object_lists/”路径下;任务组任务:上传到目的端桶的“oms/failed_object_lists”路径下。该文件记录了迁移任务失败的摘要信息,包括:失败原因、发生时间(参照当前区域所属时区)、失败对象(经过URL编码)、失败对象(未经过URL编码)、源端SDK返回的错误码。当迁移失败对象重传成功后,失败对象列表文件仍会保留在目的端。您如果不再需要该文件,请手动删除。 |
解冻归档数据 | 归档类型的对象存储要实现迁移,必须预先解冻。当您的源端云服务提供商支持自动解冻归档类型数据时,可以勾选此选项。l勾选:如果遇到归档类型对象,则自动解冻该对象并进行迁移。如果解冻失败,则判定该对象迁移失败并跳过,继续迁移其余对象。l不勾选:如果遇到归档类型对象,则直接判定该对象迁移失败并跳过,继续迁移其余对象。说明l目前支持以下云服务提供商的归档数据的自动解冻:华为云、阿里云、金山云、腾讯云。l解冻预计耗时1分钟及以上,对象越大解冻耗时越长,超过3分钟默认解冻失败。各云服务提供商的解冻耗时可能存在差异,具体请参考各云服务提供商的相关文档。l解冻归档数据的过程中会产生两种费用,一是API调用费用,二是归档数据取回费用,这些均由源端云服务提供商向您收取。l归档数据的解冻状态会持续一段时间,在此时间内支持对象的下载/访问,超过此时间后需要重新解冻。解冻状态持续时间请参考各云服务提供商的相关文档。l对象存储数据从源端云服务提供商迁移到天翼云后,存储类型和目的端桶的存储类型保持一致,与源端对象存储类型无关。 |
迁移指定时间后的对象 | 选择是否使用时间过滤源端待迁移对象。l选择“否”,不过滤源端待迁移对象。l选择“是”,仅迁移在指定时间之后修改的源端待迁移对象。需要单击,设置迁移指定时间。 |
流量控制 | 设置迁移任务在指定时段的最大流量带宽。l选择“否”,不进行流量控制。l选择“是”,进行流量控制。需要执行以下步骤:1.[]()单击“新增流量控制”。下方新增一条规则记录。2.[]()在“开始时间”、“结束时间”和“限制最大流量”文本框中输入数值。限制最大流量的数值范围:1~ 200MB/s。3. 重复步骤,增加新的流量控制规则。您也可以单击“操作”栏的,删除本行记录。说明最多可以创建5条记录。即使在创建任务后,您也可以在任务详情中继续设置流量控制规则。 |
描述 | 输入本次迁移任务的简单描述信息。最多可输入255个字符。 |
步骤 9 单击“下一步”,进入确认信息页面。
步骤 10 确认迁移信息的设置,并启动迁移。
1.浏览各项迁移参数的设置是否正确。
如果有误,可以单击“上一步”返回之前的页面进行修改。
2.单击“开始迁移”。
提示创建迁移任务成功。查看迁移任务列表已新增该任务。
关于迁移任务状态,参见查看迁移任务。
任务创建后,会生成一个任务ID供您快速识别。它显示在列表中任务的左上角,由源端桶名+目的端桶名+时间序列标识拼接而成。