上云迁移
1.主机迁移
2.redis迁移
3.Mysql、MongoDB迁移
4.ES迁移
5.对象存储迁移
6.文件迁移
7.rabbitmq迁移
上云迁移
-
+
首页
5.对象存储迁移
5.1概念 对象存储迁移一般指利用华为云OMS工具把其他云的对象存储服务如阿里OSS迁移至华为云OBS,另外OBS控制台是提供对象存储迁移评估,我们可以先利用该工具对源端数据进行评估。因评估需要客户账号的AK/SK,可以指导客户,让客户利用该工具跑一遍,看看迁移评估结果。迁移评估链接: https://console.huaweicloud.com/oms/?region=cn-north-1#/oms/migrationAssessment,具体使用见下文。 5.2约束 最大并发5个任务 约束与限制_对象存储迁移服务 OMS_产品介绍_华为云 (huaweicloud.com) 5.3使用 ![](/media/202303/2023-03-29_095417_5948590.5190621518140305.jpeg) ![](/media/202303/2023-03-29_095431_5406620.7613224582334044.png) 评估结果: ![](/media/202303/2023-03-29_095451_7229640.8942116122433014.jpeg) ![](/media/202303/2023-03-29_095510_9826880.8858394912379711.jpeg) ![](/media/202303/2023-03-29_095529_7860310.7351344399892643.jpeg) 创建OMS任务 ![](/media/202303/2023-03-29_095547_0723770.273019736600992.jpeg) 根据提示创建迁移任务,等待迁移! 5.4RDA创建对象存储迁移任务 华为云参考链接:https://res.hc-cdn.com/RDA-Web/2.9.9/index.html#/ 5.4.1RDA创建对象存储迁移任务与OMS区别 OMS对象存储迁移与RDA对象存储迁移原理是一样的,区别在于OMS做对象存储迁移的目标端有地区的限制(以下标红地区不支持),而RDA只要公网通信都可以进行迁移。 ![](/media/202303/2023-03-29_095637_3757030.6435891137729007.jpeg) OMS有实时同步功能,对已迁移完成的对象若有增量数据时,可以实时同步数据,无需创建任务再次更新;而RDA没有实时同步的功能,需要重新创建任务再次更新。 5.4.2迁移流程 ![](/media/202303/2023-03-29_095721_6658590.8478681488349022.jpeg) 5.4.3阿里云OSS使用RDA迁移到华为云OBS实例 准备工作: RDA地址:http://res.hc-cdn.com/RDA-Web/2.9.9/index.html#/ 获取源目端访问密钥AK/SK、获取源目端Endopint、安装RDA、创建目的端桶、购买弹性云服务器ECS用于安装OMS-Agent(ECS与目的端桶同一地区)、 配置OMS集群管理 登录RDA控制台—>迁移实施—>对象存储迁移—>OMS集群管理 ![](/media/202303/2023-03-29_095744_3382170.7696727469102872.png) 添加Agent节点 登录RDA控制台—>迁移实施—>对象存储迁移—>Agent管理 ![](/media/202303/2023-03-29_095808_1893660.2673267906164428.jpeg) 创建迁移任务 登录RDA控制台—>迁移实施—>对象存储迁移—>迁移任务创建迁移任务 ![](/media/202303/2023-03-29_095824_7723470.517193487524237.jpeg) 迁移任务详情及结果 ![](/media/202303/2023-03-29_095837_9518350.6276159624978178.jpeg) ![](/media/202303/2023-03-29_095854_4392130.41603589415147557.jpeg) 5.4.4FAQ RDA不管是创建任务还是创建任务组,每次迁移只能迁移一个桶,如何可以一次并发迁移多个桶? 目前不支持,只能单个桶创建单个任务进行迁移,因为考虑到不同云上的对象存储AK/SK不同。 迁移速度中,agent数量*20来提高任务并发数从而提高速度,和创建迁移组提高速度有啥区别? agent是跑任务的,速度由所在服务器带宽决定,而创建迁移任务组是拆分任务的,速度由文件大小决定。 迁移时可以忽略迁移元数据,这个元数据是啥? 文件元数据 RDA创建任务迁移结束后,如果源端新增数据,想要迁移增量数据,必须要重新创建迁移任务,又要重新配置源端和目标端信息,比较麻烦如何解决? 目前只支持重新创建任务再次迁移新增数据 数据迁移完后,只有校验文件数量和总的大小,如何校验每一个文件的大小? 迁移完成后会进行一次校验,针对桶里的每个对象大小进行校验,如果对象校验不一致会报错误信息。 rda同时支持创建多少个并发任务? 任务创建没有数量限制,但agent的上限是20个。 如果直接创建任务,不是创建任务组,那是不是RDA的话,一个agent最多并发20个任务,那是不是我有30个桶,直接创建30个任务,他会直接跑20个,另外10个等待,前面任务完成,后面自动执行是吗? 一个桶创建任务组会分多个任务出来,并不是一个桶一个并发;若直接创建任务的话就如上所示。 5.5OMS实时同步 华为云参考链接:https://support.huaweicloud.com/usermanual-oms/oms_01_0042.html 5.5.1概念 OMS创建迁移任务后只针对源端桶做全量迁移,若源端桶有增量数据添加或修改后,需再次创建迁移任务进行增量迁移,这对于源端桶数量较多的情况下,此方法不可取。 OMS实时同步任务用于源端变更对象主动同步的场景,通过在源端对象存储服务配置事件触发器,当出现对象新增或修改时,通过函数工作流服务,主动调用OMS服务的数据同步接口,及时将数据同步到华为云OBS侧。 5.5.2使用 这里以阿里云迁移至华为云为例进行操作,参考链接如下: https://bbs.huaweicloud.com/forum/thread-135188-1-1.html 前提条件:源端、目的端桶已创建、已获取源目端AK/SK、源端桶已完成全量迁移。 目的端创建同步任务 登录对象存储迁移服务控制台同步任务创建同步任务下一步启动同步任务 ![](/media/202303/2023-03-29_095929_6794200.4437568564778156.jpeg) 启动成功后查看已创建的同步任务 ![](/media/202303/2023-03-29_095949_2045220.23434426577218237.jpeg) 源端同步请求配置 基于源端云服务提供商的对象存储服务和函数工作流服务,通过配置源端云服务提供商的对象存储服务和函数工作流服务来触发新增、修改对象的同步请求。 下载sync2obs.zip安装包,下载链接如下,下载后解压并修改index.py文件 https://bbs.huaweicloud.com/forum/thread-135188-1-1.htmlhttps:?ticket=ST-82756275-ZPDXW0OIyZSs1TzVN5omvhgb-sso index.py文件修改如下并保存。 # 阿里云侧信息 # 日志桶不可以是源端桶 LOG_BUCKET = "logwurui" OSS_ENDPOINT = "http://oss-cn-hangzhou.aliyuncs.com" # 华为云侧信息 # 请使低权限ak/sk,该ak/sk仅需要iam/oms权限 HW_AK = "RME2KTLD7TCTBWJFXCKG" HW_SK = "OiFkypJwTvkvZCosVV8EOTlIhvQ1M9rrJtGoNiVc" # 同步请求接收地址,见同步任务详情 SYNC_URL = "https://oms.cn-north-4.myhuaweicloud.com/v2/0d2e68c18780f2bc2fcac01b743b4bd3/sync-tasks/694b1f14-7d33-48bd-a3c7-223731b8e136/events" 登录阿里云控制台函数计算FC点击左侧“服务及函数”创建服务创建函数 配置如下图所示: 基本设置 ![](/media/202303/2023-03-29_100019_3995480.46455830870445436.jpeg) 触发器配置 ![](/media/202303/2023-03-29_100035_6088290.44004451124509436.jpeg) 创建完成后,不要进行函数代码测试操作,此处代码修改后保存不生效,导致函数测试报错: : { "errorMessage": "Unable to import module 'index'", "errorType": "ImportModuleError", "stackTrace": [ "ImportError: No module named 'index'" ] } 创建完成后点击上传代码上传文件夹将上述解压并修改后的代码文件夹进行上传并直接部署在源端目的桶增加对象查看调用日志调用请求列表显示调用成功。 ![](/media/202303/2023-03-29_100053_4744450.5407763024915718.jpeg) 监控同步任务状态 源端桶增加对象wuruirui.txt,目的端桶需等待一段时间后可查看到已同步的增量对象,如下图所示: ![](/media/202303/2023-03-29_100119_5818800.3939987905686433.jpeg) 同步任务详情显示同步对象数和同步对象容量大小: ![](/media/202303/2023-03-29_100134_7111080.573688355363826.jpeg) 5.6“回源配置方案”迁移增量对象数据 https://support.huaweicloud.com/bestpractice-oms/oms_01_0035.html
admin
2023年3月29日 10:02
转发文档
收藏文档
上一篇
下一篇
手机扫码
复制链接
手机扫一扫转发分享
复制链接
Markdown文件
分享
链接
类型
密码
更新密码