本文为您介绍如何将数据归档用户OSS(您开通的阿里云OSS服务),以及恢复已归档数据至源库。
前提条件
-
源数据库类型如下:
-
MySQL类型: RDS MySQL 、 PolarDB MySQL版 、 AnalyticDB MySQL 3.0 。
-
PostgreSQL类型: RDS PostgreSQL 、 PolarDB PostgreSQL版 。
-
MongoDB 3.6版本及以上。
-
PolarDB-X 2.0。
说明MySQL数据库账号必须具有REPLICATION CLIENT权限。
-
-
源和目标数据库的管控模式均为稳定变更或安全协同。
-
已开通并购买标准存储或低频访问类型的用户OSS。具体操作,请参见 开通OSS服务 。
-
用户OSS需要录入DMS。具体操作,请参见 云数据库录入 。
重要-
请录入用户OSS至DMS时使用公网地址。若使用的内网地址,则无法进行数据归档。若您有任何疑问,请使用钉钉搜索钉钉群号19040023327,加入钉钉群反馈。
-
录入OSS前,请您准备好您当前阿里云账号下创建的 AccessKey ID 和 AccessKey Secret ,以成功完成登录验证。获取AccessKey操作,请参见 获取AccessKey 。
-
-
需要归档的源表必须存在主键或者唯一键。
说明建议源表中配置有业务修改时间的字段,以便将业务修改时间作为归档的过滤条件。
注意事项
如果待归档的源表中存在三个列联合主键(即三个相互关联的列共同构成该表的主键)或三个及以上的唯一键,可能会出现归档失败的情况。建议您在归档前对拥有三个列联合主键的源表进行充分测试,或者考虑使用DBS备份等其他归档方式。
数据归档
- 登录 数据管理DMS 5.0 。
- 在顶部菜单栏中,选择 。
-
在页面右上角,单击 数据归档 。
-
在 新建数据归档工单 页面,配置以下信息:
配置项
说明
任务名
请输入明确、清晰的任务名,方便后续查询。
归档目标
选中 OSS 。
OSS实例
选择存放归档数据的目标实例。
说明请选择标准存储或低频访问类型的用户OSS实例。
OSS BUCKET
选择实例下的OSS Bucket。
重要-
若选择的OSS实例下没有您所需要的OSS Bucket,请在DMS控制台登录此实例,具体操作请参见 录入对象存储OSS 。
-
归档后数据会存储在此Bucket下的archive文件夹中,请勿删除。
数据库
搜索并选择待归档的业务数据库。
归档配置
选择需要归档数据的表。
-
可选: 输入归档数据的过滤条件。
说明如果您需要使用时间变量,例如,归档6个月前的数据,可以先进行 变量配置 。
-
可选: 单击添加,添加多个源表。
归档表映射
您可以单击操作列下的 编辑 ,配置归档表信息。
变量配置 (可选)
配置该变量可以在配置归档过滤条件时使用。例如,时间变量为
6_month_ago
,时间格式为yyyy-MM-dd,偏移量设置为-6月。如果当前日期为2021-8-12,则变量${6_month_ago}
的值为2021-02-11。配置时间变量的更多信息,请参见 配置时间变量 。后置行为
-
选择是否清理源表已归档数据:
-
不清理:归档后不清理源表数据。
-
清理:归档完成后,自动用无锁的方式清理源表数据。
-
-
选择是否校验归档数据:
-
不校验:不校验归档后的数据。
-
校验:归档数据与原库数据进行比对,展示差异信息与归档信息。
校验时间随数据量增长。
-
运行方式
选择运行方式,当前支持:
-
单次执行 :工单审核通过后,仅单次运行归档任务。
-
周期调度 :工单审核通过后,可根据部署的周期调度执行归档任务。具体配置,请参见 周期调度 。
-
-
单击 提交申请 。
工单审批通过后,自动执行数据归档任务。
说明数据归档功能将以 0时区 进行数据归档与后置行为(与数据库实际时区无关)。
-
可选: 数据归档成功且确认无误后,您可以删除已归档的源表数据并优化源表空间。
-
清理源表已归档数据。
-
如果您开启了后置行为,源表已归档数据会被清理,同时在源数据库中生成备份临时表。
清理备份临时表:通过新建普通数据变更工单,清理数据库中的备份临时表。新建普通数据变更工单,请参见 普通数据变更 。
说明在数据归档工单详情页的最下方,单击 查看临时表drop SQL ,复制清理备份临时表的SQL语句。
-
如果您没有开启后置行为,需要手动清理源表已归档数据。
清理源表已归档数据:通过新建普通数据变更工单,清理源数据库中已归档数据。
-
-
优化源表空间:通过新建无锁变更工单,完成源表空间优化。新建无锁变更工单,请参见 通过无锁变更工单实现无锁结构变更 。
说明在数据归档工单详情页的最下方,单击 查看源表空间优化SQL ,复制源表空间优化的SQL语句。
-
恢复已归档数据至源库
费用说明
该功能免费使用。
使用限制
仅源数据库类型为 RDS MySQL 、 PolarDB MySQL版 、 AnalyticDB MySQL 3.0 可使用此功能。
操作步骤
-
进入 数据归档工单列表 页面, 视图 选择 工单视图 。
-
单击目标工单视图行 操作 列下的 详情 。
-
在 数据归档工单列表 页的 执行 区域,单击 操作 列下的 恢复到源库 。
-
在对话框中,单击 确认 。
此时归档的任务下会增加一个恢复的任务。系统自动执行此任务,您需要等待任务状态从 正在执行 变为 执行成功 ,此过程耗时长短与您恢复的数据量有关。
重要执行归档数据恢复到源库操作后,系统会自动在源库中创建临时表,可能会造成源库空间不足,请您谨慎操作。
-
查看已恢复的数据。
-
在该工单详情页的 基本信息 区域,单击变更库名称,在弹出的提示框上单击 查询 。
-
双击目标表名称,单击 执行 。
您可在SQL Console页面下方的执行结果区域,查看已恢复的数据。
-