Mysql

关注公众号 jb51net

关闭
首页 > 数据库 > Mysql > MySQL大表ibd文件物理迁移

MySQL通过传输表空间实现大表ibd文件的物理迁移的具体方案

作者:学亮编程手记

本文介绍了使用InnoDB的可传输表空间特性进行大表迁移的方法,包括从运行中的MySQL服务器迁移和从物理备份文件恢复,核心步骤包括锁定源表、复制文件、解锁源表以及在目标服务器上导入表空间,需要的朋友可以参考下

基于 *.ibd 和 *.frm 文件进行 InnoDB 表的数据迁移,核心是利用了 InnoDB 的 “可传输表空间” 特性。

这种方法比执行 mysqldump 或 SELECT ... INTO OUTFILE 要快得多,尤其适用于大表迁移,因为它直接复制物理文件。

主要sql脚本

以下sql脚本支持在MySQL5.7.44和MySQL8.4.6之间进行ibd的迁移和恢复!

在MySQL 8目标库上操作——

1. create database test1;

2. CREATE TABLE test1.`sales` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `product_name` varchar(50) DEFAULT NULL,
  `sale_date` date DEFAULT NULL,
  `quantity` int(11) DEFAULT NULL,
  `price` decimal(10,2) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=10 DEFAULT CHARSET=utf8mb4;

3. ALTER TABLE test1.sales DISCARD TABLESPACE;

4. 导入MySQL5.7.44中sales表的ibd文件至对应的数据目录下;

5. 重启数据库后执行下述导入表空间操作;

6. ALTER TABLE test1.sales IMPORT TABLESPACE;

SELECT * FROM sales;

SELECT VERSION();

重要前提与警告

  1. MySQL版本:此方法适用于 MySQL 5.6 及更高版本。不同大版本之间(如从 5.7 迁移到 8.0)可能有问题,最好在同版本或小版本间进行。
  2. 存储引擎:必须是 InnoDB 表。
  3. 配置:必须开启 innodb_file_per_table(默认就是开启的)。这个配置意味着每个表都有自己独立的 *.ibd 文件。
  4. 文件一致性:复制的 *.ibd 文件必须与数据库的逻辑状态保持一致。因此,操作过程中需要将表置于一种锁定的状态。
  5. MySQL 8.0+ 注意:从 MySQL 8.0 开始,不再有 *.frm 文件。表结构存储在数据字典中。如果你只有 *.frm 和 *.ibd 文件,说明它们来自旧版本(如 5.7)。在 8.0 中恢复时,需要先创建一个表结构完全相同的表。

迁移场景与步骤

假设我们要将表 mydatabase.mytable 从 源服务器 迁移到 目标服务器

场景一:从运行中的MySQL服务器迁移(最常用)

这种方法适用于源表可被短暂锁定的情况。

在源服务器上操作:

-- 在目标服务器的数据库中,先创建一个表结构完全相同的空表。
-- 你可以通过 `SHOW CREATE TABLE mydatabase.mytable\G` 在源服务器上获取建表语句。
CREATE TABLE mydatabase.mytable (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(100) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB;
-- 这个操作会删除目标表新创建的、空的 .ibd 文件。
ALTER TABLE mydatabase.mytable DISCARD TABLESPACE;

执行后,目标服务器的 mytable.ibd 文件会被删除。

在源服务器上操作:

-- 对源表加一个读锁,并生成一个 .cfg 文件(包含表空间元数据)。
FLUSH TABLES mydatabase.mytable FOR EXPORT;

执行这个命令后:

复制文件
在操作系统层面,从源服务器的数据目录复制三个文件到安全的地方:

# 进入MySQL数据目录下的数据库目录
cd /var/lib/mysql/mydatabase

# 复制文件
cp mytable.cfg mytable.ibd /path/to/backup/directory/

解锁源表

-- 复制完成后,立即解锁源表,恢复写入。
UNLOCK TABLES;

这个操作会同时删除 mytable.cfg 文件。

在目标服务器上操作:

传输文件
将刚才复制的 mytable.ibd 和 mytable.cfg 文件传输到目标服务器的对应数据库目录下(如 /var/lib/mysql/mydatabase/),并确保文件所有者是 mysql 用户。

scp /path/to/backup/mytable.{ibd,cfg} user@target-server:/var/lib/mysql/mydatabase/
chown mysql:mysql /var/lib/mysql/mydatabase/mytable.*

导入表空间

ALTER TABLE mydatabase.mytable IMPORT TABLESPACE;

执行这个命令后,MySQL 会读取 mytable.cfg 文件来验证表空间的一致性,然后将数据导入。

验证

SELECT COUNT(*) FROM mydatabase.mytable;

场景二:从物理备份文件恢复(仅有 .frm 和 .ibd 文件)

这种情况通常是你只有物理文件,没有运行中的源MySQL实例。这更像是一种数据恢复操作。

前提:你必须知道该表的精确表结构

在目标服务器上操作:

-- 这是最关键的一步!表结构必须与源表100%一致(列名、类型、索引、行格式等)。
CREATE TABLE mydatabase.mytable (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `name` varchar(100) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB;
ALTER TABLE mydatabase.mytable DISCARD TABLESPACE;
cp mytable.ibd /var/lib/mysql/mydatabase/
chown mysql:mysql /var/lib/mysql/mydatabase/mytable.ibd

导入表空间之前需要重启一下数据库!!!
并且支持在MySQL5.7和8之间进行迁移

尝试导入表空间

ALTER TABLE mydatabase.mytable IMPORT TABLESPACE;

可能遇到的问题与解决方案:

总结与工作流图示

标准流程(场景一):

目标库:创建空表 -> DISCARD TABLESPACE
源库:FLUSH TABLE ... FOR EXPORT -> 复制 .ibd & .cfg -> UNLOCK TABLES
目标库:传输文件 -> IMPORT TABLESPACE -> 验证

核心命令三部曲:

  1. 目标库准备ALTER TABLE ... DISCARD TABLESPACE; (清空舞台)
  2. 源库锁定并复制FLUSH TABLE ... FOR EXPORT; -> cp -> UNLOCK TABLES; (准备并搬运货物)
  3. 目标库导入ALTER TABLE ... IMPORT TABLESPACE; (接收货物)

以上就是MySQL通过传输表空间实现大表ibd文件的物理迁移的具体方案的详细内容,更多关于MySQL大表ibd文件物理迁移的资料请关注脚本之家其它相关文章!

您可能感兴趣的文章:
阅读全文