MySQL导入多个.sql文件高效方法

MySQL有多种方法导入多个.sql文件（里面是sql语句），常用的有两个命令：mysql和source。

但是这两个命令的导入效率差别很大，具体请看最后的比较。

（还有sqlimport和LOAD DATA INFILE等导入方法，不过它们主要用于导入.csv或.xml文件数据，不是.sql文件）

假设我们有一个 users.sql 大文件，为方便我们将其拆分成：user1.sql、user2.sql、user3.sql 三个独立的小sql文件。

1 mysql命令导入

mysql命令导入多个sql文件方法：

$ for SQL in *.sql; do mysql -uroot -p"123456" mydb < $SQL; done

2 source命令导入

source命令需要首先进入MySQL命令行：

$ mysql -uroot -p"123456"

导入多个sql文件需要先创建一个额外的文件，名字随意，这里我们取：all.sql，内容：

source user1.sql
source user2.sql
source user3.sql

注意，这里每行一条，必须以source命令开头。

然后用source命令执行该文件：

mysql > use mydb;
mysql > source /home/gary/all.sql

3 如何提高导入速度？

对于百M级以上文件，如果光这样导入，速度是极其缓慢的，

根据MySQL官方建议，我们有几个措施可以极大提高导入的速度，如下：

1. 对于MyISAM，调整系统参数：bulk_insert_buffer_size（至少单个文件大小的2倍以上）
2. 对于InnoDB，调整系统参数：innodb_log_buffer_size（至少单个文件大小的2倍以上，导入完成后可以改回默认的8M，注意不是innodb_buffer_pool_size。）
3. 除主键外，删除其他索引，导入完成后重建索引。
4. 关闭自动提交：autocommit=0。（请勿用set global autocommit=1;命令来关闭，否则整个MySQL系统都会停止自动commit，innodb log buffer很快就会爆满，5和6项也请仅在会话中有效，正确做法请往下看）
5. 关闭唯一索引检查：unique_checks=0。（关闭了这一项会影响on duplicate key update的效果）
6. 关闭外键检查：foreign_key_checks=0。
7. insert值写在一条语句内，如：INSERT INTO yourtable VALUES (1,2), (5,5), ...;
8. 有自增列的，设置：innodb_autoinc_lock_mode的值为2,

其中，第1-2、8条在修改my.cnf文件，然后重启MySQL：

[mysqld]
bulk_insert_buffer_size=2G;
innodb_log_buffer_size=2G;
innodb_autoinc_lock_mode=2;

第3条用到的命令：

#删除索引
DROP INDEX index_name ON talbe_name
ALTER TABLE table_name DROP INDEX index_name
ALTER TABLE table_name DROP PRIMARY KEY

＃　添加索引
ALTER TABLE table_name ADD INDEX index_name (column_list)
ALTER TABLE table_name ADD UNIQUE (column_list)
ALTER TABLE table_name ADD PRIMARY KEY (column_list)

第４-6条写在.sql中，批量bash脚本如下：

for SQL in *.sql;
do
    echo $SQL;
    sed -i '1i\SET autocommit=0;\nSET unique_checks=0;\nSET foreign_key_checks=0;' $SQL
    sed -i '$a\COMMIT;\nSET autocommit=1;\nSET unique_checks=1;\nSET foreign_key_checks=1;' $SQL
done

按照以上几个步骤调整后，插入速度必会有大幅度的提高。

4 mysql和source效率比较

在sql文件较小的情况下，source速度比mysql高，

在实际测试导入时，5个合计25M的sql文件，mysql命令的速度比source要快2秒（我自己的测试，不代表普遍的结果），

可以粗略得出，在导入大的sql文件时，建议使用mysql命令。

参考资料：

1. How can I import multiple .sql files into MySQL?
2. 8.5.5 Bulk Data Loading for InnoDB Tables
3. 8.2.4.1 Optimizing INSERT Statements
4. Linux shell获取时间和时间间隔(ms级别)