大數據量備份與還原,始終是個難點。當MYSQL超10G,用mysqldump來導出就比較慢了。在這裡推薦xtrabackup,這個工具比mysqldump要快很多。
一、Xtrabackup介紹
1、Xtrabackup是什麼
Xtrabackup是一個對InnoDB做數據備份的工具,支持在線熱備份(備份時不影響數據讀寫),是商業備份工具InnoDB Hotbackup的一個很好的替代品。
Xtrabackup有兩個主要的工具:xtrabackup、innobackupex
1、xtrabackup只能備份InnoDB和XtraDB兩種數據表,而不能備份MyISAM數據表
2、 innobackupex是參考了InnoDB Hotbackup的innoback腳本修改而來的.innobackupex是一個perl腳本封裝,封裝了xtrabackup。主要是為了方便的 同時備份InnoDB和MyISAM引擎的表,但在處理myisam時需要加一個讀鎖。並且加入了一些使用的選項。如slave-info可以記錄備份恢 復後,作為slave需要的一些信息,根據這些信息,可以很方便的利用備份來重做slave。
2、Xtrabackup可以做什麼 :
在線(熱)備份整個庫的InnoDB、 XtraDB表
在xtrabackup的上一次整庫備份基礎上做增量備份(innodb only)
以流的形式產生備份,可以直接保存到遠程機器上(本機硬盤空間不足時很有用)
MySQL數據庫本身提供的工具並不支持真正的增量備份,二進制日志恢復是point-in-time(時間點)的恢復而不是增量備份。
Xtrabackup工具支持對InnoDB存儲引擎的增量備份,工作原理如下:
(1)首先完成一個完全備份,並記錄下此時檢查點的LSN(Log Sequence Number)。
(2)在進程增量備份時,比較表空間中每個頁的LSN是否大於上次備份時的LSN,如果是,則備份該頁,同時記錄當前檢查點的LSN。
首 先,在logfile中找到並記錄最後一個checkpoint(“last checkpoint LSN”),然後開始從LSN的位置開始拷貝InnoDB的logfile到xtrabackup_logfile;接著,開始拷貝全部的數據文 件.ibd;在拷貝全部數據文件結束之後,才停止拷貝logfile。
因為logfile裡面記錄全部的數據修改情況,所以,即時在備份過程中數據文件被修改過了,恢復時仍然能夠通過解析xtrabackup_logfile保持數據的一致。
因為innobackupex支持innodb,myisam,所以本文說一下,怎麼使用innobackupex。
二,安裝xtrabackup
1、下載地址
http://www.percona.com/downloads/XtraBackup/
2、安裝
根據需求,選擇不同的版本,我選擇的是rpm安裝包,如果報以下錯誤
復制代碼 代碼如下:
[root@localhost xtrabackup]# rpm -ivh percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID cd2efd2a: NOKEY
error: Failed dependencies:
perl(Time::HiRes) is needed by percona-xtrabackup-2.2.4-5004.el6.x86_64
解決辦法:
復制代碼 代碼如下:
[root@localhost xtrabackup]# yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL //安裝依賴包
[root@localhost xtrabackup]# rpm -ivh percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm //重新安裝
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID cd2efd2a: NOKEY
Preparing... ########################################### [100%]
1:percona-xtrabackup ########################################### [100%]
注意:
xtrabackup 2.2.4不支持mysql 5.1.73,所以如果要用新的xtrabackup,就要用高版本的mysql數據庫,不然就會報以下錯誤:
innobackupex: Error: Unsupported server version: '5.1.73'
二、修改my.cnf
查看一下mysqld下面有沒有datadir,如果沒有加上
復制代碼 代碼如下:
[mysqld]
datadir=/var/lib/mysql
不加的話,還原數據的時候,有可能會出現以下問題:
復制代碼 代碼如下:
xtrabackup: Error: Please set parameter 'datadir'
innobackupex: fatal error: no 'mysqld' group in MySQL options
innobackupex: fatal error: OR no 'datadir' option in group 'mysqld' in MySQL options
三、全部數據庫備份與還原
1、全部數據庫備份
復制代碼 代碼如下:
# innobackupex --defaults-file=/etc/my.cnf --user=root /home/tank/backup/
如果報以下錯誤:
復制代碼 代碼如下:
InnoDB: Error: log file ./ib_logfile0 is of different size 5242880 bytes
InnoDB: than specified in the .cnf file 50331648 bytes!
innobackupex: Error: The xtrabackup child process has died at /usr/bin/innobackupex line 2679.
解決辦法:在my.cnf的mysqld中加入以下內容:
復制代碼 代碼如下:
[mysqld]
innodb_log_file_size = 5M
2、單數據庫備份
復制代碼 代碼如下:
# innobackupex --defaults-file=/etc/my.cnf --user=root --database=backup_test /home/tank/backup/
3、數據庫備份並壓縮
復制代碼 代碼如下:
# innobackupex --defaults-file=/etc/my.cnf --user=root --stream=tar /home/tank/backup | gzip > /home/tank/backup/`date +%F_%H-%M-%S`.tar.gz
4、全數據還原
復制代碼 代碼如下:
# /etc/init.d/mysqld stop //停掉mysql
# mv /var/lib/mysql /var/lib/mysql_bak //數據目錄備份
# mkdir -p /var/lib/mysql //重建數據目錄
//--apply-log選項的命令是准備在一個備份上啟動mysql服務
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log /home/tank/backup/2014-09-18_16-35-12
//--copy-back 選項的命令從備份目錄拷貝數據,索引,日志到my.cnf文件裡規定的初始位置
# innobackupex --defaults-file=/etc/my.cnf --user=root --copy-back /home/tank/backup/2014-09-18_16-35-12
# chown -R mysql.mysql /var/lib/mysql //改變文件所屬
# /etc/init.d/mysqld stop //啟動mysql
四、增量備份與還原
1、創建測試數據庫和表
復制代碼 代碼如下:
create database backup_test; //創建庫
CREATE TABLE `backup` ( //創建表
`id` int(11) NOT NULL AUTO_INCREMENT ,
`name` varchar(20) NOT NULL DEFAULT '' ,
`create_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ,
`del` tinyint(1) NOT NULL DEFAULT '0',
PRIMARY KEY (`id`)
) ENGINE=myisam DEFAULT CHARSET=utf8 AUTO_INCREMENT=1 ;
2、增量備份
復制代碼 代碼如下:
mysql> INSERT INTO backup (name) VALUES ('tank'),('tank1'); //插入數據
# innobackupex --defaults-file=/etc/my.cnf --user=root --incremental-basedir=/home/tank/backup/2014-09-18_16-35-12 --incremental /home/tank/backup/
3、在增量的基礎上在進行增量備份
復制代碼 代碼如下:
mysql> INSERT INTO backup (name) VALUES ('tank2'),('tank3'),('tank4'),('tank5'),('tank6'); //在插入數據
//2014-09-18_18-05-20這個目錄,上次增量備份產生的目錄
# innobackupex --defaults-file=/etc/my.cnf --user=root --incremental-basedir=/home/tank/backup/2014-09-18_18-05-20 --incremental /home/tank/backup/
查看增量備份記錄文件:
復制代碼 代碼如下:
[root@localhost 2014-09-18_16-35-12]# cat xtrabackup_checkpoints //全備目錄下的文件
backup_type = full-prepared
from_lsn = 0 //全備起始為0
to_lsn = 23853959
last_lsn = 23853959
compact = 0
[root@localhost 2014-09-18_18-05-20]# cat xtrabackup_checkpoints //第一次增量備份目錄下的文件
backup_type = incremental
from_lsn = 23853959
to_lsn = 23854112
last_lsn = 23854112
compact = 0
[root@localhost 2014-09-18_18-11-43]# cat xtrabackup_checkpoints //第二次增量備份目錄下的文件
backup_type = incremental
from_lsn = 23854112
to_lsn = 23854712
last_lsn = 23854712
compact = 0
增量備份做完後,把backup_test這個數據庫刪除掉,drop database backup_test;這樣可以對比還原後。
4、增量還原
復制代碼 代碼如下:
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12 --incremental-dir=/home/tank/backup/2014-09-18_18-05-20
# innobackupex --defaults-file=/etc/my.cnf --user=root --apply-log --redo-only /home/tank/backup/2014-09-18_16-35-12 --incremental-dir=/home/tank/backup/2014-09-18_18-11-43
在這裡有三個目錄:
1)、/home/tank/backup/2014-09-18_16-35-12,全備份目錄
2)、/home/tank/backup/2014-09-18_18-05-20,第一次增量備份產生的目錄
3)、/home/tank/backup/2014-09-18_18-11-43,第二次增量備份產生的目錄
到這裡增量還原,還沒有結束,還有最重要一步,就是要進行一次全量還原。停止數據庫,刪除/var/lib/mysql,在還原。
增量備份的原理就是,把增量目錄下的數據,整合到全變量目錄下,然後在進行,全數據量的還原。
總體來說,innobackupex速度快,支持innodb,myisam,用起來是還不是很方便,單庫還原,還是增量備份還原,都要進行全部數據庫還原,這個不合理。
五、innobackup 常用參數說明
--defaults-file
同xtrabackup的--defaults-file參數
--apply-log
對xtrabackup的--prepare參數的封裝
--copy-back
做數據恢復時將備份數據文件拷貝到MySQL服務器的datadir ;
--remote-host=HOSTNAME
通過ssh將備份數據存儲到進程服務器上;
--stream=[tar]
備 份文件輸出格式, tar時使用tar4ibd , 該文件可在XtarBackup binary文件中獲得.如果備份時有指定--stream=tar, 則tar4ibd文件所處目錄一定要在$PATH中(因為使用的是tar4ibd去壓縮, 在XtraBackup的binary包中可獲得該文件)。
在 使用參數stream=tar備份的時候,你的xtrabackup_logfile可能會臨時放在/tmp目錄下,如果你備份的時候並發寫入較大的話 xtrabackup_logfile可能會很大(5G+),很可能會撐滿你的/tmp目錄,可以通過參數--tmpdir指定目錄來解決這個問題。
--tmpdir=DIRECTORY
當有指定--remote-host or --stream時, 事務日志臨時存儲的目錄, 默認采用MySQL配置文件中所指定的臨時目錄tmpdir
--redo-only --apply-log組,
強制備份日志時只redo ,跳過rollback。這在做增量備份時非常必要。
--use-memory=#
該參數在prepare的時候使用,控制prepare時innodb實例使用的內存量
--throttle=IOS
同xtrabackup的--throttle參數
--sleep=是給ibbackup使用的,指定每備份1M數據,過程停止拷貝多少毫秒,也是為了在備份時盡量減小對正常業務的影響,具體可以查看ibbackup的手冊 ;
--compress[=LEVEL]
對備份數據迚行壓縮,僅支持ibbackup,xtrabackup還沒有實現;
--include=REGEXP
對 xtrabackup參數--tables的封裝,也支持ibbackup。備份包含的庫表,例如:--include="test.*",意思是要備份 test庫中所有的表。如果需要全備份,則省略這個參數;如果需要備份test庫下的2個表:test1和test2,則寫 成:--include="test.test1|test.test2"。也可以使用通配符,如:--include="test.test*"。
--databases=LIST
列出需要備份的databases,如果沒有指定該參數,所有包含MyISAM和InnoDB表的database都會被備份;
--uncompress
解壓備份的數據文件,支持ibbackup,xtrabackup還沒有實現該功能;
--slave-info,
備 份從庫, 加上--slave-info備份目錄下會多生成一個xtrabackup_slave_info 文件, 這裡會保存主日志文件以及偏移, 文件內容類似於:CHANGE MASTER TO MASTER_LOG_FILE='', MASTER_LOG_POS=0
--socket=SOCKET
指定mysql.sock所在位置,以便備份進程登錄mysql.
備份的全部的數據,當然包括insert了
mysqldump備份還原和mysqldump導入導出語句大全詳解
mysqldump備份:
mysqldump -u用戶名 -p密碼 -h主機數據庫 a -w "sql條件" --lock-all-tables >路徑
案例:
mysqldump -uroot -p1234 -hlocalhost db1 a -w "id in (select id from b)" --lock-all-tables > c:\aa.txt
mysqldump還原:
mysqldump -u用戶名 -p密碼 -h主機數據庫<路徑
案例:
mysql -uroot -p1234 db1 < c:\aa.txt
mysqldump按條件導出:
mysqldump -u用戶名 -p密碼 -h主機數據庫 a --where "條件語句" --no-建表>路徑
mysqldump -uroot -p1234 dbname a --where "tag='88'" --no-create-info> c:\a.sql
mysqldump按導入:
mysqldump -u用戶名 -p密碼 -h主機數據庫<路徑
案例:
mysql -uroot -p1234 db1 < c:\a.txt
mysqldump導出表:
mysqldump -u用戶名 -p密碼 -h主機數據庫表
案例:
mysqldump -uroot -p sqlhk9 a --no-data
講一下 mysqldump 的一些主要參數
--compatible=name
它告訴 mysqldump,導出的數據將和哪種數據庫或哪個舊版本的 MySQL 服務器相兼容。值可以為 ansi、mysql323、mysql40、postgresql、oracle、mssql、db2、maxdb、no_key_options、no_tables_options、no_field_options 等,要使用幾個值,用逗號將它們隔開。當然了,它並不保證能完全兼容,而是盡量兼容。
--complete-insert,-c
導出的數據采用包含字段名的完整 INSERT 方式,也就是把所有的值都寫在一行。這麼做能提高插入效率,但是可能會受到 max_allowed_packet 參數的影響而導致插入失敗。因此,需要謹慎使用該參數,至少我不推薦。
--default-character-set=charset
指定導出數據時采用何種字符集,如果數據表不是采用默認的 latin1 字符集的話,那麼導出時必須指定該選項,否則再次導入數據後將產生亂碼問題。
--disable-keys
告訴 mysqldump 在 INSERT 語句的開頭和結尾增加 /*!40000 ALTER TABLE table DISABLE KEYS */; 和 /*!40000 ALTER TABLE table ENABLE KEYS */; 語句,這能大大提高插入語句的速度,因為它是在插入完所有數據後才重建索引的。該選項只適合 MyISAM 表。
--extended-insert = true|false
默認情況下,mysqldump 開啟 --complete-insert 模式,因此不想用它的的話,就使用本選項,設定它......余下全文>>