程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 數據庫知識 >> MYSQL數據庫 >> MySQL綜合教程 >> 如何優化MySQL insert性能,優化mysqlinsert

如何優化MySQL insert性能,優化mysqlinsert

編輯:MySQL綜合教程

如何優化MySQL insert性能,優化mysqlinsert


對於一些數據量較大的系統,面臨的問題除了是查詢效率低下,還有一個很重要的問題就是插入時間長。我們就有一個業務系統,每天的數據導入需要4-5個鐘。這種費時的操作其實是很有風險的,假設程序出了問題,想重跑操作那是一件痛苦的事情。因此,提高大數據量系統的MySQL insert效率是很有必要的。

如何優化MySQL insert性能

經過對MySQL的測試,發現一些可以提高insert效率的方法,供大家參考參考。

1. 一條SQL語句插入多條數據。

常用的插入語句如:

  1. INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0);
  2. INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('1', 'userid_1', 'content_1', 1);

修改成:

  1. INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0), ('1', 'userid_1', 'content_1', 1);

修改後的插入操作能夠提高程序的插入效率。這裡第二種SQL執行效率高的主要原因有兩個,一是減少SQL語句解析的操作, 只需要解析一次就能進行數據的插入操作,二是SQL語句較短,可以減少網絡傳輸的IO。

這裡提供一些測試對比數據,分別是進行單條數據的導入與轉化成一條SQL語句進行導入,分別測試1百、1千、1萬條數據記錄。

如何優化MySQL insert性能

2. 在事務中進行插入處理。 把插入修改成:

  1. START TRANSACTION;
  2. INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('0', 'userid_0', 'content_0', 0);
  3. INSERT INTO `insert_table` (`datetime`, `uid`, `content`, `type`) VALUES ('1', 'userid_1', 'content_1', 1);
  4. ...
  5. COMMIT;

使用事務可以提高數據的插入效率,這是因為進行一個INSERT操作時,MySQL內部會建立一個事務,在事務內進行真正插入處理。通過使用事務可以減少創建事務的消耗,所有插入都在執行後才進行提交操作。

這裡也提供了測試對比,分別是不使用事務與使用事務在記錄數為1百、1千、1萬的情況。

如何優化MySQL insert性能

性能測試: 這裡提供了同時使用上面兩種方法進行INSERT效率優化的測試。即多條數據合並為同一個SQL,並且在事務中進行插入。

如何優化MySQL insert性能

從測試結果可以看到,insert的效率大概有50倍的提高,這個一個很客觀的數字。

注意事項:

1. SQL語句是有長度限制,在進行數據合並在同一SQL中務必不能超過SQL長度限制,通過max_allowed_packet配置可以修改,默認是1M。

2. 事務需要控制大小,事務太大可能會影響執行的效率。MySQL有innodb_log_buffer_size配置項,超過這個值會日志會使用磁盤數據,這時,效率會有所下降。所以比較好的做法是,在事務大小達到配置項數據級前進行事務提交。

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved