深度解析MySQL 5.7之中文全文檢索。本站提示廣大學習愛好者:(深度解析MySQL 5.7之中文全文檢索)文章只能為提供參考,不一定能成為您想要的結果。以下是深度解析MySQL 5.7之中文全文檢索正文
前言
其實全文檢索在MySQL外面很早就支持了,只不過不斷以來只支持英文。緣由是他歷來都運用空格來作為分詞的分隔符,而關於中文來講,顯然用空格就不適宜,需求針對中文語義停止分詞。這不,從MySQL 5.7開端,MySQL內置了ngram全文檢索插件,用來支持中文分詞,並且對MyISAM和InnoDB引擎無效。
在運用中文檢索分詞插件ngram之前,先得在MySQL配置文件外面設置他的分詞大小,比方,
[mysqld] ngram_token_size=2
這裡把分詞大小設置為2。要記住,分詞的SIZE越大,索引的體積就越大,所以要依據本身狀況來設置適宜的大小。
示例表構造:
CREATE TABLE articles ( id INTUNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY, titleVARCHAR(200), body TEXT, FULLTEXT (title,body) WITH PARSER ngram ) ENGINE=InnoDBCHARACTER SET utf8mb4;
示例數據,有6行記載。
mysql> select * from articles\G ***************************1. row *************************** id: 1 title: 數據庫管理 body: 在本教程中我將向你展現如何管理數據庫 ***************************2. row *************************** id: 2 title: 數據庫使用開發 body: 學習開發數據庫使用順序 ***************************3. row *************************** id: 3 title: MySQL完全手冊 body: 學習MySQL的一切 ***************************4. row *************************** id: 4 title: 數據庫與事務處置 body: 零碎的學習數據庫的事務概論 ***************************5. row *************************** id: 5 title: NoSQL精華 body: 學習理解各種非構造化數據庫 ***************************6. row *************************** id: 6 title: SQL 言語詳解 body: 詳細理解假如運用各種SQL 6 rows inset (0.00 sec)
顯式指定全文檢索表源
mysql> SETGLOBAL innodb_ft_aux_table="new_feature/articles"; Query OK, 0 rows affected (0.00 sec)
經過零碎表,就可以檢查究竟是怎樣劃分articles裡的數據。
mysql> SELECT *FROM information_schema.INNODB_FT_INDEX_CACHE LIMIT 20,10; +------+--------------+-------------+-----------+--------+----------+ | WORD | FIRST_DOC_ID | LAST_DOC_ID | DOC_COUNT | DOC_ID| POSITION | +------+--------------+-------------+-----------+--------+----------+ | 中我 | 2 | 2 | 1 | 2 | 28 | | 習m | 4 | 4 | 1 | 4 | 21 | | 習了 | 6 | 6 | 1 | 6 | 16 | | 習開 | 3 | 3 | 1 | 3 | 25 | | 習數 | 5 | 5 | 1 | 5 | 37 | | 理解 | 6 | 7 | 2 | 6 | 19 | | 理解 | 6 | 7 | 2 | 7 | 23 | | 事務 | 5 | 5 | 1 | 5 | 12 | | 事務 | 5 | 5 | 1 | 5 | 40 | | 何管 | 2 | 2 | 1 | 2 | 52 | +------+--------------+-------------+-----------+--------+----------+ 10 rows in set (0.00 sec)
這裡可以看到,把分詞長度設置為2,一切的數據都只要兩個一組。下面數據還包括了行的地位,ID等等信息。
接上去,我來停止一系列檢索示范,運用辦法和原來英文檢索分歧。
一、自然言語形式下檢索:
1、失掉契合條件的個數,
mysql>SELECT COUNT(*) FROM articles -> WHERE MATCH (title,body) AGAINST ('數據庫' IN NATURALLANGUAGE MODE); +----------+ | COUNT(*) | +----------+ | 4 | +----------+ 1 row in set (0.05 sec)
2、失掉婚配的比率,
mysql>SELECT id, MATCH (title,body) AGAINST ('數據庫' IN NATURAL LANGUAGE MODE) AS score FROM articles; +----+----------------------+ | id| score | +----+----------------------+ | 1 | 0.12403252720832825 | | 2 | 0.12403252720832825 | | 3 | 0 | | 4 | 0.12403252720832825 | | 5 | 0.062016263604164124| | 6 | 0 | +----+----------------------+ 6rows in set (0.00 sec)
二、布爾形式下搜索,這個就絕對於自然形式搜索來的復雜些:
1、婚配既有管理又無數據庫的記載,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('+數據庫 +管理' IN BOOLEAN MODE); +----+------------+--------------------------------------+ | id| title | body | +----+------------+--------------------------------------+ | 1 | 數據庫管理 | 在本教程中我將向你展現如何管理數據庫 | +----+------------+--------------------------------------+ 1 rowin set (0.00 sec)
2、婚配無數據庫,但是沒有管理的記載,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('+數據庫 -管理' IN BOOLEAN MODE); +----+------------------+----------------------------+ | id| title | body | +----+------------------+----------------------------+ | 2 | 數據庫使用開發 | 學習開發數據庫使用順序 | | 4 | 數據庫與事務處置 | 零碎的學習數據庫的事務概論 | | 5 | NoSQL 精華 | 學習理解各種非構造化數據庫 | +----+------------------+----------------------------+ 3 rows in set (0.00 sec)
3、婚配MySQL,但是把數據庫的相關性降低,
mysql> SELECT * FROM articles WHERE MATCH (title,body) -> AGAINST ('>數據庫 +MySQL' INBOOLEAN MODE); +----+---------------+-----------------+ | id| title | body | +----+---------------+-----------------+ | 3 | MySQL完全手冊 |學習MySQL的一切 | +----+---------------+-----------------+ 1 rowin set (0.00 sec)
三、查詢擴展形式,比方要搜索數據庫,那麼MySQL,oracle,DB2也都將會被搜索到,
mysql> SELECT * FROM articles -> WHERE MATCH (title,body) -> AGAINST ('數據庫' WITH QUERY EXPANSION); +----+------------------+--------------------------------------+ | id| title | body | +----+------------------+--------------------------------------+ | 1 | 數據庫管理 | 在本教程中我將向你展現如何管理數據庫 | | 4 | 數據庫與事務處置 | 零碎的學習數據庫的事務概論 | | 2 | 數據庫使用開發 | 學習開發數據庫使用順序 | | 5 | NoSQL 精華 | 學習理解各種非構造化數據庫 | | 6 | SQL 言語詳解 | 詳細理解假如運用各種SQL | | 3 | MySQL完全手冊 | 學習MySQL的一切 | +----+------------------+--------------------------------------+ 6 rows in set (0.01 sec)
當然,我這裡只是功用演示,更多的功能測試,大家有興味可以停止詳細測試。由於N-grm是中文檢索常用的分詞算法,曾經在互聯網少量運用,這次集成到MySQL中,想必效果上不會有太大的問題。
總結
以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或許任務能帶來一定的協助,假如有疑問大家可以留言交流。