memory+cache 內存緩存
memcache是一套分布式的高速緩存系統,由LiveJournal的Brad Fitzpatrick開發,目前被許多網站使用以提升網站的訪問速度,尤其對於一些大型的、需要頻繁訪問數據庫的網站訪問速度提升效果十分顯著 。這是一套開放源代碼軟件,以BSD license授權發布。【摘取自百度百科】
官網:http://memcached.org/
分布式:多台Memcache服務器來管理數據的架構。
緩存系統:將用戶查詢的數據緩存到內存之中,方便下次直接從內存中獲取。減少了磁盤IO的開銷。
什麼是nosql?(sql 關系型數據庫)
答:MySQL 叫做關系型數據庫(主要的特點是都是一個二維表結構(表中的行和列),表與表之間是由關系的)(oracle(Java)、db2、sqlserver)
非關系型數據:就是不使用sql語句作為查詢的數據庫(保存數據的系統),並且沒有嚴格意義上的二維表的概念。它的數據結構全部是一張巨大的hash表(key-value)
hash表好處: 時間復雜度是 0(1):隨著數據的增加,查詢時間不會存在數量級(1s)的變化。
hash表壞處: hash碰撞 不同 key 對應同一個值
key1 ===MD5(sql)
Asion
key2
12
key3
shenzhen
key4
iphone
讓selinux立即生效
2.1 環境准備
在Linux環境下,需要gcc、g-c++、make(makefile)、cmake、autoconfig(configure)、libtool等工具
在Linux下聯網的情況下,使用如下命令
# yum install -y gcc make cmake autoconfig libtool
-y 不需要使用確認交互式
2.2 編譯安裝memcached
memcached依賴於 libevent庫,因此需要先安裝,分別到各自的官網下載穩定版
libevetnt官網:http://libevent.org/
memcache官網:http://memcached.org/
先編譯安裝libevent,在編譯安裝memcached,同時在安裝memcached需要指定libevent的安裝路徑
具體步驟:
上傳
# ./configure --prefix=/usr/local/libevent && make && make install
b. 安裝memcache,解壓、編譯、安裝
# ./configure --prefix=/usr/local/memcached --with-libevent=/usr/local/libevent && make && make install
2.3 memcached的啟動
# /usr/local/memcached/bin/memcached -m 64 -p 11211 -u nobody -vv
注意:此時memcached成功啟動,但把信息輸出到控制台。
如果想讓memcached作為服務在後台啟動,只需要加上-d選項(daemon 後台)
# /usr/local/memcached/bin/memcached -m 64 -p 11211 -u nobody -d
如何查看服務器是否正常啟動?
# ps axu | grep memcached
如果需要查看參數信息,使用 memcached -h 查看幫助:
memcached的客戶端與服務器端的通信很簡單,基於文本的協議,類似http協議,可以直接使用Telnet來做交互
使用Telnet操作(quit退出)
# telent 服務器的IP 11211
連接之後 使用 ctrl + ] 打開Telnet的回顯
2. 基本命令:
學習memcache的增刪改查命令:
add key flag expire length
key: 名稱
flag: 1 memcache按照字符串的方式保存
expire:過期時間,memcache時間
length:數據長度(B)
※add 增加
# add name 1 0 2 # 在memcache服務器上添加一個key為的name值 長度為2個字節,有效期長期有效
如何理解expire
設置緩存的有效期,有三種格式
最近最少使用原則
※delete 刪除
# delete key
※replace 替換
# replace key flag expire length
※get 獲取
# get key
※set 如果數據有 replace ,沒有則 add
# set key flag expire length
name存在:
age不存在:
※incr 增加
# incr age NUMBER
※decr 減少
# decr age NUMBER
※stats 統計memcache服務器信息
# stats
※flush_all 清空所有數據
# flush_all
beta :測試版:一般都有一些小bug,但是需要用戶去使用發現,如果有問題,可以給官方反饋。然後在做修復
alpha:內部測試版:內部在開發的時候,使用的版本,一般這個版本bug眾多。但是這個版本往往有新的功能加入。(一般也是新公司才試試)alpha版本有一些補償。
stable:穩定版:基本無bug,能夠穩定的運行。
ftp使用的注意事項:
# cls
# cd
# vim .bashrc
Linux下載末行模式下
# :x 小寫 退出 wq
linux在編輯模式下
# Z 大寫
# /usr/local/php/bin/phpize 絕對路徑phpize
d. 利用上面生成的configure文件,收集系統信息 不需要指定安裝路徑
# ./configure --with-php-config=/usr/local/php/bin/php-config 告訴它如何去找php配置文件
e. 執行編譯、安裝
# make && make install
注意:可以查看上述命令執行完成之後的結構
# ls /usr/local/php/lib/php/extensions/no-debug-non-zts-20090626/
注意:在Linux下,如何查看php.ini配置文件的位置?
解決:phpinfo();
注意:在Linux下,修改配置文件之前,一定要備份
php.ini-backup-2016-1-12
注意:.so是什麼文件?
.so是Linux下的共享對象,類型Windows下的.dll文件
注意:Linux下,關閉一個服務 可以使用
# pkill -9 httpd
# ps aux | grep httpd
#ps uax | grep httpd
將上面生成的地址增加到php.ini配置文件,如下
extension_dir=/usr/local/php/lib/php/extensions/no-debug-non-zts-20090626/
extension=memcacahe.so
建立一個test.php文件,測試php是否有memcache的一個模塊
php操作memcache,保存並獲取值
注意:Memcache最大的value也只能是1M的空間。
注意:內存碎片化永遠都存在,只是哪一種方式可以使得內存碎片最小。
1. 什麼是內存碎片化?
在使用這種內存緩存系統的時候,由於不斷的申請,釋放,就會形成一些很小的內存片段,無法被利用,這種現象就叫做,內存的碎片化。這個小紅塊就是操作系統無法使用的空間。
memcache利用slab allocator的方式來管理(每個slab class大小為1M)
最小的單元叫做 chunk(小塊):存放數據的倉庫
多個小單元組成一個chunks:多個小塊組成(所有的小塊的大小全部一致)
每個 slab class的大小為1M
注意:如果 122Bytes的slab裝滿了,現在有一個100Bytes的數據來了,存到哪裡去?
答:肯定不會存在144,還是存在122這個chunk裡面,利用LRU算法來實現數據存儲。
memcached在啟動的時候,會按照一定的大小來組織slab class,可以通過-f 來指定
默認是1.25,相鄰chunk之間的比值就是增加因子。可以根據自己網站的業務調整緩存因子的大小。
是因為每個業務不一樣,所需要的最小的chunk是不一樣的。這個參數使得我們的系統變得更加適應自己的業務,因為數據可以自己設定大小。
memcached內部不會監視記錄是否過期,而是在get時查看記錄的時間戳,檢查記錄是否過期。這種行為被稱為lazy(惰性)expiration。因此,好處是memcached不會在過期監視上耗費CPU時間。
比如:有 set(name, asion, 0, 3600) 過了3600秒就失效,失效後,並不會自動刪除,只有當get查詢時,檢測是否過期,如果過期則刪除。
例如 # add name 1 8 2 當8s後,是失效,還是不存在?通過stats分析
分析:是失效你,而不是不存在,只有在下一次去獲取時候,memcache才會去檢測它是否過期,過期了就刪除
memcached會優先使用已超時的記錄的空間,但即使如此,也會發生追加新記錄時空間不足的情況,此時就要使用名為 Least Recently Used(LRU)機制來分配空間。
顧名思義,這是刪除"最近最少使用"的記錄的機制。因此,當memcached的內存空間不足時(無法從slab class 獲取到新的空間時),就從最近未被使用的記錄中搜索,並將其空
間分配給新的記錄。從緩存的實用角度來看,該模型十分理想。
當mecache裡面的數據空間(默認是64M)已經占滿了,再繼續存儲數據能否存儲呢?
答:能存儲,要刪除過期的數據,如果都沒有過期,則刪除最不活躍的數據,騰出空間給後面添加數據。
例如:以122Bytes的slab舉例,當數據裝滿後,如果來了一個100Bytes數據,如何處理?(即使永久有效,也會被踢)
分析:內存的管理 LRU算法 、FIFO算法
注意:在vim下如果輸入了 ctrl+s 可以使用 ctrl+q 退出
-p 監聽的端口
-l 連接的IP地址, 默認是本機
-d start 啟動memcached服務
-d restart 重起memcached服務
-d stop|shutdown 關閉正在運行的memcached服務
-d install 安裝memcached服務
-d uninstall 卸載memcached服務
-u 以的身份運行 (僅在以root運行的時候有效)
-m 最大內存使用,單位MB。默認64MB
注意:如果系統是32位的,則最大限制為2G,如果系統是64位,則無限制。
-M 內存耗盡時返回錯誤,而不是刪除項
-c 最大同時連接數,默認是1024
-f 塊大小增長因子,默認是1.25
-n 最小分配空間,key+value+flags默認是48
-h 顯示幫助
-v 輸出警告和錯誤信息
-vv 打印客戶端的請求和返回信息
-i 打印memcached和libevent的版權信息
保存:1. 文件 2. mysql
問題:如果一個文件夾下session文件過多,檢索變慢,如何處理?
答:分層處理
使用Memcache來保存,Memcache使用分布式來保存(拿多台Memcache做存儲)
使用memcache保存session
1. 修改php.ini文件,配置信息如下
session.save_handler = memcache #代表使用memcache保存session
session.save_path ="tcp://127.0.0.1:11211" # 指定memcache服務器的地址和端口
1. 開啟session,保存session
什麼是分布式?
由於單台memcache的服務能力有限,可以使用多台memcache來提供緩存的功能,這種架構就叫做memcache的分布式緩(集群)存系統
如何實現?
可以這樣理解,如何將數據分散答各台Memcache服務器上。
在客戶端實現分布式,在數據保存之前,根據一定的算法,將數據保存到那台memcache服務器上,在獲取數據的時候,按照前面相同的算法去對應的memcache服務器上獲取數據
分布式算法
將key的值對服務器的台數取余,然後將對應的value值保存到對應的余數的那台memcache服務器上,一般這個hash函數 crc32( key ) % 3
crc32()這個函數可以使得一個字符串變成一個32位的整數
壞處:當某一台服務器宕機或者需要增加一台服務器的時候,這個時候緩存數據基本全部失效,因為除數變了。 不嚴格的公式, 命中率 = 取到數據/總數 1/N N代表服務器的台數
引發出來的問題:當memcache宕機之後,緩存數據失效,這個時候MySQL的壓力會驟增,
這個時候,MySQL會宕機,然後在重啟MySQL,MySQL會在短時期內再次宕機,然後,稍微延遲一點(緩存已經重新建立了一部分),又宕機。隨著時間的慢慢推移,MySQL基本上趨於穩定,緩存系統成功建立。因為緩存數據不存在,所有的請求全部要轉向MySQL來提供,這種現象就叫做memcache的雪崩現象。
概圖:
注意:只要是memcache宕機,就一定會有數據的丟失。但是要想辦法讓數據丟失的最少,使用一致性hash,即使有一台服務器宕機,也只是影響一台服務器上的數據。
虛擬節點:分擔任務
雪崩造成的原因?
解決方案:一致性hash算法
解決方案:緩存時間設置成一個范圍內的隨機時間(3-9小時)
由於某個memcache節點的緩存數據失效,導致其他memcache節點的緩存命中率下降,緩存中缺失的數據會去MySQL數據庫中查詢,短時期內,造成了MySQL服務器壓力巨大,造成宕機,就叫做緩存雪崩現象。
當重啟MySQL之後,短期內再次宕機,但緩存數據已經建立了一部分,在MySQL反復多次啟動之後,緩存全部重建完畢,MySQL不再宕機趨於穩定。
解決方案:把緩存的時間設置成一個范圍內的隨機值(3-9小時),這樣就在不同的時間段失效,把重建的工作分擔到不同的時間上。
答:
答:
由於memcache的本身設計就是極為簡潔的,根本沒有設置權限方面的限制。為什麼不設置權限? 只提供緩存功能,為了精簡
192.168.1.221 ---224
3. 當使用文件保存session文件時候,如果文件過多,如何處理?
一般來說,超過65535個session文件的時候,這個時候session的獲取就會變得異常緩慢,意味php代碼執行很慢,如何解決?
答:
分層處理: 一個文件夾下建立A-Z開頭的文件夾 然後A_Z在建立
使用memcache處理: 單台memcache處理能力有限,就使用分布式memcache來處理
答:負載均衡集群提供了高可用的能力,如果某一台宕機之後,還是可以提供正常的服務,只是服務提供的有些吃力而已。
因為負載均衡集群不提供keepalive的機制。監控機制
在項目中如何使用Memcache?
Memcache存在的意義就是緩存數據,減輕MySQL的壓力。
答:
extension_dir='上面生成的目錄'
extension='NAME.so'