GridFS簡介
mongoDB的文檔以BSON格式存儲,支持二進制的數據類型,當我們把二進制格式的數據直接保存到mongoDB的文檔中。但是當文件太大時,例如圖片和視頻等文件,每個文檔的長度是有限的,於是mongoDb會提供了一種處理大文件的規范--GridFS。
GridFS實現原理
在GridFS數據庫中,默認使用fs.chunks 和fs.files來存儲文件,其中fs.files集合存放文件的信息,fs.chunks存放文件的數據,一個fs.files集合中的一條記錄內容如下,即一個file信息如下所示:
復制代碼 代碼如下:
{
"_id" : ObjectId("4f4608844f9b855c6c35e298"), //唯一id,可以是用戶自定義的類型
"filename" : "CPU.txt", //文件名
"length" : 778, //文件長度
"chunkSize" : 262144, //chunk的大小
"uploadDate" : ISODate("2012-02-23T09:36:04.593Z"), //上傳時間
"md5" : "e2c789b036cfb3b848ae39a24e795ca6", //文件的md5值
"contentType" : "text/plain" //文件的MIME類型
"meta" : null //文件的其它信息,默認是沒有”meta”這個key,用戶可以自己定義為任意BSON對象
}
對應fs.chunks中的chunk(中文意思數據塊),如下所示:
復制代碼 代碼如下:
{
"_id" : ObjectId("4f4608844f9b855c6c35e299"), //chunk的id
"files_id" : ObjectId("4f4608844f9b855c6c35e298"), //文件的id,對應fs.files中的對象,相當於fs.files集合的外鍵
"n" : 0, //文件的第幾個chunk塊,如果文件大於chunksize的話,會被分割成多個chunk塊
"data" : BinData(0,"QGV...") //文件的二進制數據,這裡省略了具體內容
}
默認大小是256k,所以把文件存入到GridFS過程中,如果文件大於chunksize,則把文件分割多個chunk,再把這些chunk保存在fs.chunks中,最後再把文件信息存入fs.files中。
在讀取文件的時候,先根據查詢的條件,在fs.files中找到一個合適的記錄,得到“_id”的值,再根據這個值到fs.funks中查找所有files_id 為 _id 的chunk,並按照“n”排序,最後依次讀取chunk中的“data”對象的內容,還原成原來的文件。
注:
1、GridFS不自動處理md5相同的文件,對於md5相同的文件,如果想在GridFS中只有一個存儲,要用戶處理,md5值的計算由客戶端完成。
2、因為GridFS在上傳文件過程中是先把文件數據保存到fs.chunks,最後再把文件的信息保存到fs.files中,所以如果上傳文件過程中失敗,有可能在fs.chunks中出現垃圾數據,這些垃圾數據,可以定期清理掉。