山寨技術(shù)下的網(wǎng)站圖片服務(wù)器(NGINX)

網(wǎng)站數(shù)據(jù)存儲需要做好前期的規(guī)劃，不然數(shù)據(jù)量上來以后無論是管理還是性能上都帶來很多問題，對于需要存儲大量文件、圖片的網(wǎng)站來說是個重點的話題，通常網(wǎng)頁文字內(nèi)容和網(wǎng)頁圖片內(nèi)容 所占用的存儲空間相比較的話，顯然是圖片存儲占用的空間要遠遠超過網(wǎng)站文字

網(wǎng)站數(shù)據(jù)存儲需要做好前期的規(guī)劃，不然數(shù)據(jù)量上來以后無論是管理還是性能上都帶來很多問題，對于需要存儲大量文件、圖片的網(wǎng)站來說是個重點的話題，通常網(wǎng)頁文字內(nèi)容和網(wǎng)頁圖片內(nèi)容 所占用的存儲空間相比較的話，顯然是圖片存儲占用的空間要遠遠超過網(wǎng)站文字內(nèi)容所需要存儲的空間，從另外一個角度上來看訪問圖片所占用的網(wǎng)絡(luò)帶寬要遠遠超過文字內(nèi)容所占用的帶寬。
在系統(tǒng)運行上的瓶頸對于互聯(lián)網(wǎng)用戶來說往往不是落在系統(tǒng)內(nèi)部計算的I/O瓶頸上，而是落在網(wǎng)絡(luò)帶寬的瓶頸上。把存儲圖片的服務(wù)器和訪問圖片服務(wù)器的網(wǎng)絡(luò)入口獨立出來，在條件允許的情況下給予更的高網(wǎng)絡(luò)帶寬和獨立的域名，有利于擴展性和整體性能的發(fā)揮，將計算、存儲的擴展性和帶寬的資源做到合理分配，互不影響，是我們當(dāng)前的目標(biāo)。

除此之外，還需要能做到：
1.使用廉價機器(老機器)構(gòu)建分布式網(wǎng)絡(luò)存儲環(huán)境，支持150TB以上的存儲容量，
2.數(shù)據(jù)在線同步，支持文件副本復(fù)制，無明顯的單點問題，可快速恢復(fù)故障節(jié)點，
3.通用文件系統(tǒng)，不需要修改上層應(yīng)用就可以使用(支持fuse)，web服務(wù)器可以直接讀取分布式存儲空間，無中間轉(zhuǎn)取。
4.支持在線不停機的情況下擴展存儲的空間，
5.隨機讀寫的高效，并且支持海量小文件(5kb)的高效讀寫，
6.可監(jiān)控運行時的存儲使用狀態(tài)，最好是web界面。

得到了一些個解決方案，但依然不滿足，對存儲本身還有更高的期望：
1.需要避免圖片文件重復(fù)的寫入，建立圖片存儲的索引，根據(jù)唯一的圖片文件名的查詢后，再判斷是否寫入，
2.小圖片，簽名照，小頭像，表情圖片 放在緩存里讀取，讓數(shù)據(jù)更靠近cpu，設(shè)計的黃金原則，我們盡量把能放入Redis緩存中的數(shù)據(jù)就在Redis里讀取。

架構(gòu)介紹
1.負(fù)載均衡：HAproxy采用RoundRobin負(fù)載均衡算法，分載前端用戶請求的壓力到每個web圖片服務(wù)器上，
2.web服務(wù)：采用Nginx-0.9.6 做圖片的web服務(wù)器，對網(wǎng)站的大、中、小圖片進行讀取，加上Nginx的Redis模塊對緩存中的微型(頭像)圖片進行讀取，
3. 緩存服務(wù)器：存儲網(wǎng)站的 微型圖片，簽名照，小頭像，表情圖片，通過Nginx的Redis模塊直接讀取，通過調(diào)用Redis的java API程序?qū)?shù)據(jù)進行寫入，
4.存儲單元：采用Moosefs 存儲 大、中、小圖片，并且提供監(jiān)控管理界面，查看存儲空間運行狀態(tài)，
5.圖片索引：將圖片名和圖片url路徑作為鍵值對(Key/Value)，放入HBase 中存儲，并且進行數(shù)據(jù)查詢，避免圖片重復(fù)存儲，便于將來管理，
6.應(yīng)用服務(wù)器：對圖片寫入的操作全部由Java應(yīng)用服務(wù)器完成。

我們目前圖片存儲的系統(tǒng)架構(gòu)，如圖所示：

查看大圖請點擊這里

關(guān)于HBase的話題在這里就不多說了，可以參考我之前寫的幾篇文件文章，主要想說說Moosefs的體系：
1 Master 管理服務(wù)器:負(fù)責(zé)各個數(shù)據(jù)存儲服務(wù)器的管理,文件讀寫調(diào)度,文件空間回收以及恢復(fù).多節(jié)點拷貝
2 Chunk 元數(shù)據(jù)日志服務(wù)器: 負(fù)責(zé)備份master服務(wù)器的變化日志文件，文件類型為changelog_ml.*.mfs，以便于在master server出問題的時候接替其進行工作
3 Metalogger 數(shù)據(jù)存儲服務(wù)器:負(fù)責(zé)連接管理服務(wù)器,聽從管理服務(wù)器調(diào)度,提供存儲空間，并為客戶提供數(shù)據(jù)傳輸.
4 Client 客戶端: 通過fuse內(nèi)核接口掛接遠程管理服務(wù)器上所管理的數(shù)據(jù)存儲服務(wù)器,看起來共享的文件系統(tǒng)和本地unix文件系統(tǒng)使用一樣的效果.

最有代表性的成功案例
豆瓣網(wǎng)(Douban Inc),155 TB的存儲空間，
Master server: Gentoo Linux / ReiserFS 3.6
24 chunk servers: Gentoo Linux / ReiserFS / XFS
3 metalogger(s): Gentoo Linux / ReiserFS 3.6
37 client machines: Gentoo Linux

其實，采用某種技術(shù)只是一種具體實現(xiàn)的手段，或許從外界的統(tǒng)計數(shù)據(jù)來看 mogileFS、ceph、FastDFS 等其他產(chǎn)品具有更高的讀寫性能，甚至可以到滿足我上述的任何一項要求，但我們所關(guān)注的側(cè)重點不一樣，要需要簡單，易上手，夠用就行，所以在這里利用Moosefs做了一個拋磚引玉。

–end–

原文地址：山寨技術(shù)下的網(wǎng)站圖片服務(wù)器(NGINX), 感謝原作者分享。

聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。TEL:177 7030 7066 E-MAIL:11247931@qq.com