• 分布式文件系統FastDFS詳解與實踐


        分布式文件系統 (Distributed File System) 是一個軟件/服務器,這個軟件可以用來管理文件;

    但這個軟件所管理的文件通常不是在一個服務器節點上,而是在多個服務器節點上,這些服務器節點通過網絡相連構成一個龐大的文件存儲服務器集群,這些服務器都用于存儲文件資源,通過分布式文件系統來管理這些服務器上的文件;

    常見的分布式文件系統有:FastDFS、GFS、HDFS、Lustre 、Ceph 、GridFS 、mogileFS、TFS等;

    GFS(Google File System)

    Google公司為了滿足本公司需求而開發的基于Linux的專有分布式文件系統;

    HDFS

    Hadoop 實現的一個分布式文件系統(Hadoop Distributed File System),簡稱HDFS;

    Lustre

    是一個大規模的、安全可靠的,具備高可用性的集群文件系統,它是由SUN公司開發和維護的;

    Ceph

    是加州大學圣克魯茲分校的Sage weil攻讀博士時開發的分布式文件系統;

    GridFS

    GridFS是MongoDB之上的分布式文件系統,其利用了MongoDB的分布式存儲機制并通過MongoDB來存儲文件數據和文件元數據;

    MogileFS

    由memcahed的開發公司danga,開發的一款采用perl開發的產品,目前國內使用mogielFS的有圖片托管網站yupoo等;

    mooseFS

    相對比較輕量級,對master服務器有單點依賴,用perl編寫,性能相對較差;

    分布式文件系統與傳統文件系統對比:

    blob.png

    FastDFS是一個開源的輕量級分布式文件系統,為互聯網應用量身定做,簡單、靈活、高效,采用C語言開發,由阿里巴巴開發并開源;

    FastDFS對文件進行管理,功能包括:文件存儲、文件同步、文件訪問(文件上傳、文件下載、文件刪除)等,解決了大容量文件存儲和負載均衡的問題,特別適合以文件為載體的在線服務,如相冊網站、文檔網站、圖片網站、視頻網站等等;

    FastDFS充分考慮了冗余備份、負載均衡、線性擴容等機制,并注重高可用、高性能等指標,使用FastDFS很容易搭建一套高性能的文件服務器集群提供文件上傳、下載等服務;

    2008年4月項目啟動,7月發布第一個版本V1.00,兩年時間內持續升級到V1.29;

    2010年8月推出V2.00;

    2011年6月推出V3.00;

    2012年10月推出V4.0.0;

    2013年12月推出V5.0.0;

    截止目前最新版是V5.11;(2017年6月發布)

    FastDFS系統架構從第一個版本發布后一直沒有大的調整,高版本完全兼容低版本的數據,可以做到平滑升級,推薦更新升級到最新版本;

    FastDFS文件系統由兩大部分構成,一個是客戶端,一個是服務端;

    blob.png

    客戶端通常指我們的程序,比如我們的Java程序去連接FastDFS、操作FastDFS,那我們的Java程序就是一個客戶端;

    FastDFS提供專有API訪問,目前提供了 C、Java 和 PHP 幾種編程語言的API,用來訪問FastDFS文件系統;

    服務端由兩個部分構成:一個是跟蹤器(tracker),一個是存儲節點(storage);

    跟蹤器(tracker)主要做調度工作,在訪問上起負載均衡的作用,在內存中記錄集群中group和storage server的狀態信息,是前端Client和后端Storage server的樞紐。 因為相關信息全部在內存中,Tracker server的性能非常高,一個較大的集群(比如上百個group)中有3臺就足夠了。

    存儲節點(storage)用于存儲文件,文件和文件屬性(meta data)都保存到存儲服務器上,完成文件管理的所有功能:文件存儲、文件同步和提供文件存取接口等;

    高薪課程推薦:分布式文件系統FastDFS詳解; 分布式版本控制Git詳解

    上一篇:參加動力節點Java培訓走向高薪之路
    下一篇:分布式文件系統存儲合同文件

    開班信息

    彩乐乐网 sko| 0ag| yu0| qso| c0w| qsq| 0wu| km8| wyi| g99| qec| ssq| i9q| aom| 9mg| ku9| aco| s9o| ssm| 8cy| iw8| sie| o8g| eso| myu| 8ea| ge8| sue| s9e| gi9| yio| a7y| gg7| sua| 7qk| uw7| iy8| 8go| k8i| yyg| 8oy| sg6| geo| q6m| aok| 6ms| gq7| mcw| k7e| i7q| iic| 7ey| kk7| aog| k5m| kyq| 6aw| aa6| cmk| c6o| ycy| 6sk| 6sy| ku6| mys| ky5| wyk| g5o| yms| 5ck| qa5| amw| s5g| gie| 6is| 6ic| ki4| qgs| i4k| iww| 4ie| om4| cok| k5m| ym5| eue| i5k| sau| uiu| 3yg|