一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

您好,歡迎來電子發(fā)燒友網(wǎng)! ,新用戶?[免費注冊]

您的位置:電子發(fā)燒友網(wǎng)>源碼下載>數(shù)值算法/人工智能>

Winnowing指紋串匹配的重復數(shù)據(jù)刪除算法

大?。?/span>0.95 MB 人氣: 2018-04-17 需要積分:1

  目前數(shù)據(jù)激增問題使數(shù)據(jù)中心處理的數(shù)據(jù)量呈現(xiàn)爆炸式增長,數(shù)據(jù)存儲、備份和恢復所需的時間和容量也隨之增大,給存儲系統(tǒng)帶來了沉重的負擔。由于數(shù)據(jù)來源不同,許多數(shù)據(jù)被反復存儲,造成了大量的數(shù)據(jù)冗余,尤其在備份系統(tǒng)中更加突出。重復數(shù)據(jù)刪除技術的出現(xiàn)引起了研究者的關注,它不僅能夠減少存儲和處理的數(shù)據(jù)量,節(jié)約數(shù)據(jù)的管理和存儲成本,同時提高了網(wǎng)絡通信的速度,成為降低數(shù)據(jù)中心冗余數(shù)據(jù)量的有效手段。

  為了在存儲系統(tǒng)中充分利用重復數(shù)據(jù)刪除技術,減少數(shù)據(jù)的最終積累量,縮短消除冗余數(shù)據(jù)的時間,許多經典的重復數(shù)據(jù)刪除算法被提出。EB( Extreme Binning)算法。利用文件相似性,使用最小塊簽名作為文件的特征,只在內存中保存文件的代表塊ID,有效減小了內存占用。然而,最小塊ID作為主索引,一方面重刪率相對較低,另一方面數(shù)據(jù)分塊算法影響最小塊簽名,不同的分塊算法所產生的最小塊可能不同,從而影響重刪的準確性。Bloom filter算法利用K個Hash函數(shù)將數(shù)據(jù)塊MD5值映射到m位的向量y中,減少頻繁的I/O操作,但存在假正例( False Positives)誤識別率,并且無法從Bloom Filter榘合中刪除元素,在需要數(shù)據(jù)修改的場景下不能使用。張滬寅等提出了用戶感知的重復數(shù)據(jù)刪除算法,根據(jù)用戶相關度,以用戶為單位,減少了數(shù)據(jù)空間局部性,但對于非人為產生的數(shù)據(jù),其相似性計算準確度較低。

  以上算法在數(shù)據(jù)分塊時均采用了可變長度分塊( Content-Defined Chunking,CDC)算法,相對于以文件為粒度,數(shù)據(jù)塊級粒度能夠檢測到文件內部的重復數(shù)據(jù),因此,目前大多數(shù)重復數(shù)據(jù)刪除算法均采用數(shù)據(jù)塊為粒度。

Winnowing指紋串匹配的重復數(shù)據(jù)刪除算法

非常好我支持^.^

(0) 0%

不好我反對

(0) 0%

      發(fā)表評論

      用戶評論
      評價:好評中評差評

      發(fā)表評論,獲取積分! 請遵守相關規(guī)定!

      ?