国产xxxx99真实实拍_久久不雅视频_高清韩国a级特黄毛片_嗯老师别我我受不了了小说

資訊專欄INFORMATION COLUMN

布隆過濾器的Python實現(標準、計數、標準擴容、計數擴容)

Pocher / 2934人閱讀

摘要:布隆過濾器的實現,包括標準計數標準擴容計數擴容。計數擴容布隆過濾器標準擴容布隆過濾器的子類,功能繼承自標準擴容布隆過濾器,但支持刪除元素的操作。

bloompy
github:bloompy

布隆過濾器的Python3實現,包括標準、計數、標準擴容、計數擴容。更新自pybloom。

安裝
pip install bloompy
使用

通過bloompy你可以使用四種布隆過濾器

標準布隆過濾器

標準布隆過濾器只能進行數據的查詢和插入,是下面幾種過濾器的基類,可以進行過濾器的存儲和恢復

>>> import bloompy
>>> bf = bloompy.BloomFilter(error_rate=0.001,element_num=10**3)

# 查詢元素是否在過濾器里返回狀態標識
# 如果不在里面則插入,返回False表示元素不在過濾器里
>>> bf.add(1) 
False
>>> bf.add(1)
True
>>> 1 in bf
True
>>> bf.exists(1)
True
>>> bf.add([1,2,3])
False
>>> bf.add([1,2,3])
True
>>> [1,2,3] in bf
True
>>> bf.exists([1,2,3])
True

# 將過濾器存儲在一個文件里
>>> bf.tofile("filename.suffix")

# 從一個文件里恢復過濾器。自動識別過濾器的種類。
>>> recovered_bf = bloompy.get_filter_fromfile("filename.suffix")

# 或者使用過濾器類的類方法 "fromfile" 來進行過濾器的復原。對應的類只能恢復對應的過濾器
>>> recovered_bf = bloompy.BloomFilter.fromfile("filename.suffix")

# 返回已經插入的元素個數
>>> bf.count
2

# 過濾器的容量
>>> bf.capacity
1000

# 過濾器的位向量
>>> bf.bit_array
bitarray("00....")

# 過濾器位數組長度
>>> bf.bit_num
14400

# 過濾器的哈希種子,默認是素數,可修改
>>> bf.seeds
[2, 3, 5, 7, 11,...]

# 過濾器哈希函數個數
>>> bf.hash_num
10

計數布隆過濾器

標準布隆過濾器的子類,但是計數布隆過濾器可以執行刪除元素額操作。內置默認使用4位二進制位來表示標準布隆過濾器的1個位,從而實現可以增減。

>>> import  bloompy
>>> cbf  = bloompy.CountingBloomFilter(error_rate=0.001,element_num=10**3)

# 與標準布隆過濾器一樣
>>> cbf.add(12)
False
>>> cbf.add(12)
True
>>> 12 in cbf
True
>>> cbf.count
1

# 查詢元素狀態返回標識,如果元素存在過濾器里則刪除
>>> cbf.delete(12)
True
>>> cbf.delete(12)
False
>>> 12 in cbf
False
>>> cbf.count
0

# 從文件中恢復過濾器
>>> recovered_cbf = bloompy.CountingBloomFilter.fromfile("filename.suffix")

計數布隆過濾器其他的功能與標準的差不多。

標準擴容布隆過濾器

當插入的元素個數超過當前過濾器的容量時,自動增加過濾器的容量,默認內置一次擴容2倍。支持查詢和插入功能。

>>> import bloompy
>>> sbf = bloompy.ScalableBloomFilter(error_rate=0.001,initial_capacity=10**3)

# 默認初次可以設置容量1000
>>> len(sbf)
0
>>> 12 in sbf
False
>>> sbf.add(12)
False
>>> 12 in sbf 
True
>>> len(sbf)
1
>>> sbf.filters
[]
>>> sbf.capacity
1000

#當過濾器的元素個數達到容量極限時,過濾器會自動增加內置的標準過濾器,
#每次增加2倍容量,自動實現擴容
>>> for i in range(1000):
        sbf.add(i)
>>> 600 in sbf
True
>>> len(sbf)
2
>>> sbf.filters
[, ]
>>> sbf.capacity
3000

# 從文件中恢復過濾器
>>> recovered_sbf = bloompy.ScalableBloomFilter.fromfile("filename.suffix")

其他功能可以參見標準布隆過濾器。

計數擴容布隆過濾器

標準擴容布隆過濾器的子類,功能繼承自標準擴容布隆過濾器,但支持刪除元素的操作。

>>> import bloompy
>>> scbf = bloompy.SCBloomFilter(error_rate=0.001,initial_capacity=10**3)

>>> scbf.add(1)
False
>>> 1 in scbf
True
>>> scbf.delete(1)
True
>>> 1 in scbf
False
>>> len(scbf)
1
>>> scbf.filters
[]

# 插入元素使其達到過濾器當前容量極限值
>>> for i in range(1100):
        scbf.add(i)
>>> len(scbf)
2
>>> scbf.filters
[, ]

# 從文件中恢復過濾器
>>> recovered_scbf = bloompy.SCBloomFilter.fromfile("filename.suffix")
存儲與恢復

參見標準布隆過濾器,可以通過兩種方式來進行過濾器的存儲與復原:

類方法"fromfile"

函數get_filter_fromfile()

如果你很清楚的知道當前文件中的過濾器是一個標準布隆過濾器,那么你可以使類方法類恢復這個過濾器:

bloompy.BloomeFilter.fromfile("filename.suffix)

如果是個計數布隆過濾器,那么就是使用:

bloompy.CountingBloomFilter.fromfile("filename.suffix)

其他也是使用對應的類方法來恢復對應的過濾器。

但如果你不知道文件里存儲是哪種過濾器,可以使用函數:

bloompy.get_filter_fromfile("filename.suffix")

它將會加載文件字節數據,自動判斷過濾器類型并返回對應實例進行復原。

文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。

轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/42701.html

相關文章

  • 哈希函數與哈希表

    摘要:哈希函數與哈希表一哈希函數哈希函數性質輸入域是無窮的輸出域有窮的當輸入參數固定的情況下,返回值一定一樣當輸入不一樣,可能得到一樣的值。 哈希函數與哈希表 一、哈希函數 1.1 哈希函數性質: input輸入域是無窮的 output輸出域有窮的 當輸入參數固定的情況下,返回值一定一樣 當輸入不一樣,可能得到一樣的值。(必然會出現,因為輸入域很大,輸出域很小),產生哈希碰撞 均勻分布的特...

    Rainie 評論0 收藏0
  • 常見大數據和空間面試題

    摘要:答案使用,申請一個長度為類型的,每個位置只表示或,該數組占用空間約。遍歷億個數,當前數為,落在區間,對應。 過濾100億黑名單 題目 假設有100億個URL的黑名單,每個URL最多占用64B,設計一個過濾系統,判斷某條URL是否在黑名單里。 要求 不高于萬分之一的判斷失誤率;額外內存不超過30GB 答案 100億個64B的URL需要640GB的內存,顯然直接存哈希表不合理。考慮布隆過濾...

    Hydrogen 評論0 收藏0
  • ConcurrentHashMap 源碼閱讀小結

    摘要:如果沖突了,同步頭節點,進行鏈表操作,如果鏈表長度達到,分成紅黑樹。每次加入一個線程都會將的低位加一。擴容最大的幫助線程是,這是低位的最大值限制的。線程處理完之后,如果沒有可選區間,且任務沒有完成,就會將整個表檢查一遍,防止遺漏。 前言 每一次總結都意味著重新開始,同時也是為了更好的開始。ConcurrentHashMap 一直是我心中的痛。雖然不敢說完全讀懂了,但也看了幾個重要的方法...

    The question 評論0 收藏0

發表評論

0條評論

最新活動
閱讀需要支付1元查看
<