記憶體1G的電腦,分析5G的文字,處理方法

2021-09-07 18:23:32 字數 517 閱讀 3776

-- 問題:5g的文字txt檔案,按行存放url,設計去重

-- 條件:1g記憶體的機器

-- 布隆過濾器,做過爬蟲的程式設計師,會立馬想到;

這裡如果按常規方式,該如何入手呢

先說思想解決,不說實際**實現;

1. 記憶體1g,所以大檔案首先要分割;如分割為20個檔案,那麼每個可以做到接近250m左右

2. 拿前面的3個檔案做案例:

a b c  3個檔案,每個250m;首先做到載入沒有問題

1.a 檔案讀取到seta中,此時集合中a的url不重複

2.b檔案讀取到setb中;

3.seta 和setb比較,將集合a和b中相同項都剔除;

4.清空setb;

5.載入c檔案;seta 和setc比較,將集合a和c中相同項都剔除;

6.前三個檔案a比較完成,生成和b,c檔案完全不重複的a1檔案

依次類推:

總拿前面的乙個檔案內容和後面檔案對比,對比一輪完成的那個檔案;

就絕對是完全不重複的內容了

免費虛擬主機1G空間5G流量

今天給大家介紹下leadhoster免費主機,這家主機申請完畢才看起來好像是乙個免費的分銷提供的,所以簡要的跟大家介紹一下,具體的哪個地區的主機也木有看清楚,畢竟這麼小的主機做一般的 都不夠,差不多只能做個沒流量的展示頁面使用,不過leadhoster使用的php版本和mysql都是非常新的。如果你...

5G原理,5G給生活的影響,5G影響的行業

近日華為攜極簡5g和softcom ai亮相2019世界移動大會,在2019世界移動大會上,華為以 構建萬物互聯的智慧型世界 為主題,通過展覽展示 論壇活動 峰會發言等形式,與全球運營商客戶和合作夥伴共同 行業發展的熱點話題,以極簡站點 極簡架構 極簡協議 極簡運維構築全面領先的端到端5g產品及解決...

認識5G 解開5G的神秘面紗

3 5g應用場景 4 5g的關鍵技術 5 5g面臨的挑戰 標題移動通訊技術具有代際演化規律 g 代表一代 每10年年乙個週期 增強的移動寬頻 海量機器通訊 超高可靠低延時的通訊 ar 增強現實 vr 虛擬實境 mr 混合現實 5g網路具有高傳輸速率 低時延 高可靠性等特點,是車聯網和自動駕駛的完美搭...