python爬蟲 實現多個ip位址訪問

2021-09-24 19:42:56 字數 644 閱讀 1496

在爬蟲過程中,如果長時間頻繁的使用同乙個ip位址訪問某個**和提取內容,就很容易讓對方**識別認定為爬蟲,從而對你的爬蟲行為做出相應的限制,或直接遮蔽你的ip位址訪問。因此使用多個ip位址進行訪問,可以有效解決這一問題。

我們可以建立乙個存放ip位址的列表,包含多個可用的ip位址(大家可以網上搜免費ip位址),然後每次都隨機呼叫乙個ip位址,建立http連線。這樣就避免了同乙個ip位址多次訪問被遮蔽的風險了

from urllib import request

import random

proxy_list = [

, , ]

proxy = random.choice(proxy_list) #隨機選擇乙個ip位址

print(response.read())

這裡設定了三個,當然,也可以新增更多的ip

python實現本地批量ping多個IP

本文主要利用python的相關模組進行批量ping 測試ip連通性。下面看具體 python3 usr bin env python coding utf 8 import re import subprocess from io import stringio import multiproces...

python爬蟲更換ip 爬蟲務必要改ip嗎?

大部分人認為python爬蟲必須要修改ip位址,倘若沒有更改ip將寸步難行,但也很多人覺得不一定要修改ip位址,能夠用些工具代替,因此網路爬蟲必須要更改ip嗎?python爬蟲程式按其本質來說也只是訪問頁面的使用者而已,最常見的便是分辨你瀏覽的頻率,因為平常人瀏覽網頁的頻率是不很快的,如果察覺某個i...

python爬蟲基礎實現 Python實現基礎爬蟲

初次使用urllib實現爬蟲的資料請求 urllib.request.urlopen url 發起get請求 urllib.parse.quote 將中文進行url編碼 from urllib.request importurlopen,urlretrieve,requestfrom urllib....