Python 最簡單爬蟲爬取資料 一 如何請求

2021-08-21 13:18:42 字數 850 閱讀 6897

python 3.x中使用urllib這個模組進行操作

1.urllib.request 模組是用來開啟和讀取urls的;

2.urllib.error 模組包含一些有urllib.request產生的錯誤,可以使用try進行捕捉處理;

3.urllib.parse 模組包含了一些解析urls的方法;

我們使用urllib.request.urlopen()這個介面函式就可以很輕鬆的開啟乙個**,讀取並列印資訊。

請求完成urllib.request.urlopen()方法返回乙個 response物件,不能直接顯示,需要通過read方法顯示geturl()

decode("utf-8")方法用來解碼 eg.解碼成utf-8

encode("utf-8")方法用來編碼 eg.編碼成utf-8

自動獲取編碼型別的模組》chardet

安裝 pip install chardet //基本預設自帶

使用chardet.detect()方面即可獲得編碼型別

增強請求邏輯

url可以是乙個request物件 

Python簡單爬蟲(爬取天氣資訊)

初學python,學到python爬蟲時在網上找資料,發現找到的大部分都是前部分內容對運作方式介紹,然後就直接上 了,這樣對像我一樣的小白來說比較困難,的注釋較少,部分 塊沒有詳細說明運作方式和具體作用,所以寫此筆記方便別人和自己以後進行學習檢視。作業系統window python2.7.10 wi...

python爬蟲 爬取貓眼電影資料

定義乙個函式獲取貓眼電影的資料 import requests def main url url html requests.get url text print html if name main main 利用正則匹配,獲得我們想要的資訊 dd i class board index board...

Python爬蟲爬取資料的步驟

步驟 2.把獲取得到的多個網頁鏈結存入字典,充當乙個臨時資料庫,在需要用時直接通過函式呼叫即可獲得 4.面對爬蟲時代,各個 基本上都設定了相應的反爬蟲機制,當我們遇到拒絕訪問錯誤提示404時,可通過獲取user agent 來將自己的爬蟲程式偽裝成由人親自來完成的資訊的獲取,而非乙個程式進而來實現網...