Python實現簡單爬蟲功能

2021-07-31 16:28:18 字數 2224 閱讀 6622

我們最常規的做法就是通過滑鼠右鍵,選擇另存為。但有些滑鼠右鍵的時候並沒有另存為選項,還有辦法就通過就是通過截圖工具擷取下來,但這樣就降低的清晰度。好吧~!其實你很厲害的,右鍵檢視頁面源**。

我們可以通過python 

來實現這樣乙個簡單的爬蟲功能,把我們想要的**爬取到本地。下面就看看如何使用

python

來實現這樣乙個功能。

一,獲取整個頁面資料

urllib 模組提供了讀取

web頁面資料的介面,我們可以像讀取本地檔案一樣讀取www和

ftp上的資料。首先,我們定義了乙個gethtml()函式:

urllib.urlopen()方法用於開啟乙個

url位址。

read()方法用於讀取

url

二,篩選頁面中想要的資料

python 提供了非常強大的正規表示式,我們需要先要了解一點python 

正規表示式的知識才行。

修改**如下:

我們又建立了getimg()

函式,用於在獲取的整個頁面中篩選需要的連線。

re模組主要包含了正規表示式:

re.compile() 可以把正規表示式編譯成乙個正規表示式物件.

re.findall() 方法讀取

html 

中包含 

imgre

(正規表示式)的資料。

執行指令碼將得到整個頁面中包含的url

位址。三,將頁面篩選的資料儲存到本地

把篩選的位址通過for

迴圈遍歷並儲存到本地,**如下:

通過乙個for

迴圈對獲取的連線進行遍歷,為了使的檔名看上去更規範,對其進行重新命名,命名規則通過

x變數加

1。儲存的位置預設為程式的存放目錄。

python實現簡單爬蟲功能

我們最常規的做法就是通過滑鼠右鍵,選擇另存為。但有些滑鼠右鍵的時候並沒有另存為選項,還有辦法就通過就是通過截圖工具擷取下來,但這樣就降低的清晰度。好吧 其實你很厲害的,右鍵檢視頁面源 我們可以通過python 來實現這樣乙個簡單的爬蟲功能,把我們想要的 爬取到本地。下面就看看如何使用 python ...

python實現簡單爬蟲功能

我們最常規的做法就是通過滑鼠右鍵,選擇另存為。但有些滑鼠右鍵的時候並沒有另存為選項,還有辦法就通過就是通過截圖工具擷取下來,但這樣就降低的清晰度。好吧 其實你很厲害的,右鍵檢視頁面源 我們可以通過python 來實現這樣乙個簡單的爬蟲功能,把我們想要的 爬取到本地。下面就看看如何使用 python ...

python實現簡單爬蟲功能

我們最常規的做法就是通過滑鼠右鍵,選擇另存為。但有些滑鼠右鍵的時候並沒有另存為選項,還有辦法就通過就是通過截圖工具擷取下來,但這樣就降低的清晰度。好吧 其實你很厲害的,右鍵檢視頁面源 我們可以通過python 來實現這樣乙個簡單的爬蟲功能,把我們想要的 爬取到本地。下面就看看如何使用 python ...