Python爬蟲 bs4 xpath基本語法

2021-10-02 07:45:11 字數 1029 閱讀 3860

標籤定位

提取標籤、標籤屬性中儲存的資料值

例項化乙個beautifulsoup物件,並且將頁面原始碼資料載入到該物件中

通過呼叫beautifulsoup物件中相關的屬性或者方法進行標籤定位和資料提取

環境安裝:

pip install bs4

pip install lxml

如何例項化beautifulsoup物件:
from bs4 import beautifulsoup
1.將本地的html文件中的資料載入到該物件中

fp =

open

('./test.html'

,'r'

,encoding=

'utf-8'

)soup = beautifulsoup(fp,

'lxml'

)

2.將網際網路上獲取的頁面原始碼載入到該物件中

page_text = response.text

soup = beatifulsoup(page_text,

'lxml'

)

提供的用於資料解析的方法和屬性:xpath解析原理:

例項化乙個etree的物件,且需要將被解析的頁面原始碼資料載入到該物件中。

呼叫etree物件中的xpath方法結合著xpath表示式實現標籤的定位和內容的捕獲。

環境的安裝:

pip install lxml
如何例項化乙個etree物件:
from lxml import etree
將本地的html文件中的原始碼資料載入到etree物件中:

etree.parse(filepath)
可以將從網際網路上獲取的原始碼資料載入到該物件中

etree.html(

'page_text'

)

xpath用法:

爬蟲架構 bs4

方便解析html xml等格式的原始碼,快速查詢 修改等操作,節省數小時乃至更多的工作時間 官網文件 from bs4 import beautifulsoup print path beautifulsoup path 非真實網頁 html doc 夏日炎炎,要你幹嘛 print soup.hea...

爬蟲 bs4模組

安裝 pip3 install beautifulsoup4 解析html和xml,修改html和xmlimport requests from bs4 import beautifulsoup 文件容錯能力,不是乙個標準的html也能解析 soup beautifulsoup html doc,l...

python爬蟲資料解析之bs4

步驟 1 匯入bs4庫 from bs4 import beautifulsoup2 獲取soup物件 html為你獲取的網頁源 將html轉化為特定的格式lxml 為後面提取資訊做準備 soup beautifulsoup html,lxml 3 利用方法選擇器解析 find all 查詢所有符合...