python開啟網頁獲取網頁內容方法總結

2021-07-04 14:09:46 字數 1065 閱讀 7194

在學習python爬蟲的過程中,總會遇到要獲取網頁內容的時候,下面就對如何獲取網頁內容進行總結。

方法一:

>import urllib

>url=""

#這裡是需要獲取的網頁

>content=urllib.open(url).read() #使用urllib模組獲取網頁內容

>print content #輸出網頁的內容 功能相當於檢視網頁源**

方法二:

>import urllib2

>from bs4 import beautifulsoup #這裡需要匯入beautifulsoup

>url=""

>content=urllib2.urlopen(url)

>soup=beautifulsoup(content) #將網頁內容轉化為beautifulsoup 格式的資料

>print soup

方法三:

>import requests

>content=requests.get(url).content

>print content

這裡是使用的python的requests模組獲取網頁的內容。

方法四:

>import codecs  #匯入codecs模組

>f=codecs.open(url,"r","utf-8") #使用codecs函式以開啟的方式開啟url 設定預設的編碼方式為utf-8

>content=f.read()

>f.close()

>print content

這裡是使用的python的codecs模組。

推薦:beautifulsoup的安裝可以檢視部落格。

python中的模組安裝及更新方法,可以檢視部落格(pip,easy_install)。

解決python中出現亂碼問題,可以檢視部落格。

python開啟網頁獲取網頁內容方法總結

在學習python爬蟲的過程中,總會遇到要獲取網頁內容的時候,下面就對如何獲取網頁內容進行總結。方法一 import urllib url 這裡是需要獲取的網頁 content urllib.open url read 使用urllib模組獲取網頁內容 print content 輸出網頁的內容 功...

python獲取網頁內容

需要用到bs4套件來獲取網頁中的文字,如果沒有新增此套件,可以根據以下操作來新增 win r,輸入cmd,輸入pip install beautifulsoup4,因為我已經安裝過了所以出現以下內容 安裝完成後即可開始編寫 如下 1 import requests2 匯入bs4套件 3from bs...

python 獲取網頁內容 python

詳細內容 python用做資料處理還是相當不錯的,如果你想要做爬蟲,python是很好的選擇,它有很多已經寫好的類包,只要呼叫,即可完成很多複雜的功能。contents page.read 獲得了整個網頁的內容也就是源 print contents url代表 contents代表 所對應的源 ur...