python爬蟲亂碼問題

2021-10-18 12:17:50 字數 441 閱讀 8849

使用爬蟲爬取網頁文字

所有中文文字全是亂碼,如圖:

源網頁編碼和爬取下來後的編碼格式不一致。

如源網頁為gbk編碼的位元組流,而我們抓取下後程式直接使用utf-8進行編碼並輸出到儲存檔案中,這必然會引起亂碼 即當源網頁編碼和抓取下來後程式直接使用處理編碼一致時,則不會出現亂碼; 此時再進行統一的字元編碼也就不會出現亂碼了

根據源網頁編碼自動調整

html = requests.get(url=url, headers=headers)
補充:

也可以嘗試

new_text = text.encode('iso-8859-1').decode('gbk')

Python爬蟲解決亂碼問題

問題原因 爬取的所有網頁無論何種編碼格式,都轉化為utf 8格式進行儲存,與源 編碼格式不同所以出現亂碼。目前大部分都是utf 8格式,一部分是gbk格式或者 會出現亂碼 還有一些不常見的,比如windows 1254,utf 8 sig等這裡不做討論。國內網頁還沒有看到別的編碼格式,歡迎補充指正!...

python 爬蟲中文亂碼問題

在爬取 是遇到requests得到的respone為 先用import urllib import urllib.parse urllib.parse.unquote res.text 得到 然後我們直接把 replace一下 urllib.parse.unquote res.text replac...

python爬蟲中文亂碼問題

iso 8859 1 gb2312 gb2312 說明預設的解析 iso 8859 1 不正確,應該用gb2312解碼。2 gb2312解碼過程中提示 gb2312 codec can t decode byte 0xf3 in position 67376 錯誤,大概意思是說解碼沒錯,但在某個位置...