網路爬蟲基礎練習

2022-06-04 23:33:12 字數 3459 閱讀 6768

0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。

<htmllang="en">

<head>

<metacharset="utf-8">

<title>title

<body>

<h1>this is the document body

<pid = "p1node">this is paragraph 1.

<pid = "p2node">段落2

<ahref="">廣州商學院

<li>

<ahref="">

<divclass="news-list-text">

<divclass="news-list-title" style="">我校校長楊文軒教授講授新學期「思政第一課」

<divclass="news-list-description">3月27日下午,我校校長楊文軒教授在第四教學樓310室為學生講授了新學期「思政第一課」。

<divclass="news-list-info"><span><iclass="fa fa-clock-o">2018-03-28<span><iclass="fa fa-building-o">馬克思主義學院

1.利用requests.get(url)獲取網頁頁面的html檔案

import requests

newurl = ''

res = requests.get(newurl)

res.encoding = "utf-8"

print(res.text)

2.利用beautifulsoup的html解析器,生成結構樹

from bs4 import beautifulsoup

soup = beautifulsoup(res.text,'html.parser')

print(soup)

3.找出特定標籤的html元素

soup.p #標籤名,返回第乙個

soup.head

soup.p.name #字串

soup.p. attrs #字典,標籤的所有屬性

soup.p. contents # 列表,所有子標籤

soup.p.text #字串

soup.p.string

soup.select(『li')

4.取得含有特定css屬性的元素

soup.select('#p1node')

soup.select('.news-list-title')

5.練習:

取出h1標籤

a =soup.select('h1')

a1=a[0].text

print(a1)

取出a的標籤

a=soup.a.attrs['href']

soup.li.a.attrs['href']

print(a)

取出所有li標籤的所有內容

a=soup.select('li')[0].textprint(a)

a0=soup.select('.news-list-title')[0].texta1=soup.select('.news-list-info')[0].contents[0].text

a2=soup.select('.news-list-info')[0].contents[1].text

a3=soup.body.li.a.attrs['href']

print(a0,a1,a2,a3)

網路爬蟲基礎練習

0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。1.利用requests.get url 獲取網頁頁面的html檔案 import requests newsurl res requests.get newsurl 返回response物件 res.encoding utf 8 2.利用be...

網路爬蟲基礎練習

收藏0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。1.利用requests.get url 獲取網頁頁面的html檔案 import requests newsurl res requests.get newsurl 返回response物件 res.encoding utf 8 2.利用...

網路爬蟲基礎練習

0.可以新建乙個用於練習的html檔案,在瀏覽器中開啟。this is paragraph 1.段落2廣州商學院 我校校長楊文軒教授講授新學期 思政第一課 3月27日下午,我校校長楊文軒教授在第四教學樓310室為學生講授了新學期 思政第一課 2018 03 28 馬克思主義學院 1.利用reques...