爬取京東某商品評論並存入csv

2021-09-08 20:23:31 字數 1417 閱讀 6271

前言

找到你所要爬取物品的頁面,右鍵檢查,如圖所示:

我們需要的就是紅方塊框柱的內容了。

**最後(我感覺可以直接上**了)

**`

import requests

import json

import csv

from lxml import etree

comment_url = ''

for i in range(10):

page = i

params =

headers =

comment_resp = requests.get(url=comment_url, params=params, headers=headers)

print(comment_resp.status_code)

# print(comment_resp.text)

comment_str = comment_resp.text

comment_dict = json.loads(comment_str)

comments = comment_dict['comments']

for comment in comments:

user = comment['nickname']

color = comment['productcolor']

size = comment['productsize']

test = comment['content']

with open('jdcotent.csv', 'a', newline='') as f:

writer = csv.writer(f)

writer.writerow(row)

# print(infor)

with open('jdcotent.csv', 'a', newline='')as csv_file:

rows = (user,color,size,test)

writer = csv.writer(csv_file)

writer.writerow(rows)

這是沒有函式封裝的**(剛開始練手的)後續會添上整理好的函式封裝並存入資料庫的**。

爬取京東商品評論並存入資料庫(二)

前言 上篇我詳細說明了爬取得過程,這裡就不過多解釋,直接上爬取得 簡單明瞭 import requests import json import pymysql comment url def jd page params headers comment resp requests.get url ...

python json 爬京東商品評論

1 我用的是qq瀏覽器,右擊檢查,在network下選擇js,在搜尋框裡輸入productpagecomments 如果出不來記得f5重新整理一下 如圖 2 雙擊productpagecomments會得到以下頁面 二 找到想要的東西就要寫 啦 上 coding utf 8 importurllib...

用Python爬取京東商品評論(2)

首先開啟京東的頁面,輸入你想要查詢的某項商品的名稱,這裡用貝因美的某一款奶粉舉例 1.首先我們右擊選擇檢視網頁源 3.利用params引數構建 我們可以發現 callback fetchjson comment98vv75454 productid 1601354 score 0 sorttype ...