node爬蟲實踐

2021-09-24 22:47:49 字數 841 閱讀 4743

爬蟲的原理很好理解,就是在服務端請求另乙個伺服器的資源,前端有跨域問題,而服務端沒有,這是天然優勢。掌握node的前端可以為所欲為了

1 首先,根據請求資源的協議選擇合適的模組,如果是https協議,就用https的方法取請求,之前沒有注意到這個問題。

var https = require('https');
2 用get方法請求需要抓去內容的網頁位址,試過用request方法,沒有反應。

https.get('',function(res))
3 用cheerio模組查詢dom元素,抓取需要的內容。cheerio是服務端的dom操作工具,以jquery為核心。

var cheerio = require('cheerio');

res.on('data', (chunk) => )

let imgsrc=;

content.find('img').each((index,e)=>)

5 最後一步,也是最重要的一步:把儲存在本地資料夾。試過fs.readfile 和fs.writefile,儲存下來的受損打不開;試過直接get請求,返回的都是0位元組。正確的方法是用request方法,至於為什麼?我也不清楚啊。可能是binary二進位制的優勢,畢竟再怎麼偽裝,所有資料本質還是二進位制吧。

var request = require('request');

imgsrc.foreach(item=>, (err, response, body) => );

})})

到此為止,爬蟲的功能就結束了。

Node爬蟲實踐

爬蟲的原理很好理解,就是在服務端請求另乙個伺服器的資源,前端有跨域問題,而服務端沒有,這是天然優勢。掌握node的前端可以為所欲為了。1 首先,根據請求資源的協議選擇合適的模組,比如csdn是https協議,就用https的方法取請求,之前沒有注意到這個問題。var https require ht...

Node 簡單爬蟲

以爬慕課網hadoop高階課程為例,用node寫乙個簡單的爬蟲 先抓取這個 的原始碼 然後分析這個頁面的dom,如圖 每大章節都被乙個chapter包圍,抓取下來就是乙個陣列,對每個item,這張的大標題在strong裡面,每章的小章節在video標籤裡,然後小標題就是j media item的te...

node簡易爬蟲

1.http模組,網路請求 cheerio庫,將html格式的字串轉成類dom結構,之後可以分析結構,通過jq的語法選中其中的元素。1.請求 資料 2.將資料儲存本地檔案 狀態碼 const contenttype res.headers content type 檔案型別 let err null...