Scrapy框架的建立

2021-10-02 11:06:41 字數 886 閱讀 4857

pip install scrapy -i  --trusted-host pypi.douban.com

pip install pypiwin32 -i --trusted-host pypi.douban.com

需要在命令列中進行,首先進入要建立工程的目錄中,執行如下**

scrapy startproject (+ 名字)
必須建立乙個就qsbk的工程

scrapy startproject qsbk
下圖就是生成的樣式

上面我們還未建立爬蟲,還需要如下的命令

scrapy genspider +名字 + 網域名稱
注意,要先進入到我們剛剛建立的專案當中再建立

cd qsbk

scrapy genspider qsbk_spider "qiushibaike.com"

可以發現多了乙個 qsbk_spider.py的檔案

自動生成如下**

爬蟲 建立scrapy框架的專案

進入命令管理器 通過命令scrapy startproject spider3 進入spider3專案中 執行scrapy genspider university qianmu.org scrapy genspider 爬蟲的名字name 爬蟲的網域名稱 通過pycharm軟體匯入此專案 scra...

scrapy框架的建立與使用

scrapy框架的命令介紹 scrapy命令分為兩種 全域性命令和專案命令 全域性命令 在 都能使用。專案命令 必須在爬蟲專案裡才能使用 全域性命令 專案命令 startproject 建立乙個爬蟲專案 然後進入框架就使用的是專案命令 然後再執行scrapy h 比全域性命令多了很多命令 scrap...

Scrapy框架快速建立專案命令 框架的結構

scrapy在爬蟲開發領域是非常不錯的一款框架,如果要從事爬蟲開發那麼這款框架一定要非常熟悉,儘管在實際開發中可能用不上,但是其中的架構思想也能讓自己寫的爬蟲質量有不一般的提公升。scrapy框架應該掌握的幾條命令 cmd命令列介面執行 scrapy shell url 該條命令常用於scrapy開...