scrapy爬蟲初始專案流程(親測最快建立專案)

2021-10-06 15:33:57 字數 794 閱讀 3122

安裝好pyhon3.7以上版本||anaconda3(建議)建立scrapy爬蟲首先需要pip install scrapy  如果需要資料庫插入就pip install  《模組名》  《指定版本》 不寫指定版本就按預設版本安裝,一般不用配合其它模組使用90%都沒有問題,要不就是用法不一樣。

自定義bat檔案直接想在哪個目錄建立scrapy就在**點開

scrapy startproject ajk

#建立初始專案 沒有爬蟲檔案只有一些關鍵的配置檔案

cd ajk

scrapy genspider -t basic ajkrent anjuke.com

#生成連線anjuke.com 爬蟲名為ajkrent 的爬蟲檔案

#執行請去掉注釋

《雙擊自定義名稱》..bat 

目錄結構:

常用scrapy爬蟲命令介紹,切記一定要切換到你想檢視的目錄下才能操作:

scrapy  startproject 建立爬蟲專案

scrapy  genspider -i檢視爬蟲模板

scrapy  genspider -t模版爬蟲檔名網域名稱建立爬蟲

scrapy  crawl執行爬蟲

scrapy  list檢視有哪些爬蟲

Scrapy搭建爬蟲專案

1.進入到conda環境中,執行conda create name scrapy env python 3.6.5 scrapy建立乙個關於scrapy專案的虛擬環境。只需要建立乙個scrapy的虛擬環境就可以,不需要每次都建立 2.執行conda activate scrapy env切換到 sc...

scrapy框架爬蟲流程與介紹

學習scrapy框架的網上教材 1.scrapy 的基礎概念 二 整體架構 爬取流程 上圖綠線是資料流向,所有的操作都是圍繞著scrapyengine進行操作的,也就是說 scrapyengine處理指揮著整個框架 引擎開啟乙個 open adomain 找到處理該 的spider並向該spider...

Scrapy建立爬蟲專案步驟

1.開啟cmd命令列工具,輸入 scrapy startproject 專案名稱 2.使用pycharm開啟專案,檢視專案目錄 3.建立爬蟲,開啟cmd,cd命令進入到爬蟲專案資料夾,輸入 scrapy genspider 爬蟲檔名 爬蟲基礎網域名稱 4.開啟pycharm,發現 spider 目錄...