Scrapy 學習歷程

2021-09-11 01:56:37 字數 947 閱讀 7945

這裡建議使用anconda安裝,直接用pip install scrapy的話容易報錯

安裝anconda

cmd開啟終端 建立虛擬環境輸入命令:conda create -n scrapy_env

安裝 scrapy 命令:conda install scrapy

檢查安裝的包 命令:pip list

建立乙個專案 scrapy startproject myspider

建立抓取程式 scrapy genspider itcast ***.com(網域名稱)

此時專案結構如下:

├──myspider

│ ├── scrapy.cfg***********************************= 專案的配置檔案

│ ├── myspider***************===專案的python模組,將會從這裡引用**

│ │ ├──init.py

│ │ ├── items.py ***********************************=專案的目標檔案

│ │ ├── pipelines.py ******************************=== 專案的管道檔案

│ │ ├── settings.py ******************************==== 專案的設定檔案

│ │ ├── spiders *********************************** 儲存爬蟲**目錄

│ │ │ ├──init.py

│ │ │ ├── itcast.py~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ 示例抓取檔案

執行itcast.py檔案,命令:scrapy crawl itcast --nolog(不用–nolog的話,有很多日誌輸出控制台)

scrapy安裝歷程

準備安裝的時候看到大家都說scrapy很難裝 網上也有各式各樣的教程 但是感覺和我的情況都有些出入 所以在這裡總結一下我的情況 首先嘗試了一下直接安裝scapy pip install scrapy 然後出現報錯 error microsoft visual c 14.0 is required.g...

minix學習歷程

note 以下所有操作都是在fedora core 5下完成的 bochs的安裝和使用 如何在bochs下利用root.mnx和usr.mnx啟動minix204 步驟 部分 最好通讀真個檔案 c.為了在bochs 下啟動minix204 我們只需要將a 步驟中的intel 2.0.4 i386 下...

Linux學習歷程

我是在大二的時候接觸到linux的,現在看來也差不多兩年了。這兩年裡我也從對linux什麼都不懂慢慢到別人眼中的高手。而同學們裝linux時或系統有問題時也會找我來幫忙解決問題了。而且我也打算以後從事這方面的工作,回想起這兩年的學習歷程,感慨很多。我的專業是軟體工程,但我直到高三才真正摸過電腦。而且...