scrapy安裝和環境準備

2021-08-19 08:55:25 字數 1429 閱讀 1149

版本選擇

由於分布式爬蟲用到了scrapy-redis,它對於版本的要求如下(當然 隨著更新會支援更新版本的python)

requirements

python 2.7, 3.4 or 3.5

redis >= 2.8

scrapy >= 1.1

redis-py >= 2.10

由於自己需要同時用到多個版本python,方便起見,搭建虛擬環境。有時候從github轉殖別人**,在自己本地環境下執行,也需要用到虛擬環境。非生產環境,只是自己在本機上跑,所以針對的是windows版本。

建立虛擬環境

pip install virtualenv
虛擬環境管理包:

若安裝成功 但使用workon命令失敗  後面再查下原因

安裝python3.5 ,2.7(略)

給2.7,3.5分別建立虛擬環境

沒有使用虛擬環境管理包可參考以下啟動方式

使用虛擬環境下指定路徑使用python3啟動 :virtualenv -p d:\\program\anaconda\\python.exe d:\\programs\\env\\scrapy3

(路徑中不要包含空格等 容易出現錯誤 如:個人被坑d:\program files (x86),一直以為它沒問題 結果就是路徑無法識別)

進入虛擬環境

workon 檢視本機所有虛擬環境

workon py3scrapy 進入虛擬環境

安裝scrapy:

檢視版本:scrapy -h

scrapy 1.5.0 - no active project

安裝若出現錯誤:

error: microsoft visual c++ 14.0 is required. get it with "microsoft visual

c++ build tools":

解決方式:

進入虛擬環境安裝:

(article_spider) e:\spider\article_spider\scripts>pip install twisted-17.9.0-cp3

6-cp36m-win_amd64.whl

processing e:\spider\article_spider\scripts\twisted-17.9.0-cp36-cp36m-win_amd64.

whl安裝後再安裝scrapy即可。

scrapy之環境安裝

在之前我安裝了scrapy,但是在pycharm中卻無法使用。具體情況是 我的電腦上存在多個python,有python2,python3,anaconda,其中anaconda中的python為python3。我在powershell中直接鍵入scrapy可以使用。解決 我在網上找了很多解決方案,...

hbase 安裝環境準備

本機建立三個虛擬機器,hostname ipname password centos2 192.168.75.101 root root123 centos3 192.168.75.102 root root123 centos4 192.168.75.103 root root123 1.修改ho...

pyqt環境安裝準備

7 其實linux環境的安裝可以說是最簡單,因為自己使用的debian作業系統提供了自動化安裝apt,但是出於安裝可能面臨無網環境的考慮,盡量用原始碼安裝比較穩妥。目前計畫選擇的版本是pyqt5.3 py3.4 qt5.3.0,sip直接選擇最新的版本。選擇這些版本的主要理由是windows環境,我...