Pyspider的安裝使用

2021-07-15 20:27:48 字數 1592 閱讀 2971

系統版本是:centos 7.2  ,自帶python版本2.7.5

1,更新epl源

yum -y install epel-release

2,安裝pip

yum install python-pip -y

3,提示pip版本有點低,更新一下

pip install --upgrade pip

4,用pip安裝pyspider

pip install pyspider

5,報錯:importerror: no module named urllib.parse,原因是six版本過低

pip install six --upgrade

6,啟動的pyspider

#pyspider

7,登入到pyspider的web介面,瀏覽器開啟:localhost:5000。

安裝centos版本的chrome瀏覽器

1,加入chrome的源

#cd  /etc/yum.repos.d/

2,加入源

#vi  google.repo

[gogle]

name=google-x86_64

baseurl=

enabled=1

gpgcheck=0

gpgkey=

4,安裝chrome

#yum install google-chrome-stable

5,會啟動不了,只能手工啟動

#google-chrome - -no-sandbox - -user-data-dir &

安裝 phantomjs

1,安裝依賴包

#yum -y install gcc gcc-c++ make flex bison gperf ruby  openssl-devel freetype-devel fontconfig-devel libicu-devel sqlite-devel libpng-devel libjpeg-devel  

2,解壓phantomjs

3,新增環境變數

#vim /etc/profile

export pjs_home=/usr/local/phantomjs-2.1.1-linux-x86_64 

export path=$path:$pjs_home/bin 

4,使環境變數立即生效

#source /etc/profile

啟動pyspider

PySpider安裝與使用 Windows系統下

begin 安裝pip install pyspider 在windows系統好像會出現如下問題 command python setup.py egg info failed with error code 10 in解決方法 利用wheel安裝 s1 pip install wheel s5 繼...

pyspider安裝的問題

今天用pyspider框架出現的問題,直接用conda來安裝和在cmd中安裝都不行,不知道為什麼?然後就去網上查來相關的文件 但是後來發現其實在pycharm中的setting中直接安裝好了,不知道是不是瞎貓碰見了死耗子。現在是能用了,我的步驟也是從文件中加入了三個包,lxml和wheel,pycu...

完整pyspider安裝

通過pip install pyspider,部分win10使用者在安裝pyspider時可能會出現 command python setup.py egg info failed with error code 10 in 這個錯誤,是因為找不到pycurl導致,所以我們需要用下面的方法。一 pi...