scrapy 基礎元件專題(六) 自定義命令

2022-05-13 13:01:27 字數 1200 閱讀 7553

寫好自己的爬蟲專案之後,可以自己定製爬蟲執行的命令。

一、單爬蟲

在專案的根目錄下新建乙個py檔案,如命名為start.py,寫入如下**:

from scrapy.cmdline import

execute

if__name__ == "

__main__":

execute([

"scrapy

", "

crawl

", "

chouti

", "

--nolog

"])

執行start.py即可。

二、多爬蟲執行

1、在spiders的同級目錄建立資料夾,如commands;

2、在這個新建的資料夾下建立乙個py檔案,如命名為crawlall.py,編寫**:

from scrapy.commands import

scrapycommand

class

command(scrapycommand):

requires_project =true

defsyntax(self):

return

"[options]

"def

short_desc(self):

return

"run all of the spiders"#

自定義命令描述

defrun(self, args, opts):

spider_list = self.crawler_process.spiders.list() #

獲取爬蟲列表

for name in spider_list: #

迴圈列表,對每個爬蟲進行爬取。也可以對列表中的爬蟲進行篩選,根據自己的需求爬取想要的

self.crawler_process.crawl(name, **opts.__dict__

) self.crawler_process.start()

3、在settings.py中新增配置:commands_module = "專案名.目錄名"

如:commands_module = "my_scrapy.commands"

4、在終端輸入:scrapy crawlall --nolog 即可執行  (crawlall是步驟2中你新建的py檔名)

vue學習自定義元件篇 六

2 私有元件 元件傳值 2 父傳子方法 3 子傳父值 4 兄弟傳 元件場景 總結拓展 1 全域性元件 元件建立的方式 方式一 extend login div 方式一 vue.component login vue.extend new vue script 方式二 register div 方式二...

四 vue基礎 自定義元件

1.語法 vue.component 元件名字 如下 a.data 必須是乙個函式,有乙個返回值。和vue裡面的使用方法一樣 b.template 用來標示這個元件的渲染後的具體的 div id button count button count button count button count ...

小程式 自定義元件 屬性值 微信小程式 基礎元件

框架為開發者提供了一系列基礎元件,開發者可以通過組合這些基礎元件進行快速開發。詳細介紹請參考元件文件。什麼是元件 content goes here tagname 注意 所有元件與屬性都是小寫,以連字元 連線 型別描述 註解boolean 布林值元件寫上該屬性,不管是什麼值都被當作true 只有元...