scrapy使用自動義引數的方法

2021-10-05 22:08:25 字數 925 閱讀 5483

關於scrapy使用自定義引數主要是在命令上用crawl控制spider的同時加上 -a,從而做到自定義引數,例如:

scrapy crawl spidername -a symbol=symbol
在spider中加入以下部分:

def

__init__

(self, symbol='',

*args,

**kwargs)

:super()

.__init__(

*args,

**kwargs)

self.symbol = symbol

使用方法如下:

import scrapy

class

myspider

neme =

'name'

def__init__

(self, symbol='',

*args,

**kwargs)

:super()

.__init__(

*args,

**kwargs)

self.symbol = symbol

defstart_requests

(self)

: url =

''.format

(self.symbol)

yield scrapy.request(url, headers=self.headers, callback=self.parse)

defparse

(self, response):.

....

.

最後通過命令:scrapy crawl myspider -a symbol='abc'執行即可。

scrapy中的meta引數的使用

首先我們要知道meta是乙個字典,它的主要作用是用來傳遞資料的,meta 如果想在下乙個函式中取出value1,只需得到上乙個函式的meta key1 即可,因為meta是隨著request產生時傳遞的,下乙個函式得到的response物件中就會有meta,即response.meta.在items...

testbench自動讀取文字中的引數方法

在做verilog驗證時,如果設計的規模不大,那我們可以搭建乙個testbench來驗證設計。如果驗證的模組有很多引數,那麼我每驗證乙個case,都需要改一些引數,這樣效率會很低,而且很容易出錯。很容易出現debug半天發現自己的某乙個引數和reference的引數設定的不一樣。下面提出了自動從re...

scrapy 訊號槽的使用

scrapy文件講了scrapy的訊號,但沒有說明具體怎麼用,下面是例項 在spider類下 from scrapy.xlib.pydispatch import dispatcher from scrapy import signals def init self dispatcher.conne...