Scrapy框架 日誌配置

2021-10-01 13:59:52 字數 833 閱讀 9668

import datetime

#配置日誌檔名和位置

to_day = datetime.datetime.now()

log_file_path = "log/scrapy_{}_{}_{}.log".format(to_day.year,to_day.month,to_day.day)

log_file = log_file_path

log_level = "warning"

實現以年月日建立每天的log檔案,定義只有warning及其以上的資訊才會輸入到檔案內。

import scrapy

import logging

class demospider(scrapy.spider):

name = 'demo'

# allowed_domains = ['careers.tencent.com']

start_urls = ['']

def parse(self, response):

print(response.url,"_____----------")

logging.warning("這是乙個警告")

logging.error("這是乙個錯誤資訊")

logging.info("這是乙個通知")

2019-12-19 13:22:16 [root] warning: 這是乙個警告

2019-12-19 13:22:16 [root] error: 這是乙個錯誤資訊

scrapy日誌有五種等級,按照範圍遞增順序排列如下:

爬蟲scrapy框架 log日誌輸出配置及使用

1 在配置檔案中設定日誌輸出檔名和日誌等級 1 為什麼以日期為檔名?因為這樣可以方便開發者檢視每天的日誌資訊,同時也可以防止單檔案log日誌資訊堆積的越來越多,所以將當天日誌資訊儲存到當天的日誌檔案中 2 配置選項有日誌等級log level 日誌檔案路徑log file,我這裡設定等級為warni...

Python 爬蟲,scrapy,日誌配置

專案名 spiders 爬蟲名.py 爬蟲,例項化logger,輸出日誌資訊 coding utf 8 import scrapy import logging 匯入 例項化logger logger logging.getlogger name class demospider scrapy.sp...

python基於scrapy配置日誌

setting檔案配置log日誌 start logger configure setting current day datetime.datetime.now log enabled true 啟用日誌,預設不啟用 log encoding utf 8 預設 utf 8 logging使用的編碼...