python常用的庫

2021-09-11 07:29:09 字數 2200 閱讀 6780

scrapy:網頁資料採集(爬蟲)

scrapy-redis:分布式爬蟲

selenium:web測試,**瀏覽器

beautifulsoup:網頁解釋庫,提供lxml的支援

lxml:xml解釋庫

numpy:基於矩陣的數學計算庫

pandas:是基於numpy陣列構建的,對資料進行處理、清洗、分析的工具

scipy:科學計算庫

mysql-python:mysql的讀寫介面庫

mysqlclient:mysql的讀寫介面庫

sqlalchemy:資料庫的orm封裝

redis:redis的讀寫介面

pymongo:mongodb的讀寫介面

requests:http庫,用於網路訪問

os :作業系統介面

sys :python自身的執行環境

logging :記錄日誌

json :編碼和解碼json物件

multiprocessing :多程序

from multiprocessing import process:引用對應的包。

p=process(target=run_proc,args=('test',)):呼叫process類,進行程序物件的建立操作。為引數target賦值程序要實現的方法,為引數args賦值方法中傳入對應的引數。

p.start():開啟執行對應的程序操作。

p.join():等待當前程序執行結束,可以等待子程序結束後再繼續向下執行,通常用於程序間的同步。

multiprocessing.cpu_count():獲取到程序執行的所使用的cpu的核心個數。

pipe=multiprocessing.pipe():管道實現程序間的通訊。乙個管道有兩個埠,分別為pipe[0]與pipe[1]

pipe[0].send(向管道中新增的資料):管道的新增操作。

pipe[0].recv():從管道中取出對應的資料資訊。

threading :多執行緒

import thread:引用對應的模組包。

thread.start_new_thread(defname,())建立開啟乙個新的執行緒;第乙個引數為新執行緒要執行的方法,第二個引數為元組傳遞執行方法對應需要引數;注:python元組為乙個時需要(元素,)乙個元素加乙個','進行表示。

thread.exit_thread():主線程呼叫該方法表示所有的執行緒結束操作;子執行緒通過呼叫exit.thread()的方法來表示實現當前子執行緒的結束操作。

thread.join(): python的thread類中還提供了join()方法,使得乙個執行緒可以等待另乙個執行緒執行結束後再繼續執行。這個方法還可以設定乙個timeout引數,避免無休止的等待。因為兩個執行緒順序完成,看起來象乙個執行緒,所以稱為執行緒的合併

thread.setdaemon(true):預設情況主線程退出時會等待子執行緒的結束,如果希望主線程不等待子執行緒,可以設定子執行緒為後台執行緒,主線程退出,子執行緒隨即結束。

queue :佇列

from queue import queue:引用對應的模組包。

queue=queue():建立乙個佇列物件。

queue.qsize():獲取佇列中元素的數量。

queue.put(向佇列中新增的資料):想佇列中新增元素。

queue.set():從佇列中取出元素。

queue.empty():判斷佇列是否為空。

copy :拷貝

time :時間

hashlib :加密演算法

random :生成隨機數

re :正則匹配

常用的python標準庫 python常用標準庫

系統介面 sys模組可以檢視環境變數和新增環境變數 import sys sys.path e 360movedata users administrator desktop pytorch e anzhuang anaconda python37.zip e anzhuang anaconda d...

python docs庫 Python常用庫整理

前兩天有個同學問我關於tkinter庫的問題,但是我連tkinter庫是幹啥的都不清楚,有點尷尬。python庫博大精深,涉及各個領域,多了解一些著名的庫總比不知道的好。gui圖形介面 tkinter wxpython pygtk pyqt pyside web框架 django web2py fl...

python爬蟲常用庫安裝 爬蟲常用庫的安裝

請求庫 解析庫儲存庫 工具庫請求庫 urlib re python內建庫 requests pip3 install requests pip2,pip conda都是可以選擇的 selenium pip3 install selenium chromedriver 測試python下輸入 from...