Python3實現併發檢驗代理池地址的方法

NO IMAGE
1 Star2 Stars3 Stars4 Stars5 Stars 給文章打分!
Loading...

本文例項講述了Python3實現併發檢驗代理池地址的方法。分享給大家供大家參考,具體如下:


#encoding=utf-8
#author: walker
#date: 2016-04-14
#summary: 用協程/執行緒池併發檢驗代理有效性
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))
Headers = {
'Accept': '*/*',
'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
}
#檢驗單個代理的有效性
#如果有效,返回該proxy;否則,返回空字串
def Check(desturl, proxy, feature):
proxies = {'http': 'http://'   proxy}
r = None #宣告
exMsg = None
try:
r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
except:
exMsg = '* '   traceback.format_exc()
#print(exMsg)
finally:
if 'r' in locals() and r:
r.close()
if exMsg:
return ''
if r.status_code != 200:
return ''
if r.text.find(feature) < 0:
return ''
return proxy
#輸入代理列表(set/list),返回有效代理列表
def GetValidProxyPool(rawProxyPool, desturl, feature):
validProxyList = list()  #有效代理列表
pool = futures.ThreadPoolExecutor(8)
futureList = list()
for proxy in rawProxyPool:
futureList.append(pool.submit(Check, desturl, proxy, feature))
print('\n submit done, waiting for responses\n')
for future in futures.as_completed(futureList):
proxy = future.result()
print('proxy:'   proxy)
if proxy: #有效代理
validProxyList.append(proxy)
print('validProxyList size:'   str(len(validProxyList)))
return validProxyList
#獲取原始代理池
def GetRawProxyPool():
rawProxyPool = set()
#通過某種方式獲取原始代理池......
return rawProxyPool
if __name__ == "__main__":
rawProxyPool = GetRawProxyPool()
desturl = 'http://...'    #需要通過代理訪問的目標地址
feature = 'xxx'    #目標網頁的特徵碼
validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)

更多關於Python相關內容感興趣的讀者可檢視本站專題:《Python入門與進階經典教程》、《Python URL操作技巧總結》、《Python圖片操作技巧總結》、《Python資料結構與演算法教程》、《Python Socket程式設計技巧總結》、《Python函式使用技巧總結》、《Python字串操作技巧彙總》及《Python檔案與目錄操作技巧彙總

希望本文所述對大家Python程式設計有所幫助。

您可能感興趣的文章:

Python多程序併發(multiprocessing)用法例項詳解Python中的併發程式設計例項python thread 併發且順序執行示例python實現代理服務功能例項Python使用代理抓取網站圖片(多執行緒)在python中的socket模組使用代理例項python實現簡單的TCP代理伺服器Python寫的Socks5協議代理伺服器Python代理抓取並驗證使用多執行緒實現python多執行緒threading.Lock鎖用法例項python多執行緒程式設計中的join函式使用心得淺析Python中的多程序與多執行緒的使用

相關文章

程式語言 最新文章