一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

居然有比requests更強(qiáng)大Python庫(kù)出現(xiàn)

阿銘linux ? 來源:努力編程小伙 ? 作者:努力編程小伙 ? 2021-07-27 10:43 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

最近公司 Python 后端項(xiàng)目進(jìn)行重構(gòu),整個(gè)后端邏輯基本都變更為采用“異步”協(xié)程的方式實(shí)現(xiàn)??粗鴿M屏幕經(jīng)過 async await(協(xié)程在 Python 中的實(shí)現(xiàn))修飾的代碼,我頓時(shí)感到一臉懵逼,不知所措。

雖然之前有了解過“協(xié)程”是什么東西,但并沒有深入探索,于是正好借著這次機(jī)會(huì)可以好好學(xué)習(xí)一下。

什么是協(xié)程?

簡(jiǎn)單來說,協(xié)程是一種基于線程之上,但又比線程更加輕量級(jí)的存在。對(duì)于系統(tǒng)內(nèi)核來說,協(xié)程具有不可見的特性,所以這種由 程序員自己寫程序來管理 的輕量級(jí)線程又常被稱作 “用戶空間線程”。

協(xié)程比多線程好在哪呢?

1. 線程的控制權(quán)在操作系統(tǒng)手中,而 協(xié)程的控制權(quán)完全掌握在用戶自己手中,因此利用協(xié)程可以減少程序運(yùn)行時(shí)的上下文切換,有效提高程序運(yùn)行效率。

2. 建立線程時(shí),系統(tǒng)默認(rèn)分配給線程的 棧 大小是 1 M,而協(xié)程更輕量,接近 1 K 。因此可以在相同的內(nèi)存中開啟更多的協(xié)程。

3. 由于協(xié)程的本質(zhì)不是多線程而是單線程,所以不需要多線程的鎖機(jī)制。因?yàn)橹挥幸粋€(gè)線程,也不存在同時(shí)寫變量而引起的沖突。在協(xié)程中控制共享資源不需要加鎖,只需要判斷狀態(tài)即可。所以協(xié)程的執(zhí)行效率比多線程高很多,同時(shí)也有效避免了多線程中的競(jìng)爭(zhēng)關(guān)系。

協(xié)程的適用 & 不適用場(chǎng)景

適用場(chǎng)景:協(xié)程適用于被阻塞的,且需要大量并發(fā)的場(chǎng)景。

不適用場(chǎng)景:協(xié)程不適用于存在大量計(jì)算的場(chǎng)景(因?yàn)閰f(xié)程的本質(zhì)是單線程來回切換),如果遇到這種情況,還是應(yīng)該使用其他手段去解決。

初探異步 http 框架 httpx

至此我們對(duì) “協(xié)程” 應(yīng)該有了個(gè)大概的了解,但故事說到這里,相信有朋友還是滿臉疑問:“協(xié)程” 對(duì)于接口測(cè)試有什么幫助呢?不要著急,答案就在下面。

相信用過 Python 做接口測(cè)試的朋友都對(duì) requests 庫(kù)不陌生。requests 中實(shí)現(xiàn)的 http 請(qǐng)求是同步請(qǐng)求,但其實(shí)基于 http 請(qǐng)求 IO 阻塞的特性,非常適合用協(xié)程來實(shí)現(xiàn) “異步” http 請(qǐng)求從而提升測(cè)試效率。

相信早就有人注意到了這點(diǎn),于是在 Github 經(jīng)過了一番探索后,果不其然,最終尋找到了支持協(xié)程 “異步” 調(diào)用 http 的開源庫(kù): httpx

什么是 httpx

httpx 是一個(gè)幾乎繼承了所有 requests 的特性并且支持 “異步” http 請(qǐng)求的開源庫(kù)。簡(jiǎn)單來說,可以認(rèn)為 httpx 是強(qiáng)化版 requests。

下面大家可以跟著我一起見識(shí)一下 httpx 的強(qiáng)大

安裝

httpx 的安裝非常簡(jiǎn)單,在 Python 3.6 以上的環(huán)境執(zhí)行

pip install httpx

最佳實(shí)踐

俗話說得好,效率決定成敗。我分別使用了 httpx 異步 和 同步 的方式對(duì)批量 http 請(qǐng)求進(jìn)行了耗時(shí)比較,來一起看看結(jié)果吧~

首先來看看同步 http 請(qǐng)求的耗時(shí)表現(xiàn):

import asyncioimport httpximport threadingimport time

def sync_main(url, sign): response = httpx.get(url).status_code print(f‘sync_main: {threading.current_thread()}: {sign}: {response}’)

sync_start = time.time()[sync_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]sync_end = time.time()print(sync_end - sync_start)

代碼比較簡(jiǎn)單,可以看到在 sync_main 中則實(shí)現(xiàn)了同步 http 訪問百度 200 次。

運(yùn)行后輸出如下(截取了部分關(guān)鍵輸出。。。):

sync_main: 《_MainThread(MainThread, started 4471512512)》: 192: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 194: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 195: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 196: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 197: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 198: 200sync_main: 《_MainThread(MainThread, started 4471512512)》: 199: 20016.56578803062439

可以看到在上面的輸出中, 主線程沒有進(jìn)行切換(因?yàn)楸緛砭褪菃尉€程啊喂?。┱?qǐng)求按照順序執(zhí)行(因?yàn)槭峭秸?qǐng)求)。

程序運(yùn)行共耗時(shí) 16.6 秒

下面我們?cè)囋?“異步” http 請(qǐng)求:

import asyncioimport httpximport threadingimport time

client = httpx.AsyncClient()

async def async_main(url, sign): response = await client.get(url) status_code = response.status_code print(f‘a(chǎn)sync_main: {threading.current_thread()}: {sign}:{status_code}’)

loop = asyncio.get_event_loop()tasks = [async_main(url=‘http://www.baidu.com’, sign=i) for i in range(200)]async_start = time.time()loop.run_until_complete(asyncio.wait(tasks))async_end = time.time()loop.close()print(async_end - async_start)

上述代碼在 async_main 中用 async await 關(guān)鍵字實(shí)現(xiàn)了“異步” http,通過 asyncio ( 異步 io 庫(kù)請(qǐng)求百度首頁(yè) 200 次并打印出了耗時(shí)。

運(yùn)行代碼后可以看到如下輸出(截取了部分關(guān)鍵輸出。。。)

async_main: 《_MainThread(MainThread, started 4471512512)》: 56: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 99: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 67: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 93: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 125: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 193: 200async_main: 《_MainThread(MainThread, started 4471512512)》: 100: 2004.518340110778809

可以看到順序雖然是亂的(56,99,67.。。) (這是因?yàn)槌绦蛟趨f(xié)程間不停切換) 但是主線程并沒有切換 (協(xié)程本質(zhì)還是單線程 )。

程序共耗時(shí) 4.5 秒

比起同步請(qǐng)求耗時(shí)的 16.6 秒 縮短了接近 73 %!

俗話說得好,一步快,步步快。 在耗時(shí)方面,“異步” http 確實(shí)比同步 http 快了很多。當(dāng)然,“協(xié)程” 不僅僅能在請(qǐng)求效率方面賦能接口測(cè)試, 掌握 “協(xié)程”后,相信小伙伴們的技術(shù)水平也能提升一個(gè)臺(tái)階,從而設(shè)計(jì)出更優(yōu)秀的測(cè)試框架。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • python
    +關(guān)注

    關(guān)注

    56

    文章

    4827

    瀏覽量

    86743

原文標(biāo)題:比 requests 更強(qiáng)大 Python 庫(kù),讓你的爬蟲效率提高一倍

文章出處:【微信號(hào):aming_linux,微信公眾號(hào):阿銘linux】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    python入門圣經(jīng)-高清電子書(建議下載)

    和Pygal 等強(qiáng)大Python 庫(kù)和工具介紹,以及列表、字典、if 語(yǔ)句、類、文件與異常、代碼測(cè)試等內(nèi)容; 第二部分將理論付諸實(shí)踐,講解如何開發(fā)三個(gè)項(xiàng)目,包括簡(jiǎn)單的Python
    發(fā)表于 04-10 16:53

    使用Python實(shí)現(xiàn)xgboost教程

    裝: bash復(fù)制代碼conda install -c conda-forge xgboost 2. 導(dǎo)入必要的庫(kù) 在你的Python腳本或Jupyter Notebook中,導(dǎo)入必要的庫(kù)
    的頭像 發(fā)表于 01-19 11:21 ?1375次閱讀

    適用于MySQL和MariaDB的Python連接器:可靠的MySQL數(shù)據(jù)連接器和數(shù)據(jù)庫(kù)

    和 MariaDB 數(shù)據(jù)庫(kù)服務(wù)器以及托管數(shù)據(jù)庫(kù)服務(wù),以對(duì)存儲(chǔ)的數(shù)據(jù)執(zhí)行創(chuàng)建、讀取、更新和刪除操作。該解決方案完全實(shí)現(xiàn)了 Python DB API 2.0 規(guī)范,并作為 Windows、macOS
    的頭像 發(fā)表于 01-17 12:18 ?493次閱讀
    適用于MySQL和MariaDB的<b class='flag-5'>Python</b>連接器:可靠的MySQL數(shù)據(jù)連接器和數(shù)據(jù)<b class='flag-5'>庫(kù)</b>

    適用于Oracle的Python連接器:可訪問托管以及非托管的數(shù)據(jù)庫(kù)

    適用于 Oracle 的 Python 連接器 適用于 Oracle 的 Python 連接器是一種可靠的連接解決方案,用于從 Python 應(yīng)用程序訪問 Oracle 數(shù)據(jù)庫(kù)服務(wù)器和
    的頭像 發(fā)表于 01-14 10:30 ?472次閱讀

    使用Python進(jìn)行串口通信的案例

    當(dāng)然!以下是一個(gè)使用Python進(jìn)行串口通信的簡(jiǎn)單示例。這個(gè)示例展示了如何配置串口、發(fā)送數(shù)據(jù)以及接收數(shù)據(jù)。我們將使用 pyserial 庫(kù),這是一個(gè)非常流行的用于串口通信的Python庫(kù)
    的頭像 發(fā)表于 11-22 09:11 ?1466次閱讀

    NVIDIA發(fā)布cuPyNumeric加速計(jì)算庫(kù)

    該加速計(jì)算庫(kù)幫助科研人員無縫地?cái)U(kuò)展到強(qiáng)大的計(jì)算集群,并且無需修改 Python 代碼,推進(jìn)科學(xué)發(fā)現(xiàn)。
    的頭像 發(fā)表于 11-21 10:05 ?657次閱讀

    Python編程:處理網(wǎng)絡(luò)請(qǐng)求的代理技術(shù)

    在網(wǎng)絡(luò)編程中,代理技術(shù)扮演著至關(guān)重要的角色,尤其在處理網(wǎng)絡(luò)請(qǐng)求時(shí)。通過代理服務(wù)器,我們可以實(shí)現(xiàn)請(qǐng)求的轉(zhuǎn)發(fā)、緩存、負(fù)載均衡以及安全控制等功能。Python作為一種功能強(qiáng)大的編程語(yǔ)言,為提供了豐富的工具和庫(kù),以便敏捷地實(shí)現(xiàn)和處理網(wǎng)絡(luò)
    的頭像 發(fā)表于 11-12 07:23 ?542次閱讀

    Python庫(kù)解析:通過庫(kù)實(shí)現(xiàn)代理請(qǐng)求與數(shù)據(jù)抓取

    Python中,有多個(gè)庫(kù)可以幫助你實(shí)現(xiàn)代理請(qǐng)求和數(shù)據(jù)抓取。這些庫(kù)提供了豐富的功能和靈活的API,使得你可以輕松地發(fā)送HTTP請(qǐng)求、處理響應(yīng)、解析HTML/XML/JSON數(shù)據(jù),以及進(jìn)行復(fù)雜的網(wǎng)絡(luò)操作。
    的頭像 發(fā)表于 10-24 07:54 ?486次閱讀

    用運(yùn)放搭建的反相放大電路輸入為0V,輸出居然達(dá)到了2.2V,原因你能想到嗎?

    反相放大電路相信大家都很熟悉了,當(dāng)反相輸入端電壓為0V時(shí),我們期望的輸出電壓也應(yīng)該是0V,但是下面這個(gè)電路反相輸入端電壓為0V時(shí)輸出電壓居然有2.2V之高,原因何在呢?
    的頭像 發(fā)表于 10-21 11:16 ?3208次閱讀
    用運(yùn)放搭建的反相放大電路輸入為0V,輸出<b class='flag-5'>居然</b>達(dá)到了2.2V,原因你能想到嗎?

    數(shù)據(jù)庫(kù)數(shù)據(jù)恢復(fù)—SQL Server數(shù)據(jù)庫(kù)出現(xiàn)823錯(cuò)誤的數(shù)據(jù)恢復(fù)案例

    SQL Server數(shù)據(jù)庫(kù)故障: SQL Server附加數(shù)據(jù)庫(kù)出現(xiàn)錯(cuò)誤823,附加數(shù)據(jù)庫(kù)失敗。數(shù)據(jù)庫(kù)沒有備份,無法通過備份恢復(fù)數(shù)據(jù)
    的頭像 發(fā)表于 09-20 11:46 ?702次閱讀
    數(shù)據(jù)<b class='flag-5'>庫(kù)</b>數(shù)據(jù)恢復(fù)—SQL Server數(shù)據(jù)<b class='flag-5'>庫(kù)</b><b class='flag-5'>出現(xiàn)</b>823錯(cuò)誤的數(shù)據(jù)恢復(fù)案例

    如何利用python和API查詢IP地址?

    Python中,直接查詢IP地址的地理位置或詳細(xì)信息(如所屬國(guó)家、城市等)通常需要依賴外部API服務(wù),因?yàn)?b class='flag-5'>Python標(biāo)準(zhǔn)庫(kù)本身不提供直接查詢IP地址地理位置的功能。以下是一個(gè)使用reque
    發(fā)表于 08-28 11:55

    使用Python批量連接華為網(wǎng)絡(luò)設(shè)備

    隨著網(wǎng)絡(luò)規(guī)模的擴(kuò)大和設(shè)備數(shù)量的增加,手動(dòng)配置和管理每臺(tái)網(wǎng)絡(luò)設(shè)備變得越來越不現(xiàn)實(shí)。因此,自動(dòng)化工具和腳本變得尤為重要。Python語(yǔ)言以其簡(jiǎn)潔性和強(qiáng)大的第三方庫(kù)支持,成為了網(wǎng)絡(luò)自動(dòng)化領(lǐng)域的首選。本篇文章將詳細(xì)介紹如何使用
    的頭像 發(fā)表于 08-12 17:48 ?912次閱讀

    pytorch和python的關(guān)系是什么

    在當(dāng)今的人工智能領(lǐng)域,Python已經(jīng)成為了最受歡迎的編程語(yǔ)言之一。Python的易學(xué)易用、豐富的庫(kù)和框架以及強(qiáng)大的社區(qū)支持,使其成為了數(shù)據(jù)科學(xué)、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等領(lǐng)域的首選語(yǔ)言。而
    的頭像 發(fā)表于 08-01 15:27 ?3282次閱讀

    Python建模算法與應(yīng)用

    Python作為一種功能強(qiáng)大、免費(fèi)、開源且面向?qū)ο蟮木幊陶Z(yǔ)言,在科學(xué)計(jì)算、數(shù)學(xué)建模、數(shù)據(jù)分析等領(lǐng)域展現(xiàn)出了卓越的性能。其簡(jiǎn)潔的語(yǔ)法、對(duì)動(dòng)態(tài)輸入的支持以及解釋性語(yǔ)言的本質(zhì),使得Python在多個(gè)平臺(tái)
    的頭像 發(fā)表于 07-24 10:41 ?1263次閱讀

    Python自動(dòng)訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)

    人工神經(jīng)網(wǎng)絡(luò)(ANN)是機(jī)器學(xué)習(xí)中一種重要的模型,它模仿了人腦神經(jīng)元的工作方式,通過多層節(jié)點(diǎn)(神經(jīng)元)之間的連接和權(quán)重調(diào)整來學(xué)習(xí)和解決問題。Python由于其強(qiáng)大庫(kù)支持(如TensorFlow、PyTorch等),成為了實(shí)現(xiàn)和
    的頭像 發(fā)表于 07-19 11:54 ?702次閱讀