一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

又一個數據分析神器并行的計算庫——dask橫空出現!

人工智能與大數據技術 ? 來源:菜鳥編程大本營 ? 作者:菜鳥編程大本營 ? 2021-06-26 14:34 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

對于數據分析的工具,想必大家都或多或少的有一定的了解,常見的像是numpy和pandas更是大家日常使用的數據分析工具。但是面對大數據的處理時,像是numpy和pandas的在加載數據時,會看到內存用量的飆升,而dask卻可以將這些大的數據進行并行計算。

今天小編就帶領大家學習一個并行的計算庫——dask。dask可以幫助我們并行化處理pandas的DataFrame和numpy的計算,甚至是并行化處理機器學習算法

01.dask庫的使用介紹

dask庫可以很好的兼容pandas的DataFrame數據和numpy的array數據,此外,像是Sklearn、XGBoost等機器學習庫,dask也能夠支持。dask的官網(https://dask.org/)對于支持的庫有一個全面的展示。

dask庫的強大之處在于它擁有豐富的已有庫的兼容性,而且只需要改動很少的程序,就可以在自己的電腦上使用并行計算。

02.dask的安裝

對于dask庫的安裝,也非常的簡單,大家只需要在anaconda環(huán)境下運行conda install dask即可安裝。

03.dask庫的使用介紹

1).Numpy的array數據dask庫對于numpy的array數組操作也非常的簡潔。dask是將numpy的數組進行切分,切分成許多的block進行操作,對于小數據來說,可能優(yōu)勢不明顯,但是當數據集達到幾十G后,就能顯示出dask的優(yōu)勢。

上圖是利用dask進行array的操作,可以看到dask對于numpy數組的處理與numpy的操作并沒有很大的區(qū)別,如果對于numpy數組操作熟悉的話,那么上手dask的numpy數組也是非常簡單的。

2).Pandas的DataFrame數據

對于DataFrame數據,dask的操作同樣與pandas非常的類似。需要注意的是,當求分組的“x“列均值時,dask并沒有直接輸出結果,而是在運行s的compute()函后,才得到結果,這是與pandas不同的一點。

04.dask的Delayed

對于dask庫,Delayed模塊是它進行并行計算的核心,delayed 通過將需要計算的任務記錄在計算圖中,并在之后,將其并行運行在硬件上得到結果。由于不能立即得到結果,所以該模塊被稱為delayed。對于delayed模塊的使用。

可以看到,通過delayed裝飾器來修飾函數,在下一個計算框圖中定義z的計算,然后通過visualize函數來查看z的計算圖,如上圖右側所示。同時可以看到z的計算圖只需要不到1ms的時間即可完成。而z值的計算,同樣采用z.compute()進行計算即可。

05.對于機器學習算法的支持

對于dask機器學習的應用,可以安裝Dask-ML,Dask-ML是將Dask與流行的機器學習庫(例如sklearn,XGBoost等)進行結合,提供的并行化機器學習處理庫??梢岳?a href="http://www.www27dydycom.cn/tags/pi/" target="_blank">pip install dask-ml進行安裝。

有興趣的小伙伴可以安裝試一下,用慣了Pandas ,也可以試試換個口味了!

編輯:jq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數據
    +關注

    關注

    8

    文章

    7255

    瀏覽量

    91819
  • 函數
    +關注

    關注

    3

    文章

    4379

    瀏覽量

    64835
  • 機器學習
    +關注

    關注

    66

    文章

    8501

    瀏覽量

    134580

原文標題:再見Numpy,Pandas!又一個數據分析神器橫空出現!

文章出處:【微信號:TheBigData1024,微信公眾號:人工智能與大數據技術】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    Mathematica 在數據分析中的應用

    數據分析是現代科學研究和商業(yè)決策中不可或缺的部分。隨著數據量的爆炸性增長,對數據分析工具的需求也在不斷增加。Mathematica,作為
    的頭像 發(fā)表于 12-26 15:41 ?699次閱讀

    ClickHouse:強大的數據分析引擎

    ,是款開源的面向列的分布式數據庫管理系統(tǒng),以其卓越的性能和強大的數據分析能力在大數據領域備受矚目。 列式存儲 列式存儲是一種數據存儲結構,
    的頭像 發(fā)表于 12-10 10:23 ?541次閱讀
    ClickHouse:強大的<b class='flag-5'>數據分析</b>引擎

    數據可視化與數據分析的關系

    在當今這個信息爆炸的時代,數據無處不在。無論是企業(yè)運營、科學研究還是個人決策,我們都需要從海量的數據中提取有價值的信息。數據分析數據可視化作為兩
    的頭像 發(fā)表于 12-06 17:09 ?957次閱讀

    LLM在數據分析中的作用

    隨著大數據時代的到來,數據分析已經成為企業(yè)和組織決策的關鍵工具。數據科學家和分析師需要從海量數據中提取有價值的信息,以支持業(yè)務決策。在這個過
    的頭像 發(fā)表于 11-19 15:35 ?1117次閱讀

    如何使用SQL進行數據分析

    使用SQL進行數據分析強大且靈活的過程,它涉及從數據庫中提取、清洗、轉換和聚合數據,以便進行進
    的頭像 發(fā)表于 11-19 10:26 ?1356次閱讀

    eda與傳統(tǒng)數據分析的區(qū)別

    EDA(Exploratory Data Analysis,探索性數據分析)與傳統(tǒng)數據分析之間存在顯著的差異。以下是兩者的主要區(qū)別: 、分析目的和方法論 EDA 目的 :EDA的主要
    的頭像 發(fā)表于 11-13 10:52 ?882次閱讀

    為什么選擇eda進行數據分析

    數據科學領域,數據分析復雜且多步驟的過程,它涉及到數據的收集、清洗、探索、建模和解釋。在這些步驟中,探索性
    的頭像 發(fā)表于 11-13 10:41 ?750次閱讀

    raid 在大數據分析中的應用

    的具體應用: 、提高性能 并行讀寫 :RAID技術通過并行讀寫多個磁盤,可以顯著提高數據的讀寫速度。在大數據分析環(huán)境中,
    的頭像 發(fā)表于 11-12 09:44 ?723次閱讀

    SUMIF函數在數據分析中的應用

    在商業(yè)和科學研究中,數據分析項基本且關鍵的技能。Excel作為最常用的數據分析工具之,提供了多種函數來幫助用戶處理和分析
    的頭像 發(fā)表于 11-11 09:14 ?878次閱讀

    智能制造中的數據分析應用

    隨著工業(yè)4.0的推進,智能制造已經成為制造業(yè)轉型升級的關鍵。數據分析作為智能制造的核心驅動力,正逐步改變傳統(tǒng)的生產方式,為企業(yè)帶來更高的效率和更大的競爭力。 、數據分析在智能制造中的重要性 提高
    的頭像 發(fā)表于 11-07 09:56 ?874次閱讀

    emc技術在大數據分析中的角色

    在當今這個數據驅動的世界中,大數據分析已經成為企業(yè)獲取洞察力、優(yōu)化業(yè)務流程和提高競爭力的關鍵工具。隨著數據量的爆炸性增長,企業(yè)面臨著如何有效存儲、處理和分析這些
    的頭像 發(fā)表于 11-01 15:22 ?685次閱讀

    計算在大數據分析中的應用

    計算在大數據分析中的應用廣泛且深入,它為用戶提供了存儲、計算、分析和預測的強大能力。以下是對云計算在大
    的頭像 發(fā)表于 10-24 09:18 ?1114次閱讀

    使用AI大模型進行數據分析的技巧

    使用AI大模型進行數據分析的技巧涉及多個方面,以下是些關鍵的步驟和注意事項: 、明確任務目標和需求 在使用AI大模型之前,首先要明確數據分析的任務目標,這將直接影響模型的選擇、
    的頭像 發(fā)表于 10-23 15:14 ?2751次閱讀

    IP 地址大數據分析如何進行網絡優(yōu)化?

    、大數據分析在網絡優(yōu)化中的作用 1.流量分析數據分析可以對網絡中的流量進行實時監(jiān)測和分析,了解網絡的使用情況和流量趨勢。通過對流量
    的頭像 發(fā)表于 10-09 15:32 ?570次閱讀
    IP 地址大<b class='flag-5'>數據分析</b>如何進行網絡優(yōu)化?

    數據庫數據恢復—SQL Server數據庫出現823錯誤的數據恢復案例

    SQL Server數據庫故障: SQL Server附加數據庫出現錯誤823,附加數據庫失敗。數據庫沒有備份,無法通過備份恢復
    的頭像 發(fā)表于 09-20 11:46 ?701次閱讀
    <b class='flag-5'>數據庫</b><b class='flag-5'>數據</b>恢復—SQL Server<b class='flag-5'>數據庫</b><b class='flag-5'>出現</b>823錯誤的<b class='flag-5'>數據</b>恢復案例