TensorFlow依舊有王者榮耀,但PyTorch虎視眈眈。
今天,PyTorch官方在GitHub發(fā)布0.4.0版本,最重要的改進(jìn)是支持Windows系統(tǒng)。
PyTorch是在2017年1月由Facebook推出的。它是經(jīng)典機(jī)器學(xué)習(xí)庫Torch框架的一個端口,Torch二進(jìn)制文件包裝于GPU加速的Python。
除了GPU加速和內(nèi)存使用的高效外,PyTorch受歡迎的主要因素是動態(tài)計算圖的使用。已經(jīng)有其他一些不太知名的深度學(xué)習(xí)框架使用動態(tài)計算圖,例如Chainer。
動態(tài)圖的優(yōu)點(diǎn)在于,圖(graph)是由run定義(“define by run”),而不是傳統(tǒng)的“define and run”。特別是,在輸入可以變化的情況下,例如文本這樣的非結(jié)構(gòu)化數(shù)據(jù),這非常有用而且高效。
圖:PyTorch動態(tài)計算圖 - 來源:http://pytorch.org/about/
以下為更新內(nèi)容目錄:
主要核心變更
Tensor/Variable合并
零維張量
dtypes
遷移指南
新功能
張量
全面支持高級索引
快速傅立葉變換
權(quán)衡內(nèi)存計算
bottleneck - 一個在你的代碼中識別hotspots的工具
torch.distributions
24個基本概率分布
增加了cdf,方差,熵,困惑度(perplexity)等。
分布式訓(xùn)練
易于使用的Launcher utility
NCCL2后端
C ++擴(kuò)展
Windows支持
ONNX改進(jìn)
RNN支持
性能改進(jìn)
Bug修復(fù)
主要核心變化
以下是用戶每天使用的最重要的核心功能的更新。
主要變化和潛在的重要更新:
Tensors和Variables已經(jīng)合并
有些操作會返回0維(標(biāo)量)Tensors
棄用了volatileflag
改進(jìn):
添加了dtypes,devices和 Numpy 風(fēng)格的Tensor創(chuàng)建函數(shù)
支持編寫與device無關(guān)的代碼
PyTorch團(tuán)隊編寫了一個遷移指南,幫助用戶將代碼轉(zhuǎn)換為新的API和style。如果您想要遷移以前版本的PyTorch中的代碼。
遷移指南:http://pytorch.org/2018/04/22/0_4_0-migration-guide.html
本部分的內(nèi)容(主要核心變更)包含在遷移指南中。
合并Tensor和Variable類
torch.autograd.Variable和torch.Tensor現(xiàn)在是同一類。更確切地說,torch.Tensor能夠跟蹤歷史并像舊的Variable一樣運(yùn)行;Variable的換行繼續(xù)像以前一樣工作,但返回的對象類型變成torch.Tensor。這意味著你不再需要將代碼中的任何Variable wrapper。
Tensor的type( )已經(jīng)改變
還要注意Tensor的type( )不再反映數(shù)據(jù)類型。使用isinstance()或x.type()來代替:
Windows支持
PyTorch現(xiàn)在正式支持Windows!我們?yōu)镻ython 3.5和3.6提供預(yù)編譯的Conda二進(jìn)制文件和pip wheels。Windows上的PyTorch不支持分布式訓(xùn)練,可能比Linux / OSX慢一點(diǎn),因為Visual Studio支持較早版本的OpenMP。
與往常一樣,你可以使用http://pytorch.org上的命令在Windows上安裝PyTorch。
-
WINDOWS
+關(guān)注
關(guān)注
4文章
3614瀏覽量
91418 -
API
+關(guān)注
關(guān)注
2文章
1620瀏覽量
64057 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8503瀏覽量
134628 -
pytorch
+關(guān)注
關(guān)注
2文章
809瀏覽量
13963
原文標(biāo)題:年度最大更新!PyTorch 0.4:完全改變API,官方支持Windows
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
龍芯處理器支持WINDOWS嗎?
摩爾線程發(fā)布Torch-MUSA v2.0.0版本 支持原生FP8和PyTorch 2.5.0
Windows Arm64托管運(yùn)行器正式支持GitHub Actions
芯來科技發(fā)布Nuclei Studio 2025.02版本

ABViewer 15.2版本現(xiàn)已發(fā)布
AMD發(fā)布Ryzen Master軟件2.14.1.3286版本
PyTorch 2.5.1: Bugs修復(fù)版發(fā)布

特斯拉FSD V13.2版本正式發(fā)布
淺談Xpedition 2409版本的新功能
GitHub Copilot引入多模型支持
實時網(wǎng)絡(luò)的仿真和配置工具RTaW Pegase v4.6版本更新

評論