一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

7riU_gh_3a181fa ? 來(lái)源:華為計(jì)算 ? 作者:華為計(jì)算 ? 2022-03-14 13:06 ? 次閱讀

全新的昇思MindSpore全場(chǎng)景AI框架1.6版本已發(fā)布。

此版本中昇思MindSpore全場(chǎng)景AI框架易用性不斷改進(jìn),提升了開(kāi)發(fā)效率,控制流性能提升并支持副作用訓(xùn)練,與此同時(shí),昇思MindSpore全場(chǎng)景AI框架發(fā)布高效易用的圖學(xué)習(xí)框架昇思MindSpore Graph Learning,高性能可擴(kuò)展的強(qiáng)化學(xué)習(xí)計(jì)算框架昇思MindSpore Reinforcement,提供支持第三方框架模型遷移工具,讓用戶(hù)即時(shí)體驗(yàn)的開(kāi)發(fā)套件昇思MindSpore Dev ToolKit,同時(shí)升級(jí)自定義算子能力支持高效添加算子,豐富MindSpore Quantum量子模塊支持可快速上手,持續(xù)提升框架的訓(xùn)練與推理性能。

下面就帶大家快速瀏覽昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性。

1. 服務(wù)開(kāi)發(fā)者

改進(jìn)易用性提升開(kāi)發(fā)效率

一系列用戶(hù)調(diào)研和訪談,對(duì)開(kāi)發(fā)者反饋較多的API問(wèn)題進(jìn)行整改優(yōu)化,并打造系列教程,幫助開(kāi)發(fā)者上手;同時(shí),昇思MindSpore全場(chǎng)景AI框架積極吸納開(kāi)發(fā)者參與內(nèi)容建設(shè),累計(jì)吸引142名外部開(kāi)發(fā)者貢獻(xiàn)610+技術(shù)干貨案例,覆蓋安裝、開(kāi)發(fā)調(diào)優(yōu)等關(guān)鍵場(chǎng)景,為開(kāi)發(fā)者提供經(jīng)驗(yàn)指導(dǎo)。

在調(diào)試、調(diào)優(yōu)等功能特性上,昇思MindSpore全場(chǎng)景AI框架進(jìn)行了系統(tǒng)的改進(jìn),幫助開(kāi)發(fā)者提升開(kāi)發(fā)效率:

在功能調(diào)試方面,支持靜態(tài)圖模式的問(wèn)題代碼堆棧打印、優(yōu)化錯(cuò)誤描述提升報(bào)錯(cuò)準(zhǔn)確性,為用戶(hù)提供更好的問(wèn)題處理體驗(yàn)。

昇思MindSpore Insight提供集群性能數(shù)據(jù)一鍵收集、并行策略分析、圖碼聯(lián)動(dòng)可視化調(diào)優(yōu)等功能,提升開(kāi)發(fā)者性能和精度調(diào)優(yōu)效率。

在ModelZoo模型方面,提供300+線上線下一致、覆蓋CV/NLP/推薦等領(lǐng)域、支持跨平臺(tái)部署的模型,并滿足人工智能計(jì)算中心、金融、制造、終端等行業(yè)需求?;谛掳姹靖咝дZ(yǔ)法,重構(gòu)Yolo v5等ModelZoo模型,為開(kāi)發(fā)者提供昇思MindSpore全場(chǎng)景AI框架模型最佳實(shí)踐。

2. 控制流支持副作用訓(xùn)練

持續(xù)優(yōu)化性能

在之前發(fā)布的昇思MindSpore全場(chǎng)景AI框架版本中,控制流訓(xùn)練場(chǎng)景下存在復(fù)制子圖的問(wèn)題,該問(wèn)題會(huì)導(dǎo)致執(zhí)行網(wǎng)絡(luò)性能變差、副作用訓(xùn)練場(chǎng)景結(jié)果不對(duì)等問(wèn)題。最新的昇思MindSpore全場(chǎng)景AI框架1.6.1版本,我們對(duì)控制流的IR表達(dá)設(shè)計(jì)進(jìn)行了重構(gòu),消除了不必要的圖復(fù)制,對(duì)控制流場(chǎng)景下各方面進(jìn)行了較大的優(yōu)化。

1. 支持訓(xùn)練場(chǎng)景使用Assign等副作用算子。

2. 優(yōu)化控制流子圖數(shù)量,反向網(wǎng)絡(luò)可直接復(fù)用正向圖算子結(jié)果,不需要重復(fù)計(jì)算正向圖,提升了執(zhí)行性能和編譯性能。

例如:AirNet網(wǎng)絡(luò)子圖數(shù)量由原來(lái)的162個(gè)降低至46個(gè),減少了大量冗余計(jì)算,執(zhí)行性能由12.3s/epoch優(yōu)化至5.8s/epoch。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

AirNet網(wǎng)絡(luò)優(yōu)化前后子圖數(shù)量與執(zhí)行性能對(duì)比

BFGS網(wǎng)絡(luò)子圖數(shù)量由原來(lái)的3236個(gè)降低至91個(gè),執(zhí)行性能由4.9s/epoch優(yōu)化至0.6s/epoch。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

BFGS網(wǎng)絡(luò)優(yōu)化前后子圖數(shù)量與執(zhí)行性能對(duì)比

3. 支持?jǐn)?shù)據(jù)無(wú)依賴(lài)子圖并行執(zhí)行,同時(shí)優(yōu)化了空子圖執(zhí)行流程,整體上提升控制流場(chǎng)景執(zhí)行性能。

例如:Mappo(Agent3)網(wǎng)絡(luò)優(yōu)化前后子圖數(shù)量無(wú)變化,但是由于我們優(yōu)化了無(wú)數(shù)據(jù)依賴(lài)的子圖的并行執(zhí)行能力和空子圖執(zhí)行過(guò)程,網(wǎng)絡(luò)最終執(zhí)行性能由2.5s/epoch提升至1.8s/epoch。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

Mappo(Agent3)網(wǎng)絡(luò)優(yōu)化前后子圖數(shù)量與執(zhí)行性能對(duì)比

3. 昇思MindSpore Graph Learning:

公式即代碼,訓(xùn)練加速3到4倍

圖數(shù)據(jù)能自然表達(dá)真實(shí)世界對(duì)象之間的關(guān)系,表征能力和可解釋性強(qiáng),圖學(xué)習(xí)也逐步廣泛應(yīng)用于電商推薦、金融風(fēng)控、藥物分子分析和控制優(yōu)化等場(chǎng)景,圖關(guān)系大都錯(cuò)綜復(fù)雜,數(shù)據(jù)規(guī)模較大,通常有數(shù)十億點(diǎn),數(shù)百億邊,點(diǎn)邊類(lèi)型有幾百種,圖神經(jīng)網(wǎng)絡(luò)計(jì)算更加復(fù)雜耗時(shí),因此迫切需要高效的圖神經(jīng)網(wǎng)絡(luò)系統(tǒng)。同時(shí),GNN算法的快速發(fā)展,需要易用的系統(tǒng)允許自由擴(kuò)展。

昇思MindSpore Graph Learning是由James Cheng課題組(香港中文大學(xué))、華為昇思MindSpore團(tuán)隊(duì)聯(lián)合研發(fā)的圖學(xué)習(xí)框架,具有高效性、易用性等特點(diǎn)。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

3.1易用性:公式即代碼

通過(guò)創(chuàng)新性的提出以節(jié)點(diǎn)為中心的編程范式,相較于消息傳遞范式,更貼近GNN算法邏輯和Python語(yǔ)言風(fēng)格,昇思MindSpore Graph Learning可以做到公式到代碼的直接映射,如下圖GAT網(wǎng)絡(luò)代碼所示?;诖?,用戶(hù)無(wú)需進(jìn)行任何函數(shù)封裝,即可快速直接地實(shí)現(xiàn)自定義的GNN算法/操作。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

3.2高效性:訓(xùn)練加速3到4倍

基于昇思MindSpore全場(chǎng)景AI框架的圖算融合和自動(dòng)算子編譯技術(shù)(AKG)特性,創(chuàng)新提出基于索引的非規(guī)則內(nèi)存訪問(wèn)算子融合,自動(dòng)識(shí)別GNN模型運(yùn)行任務(wù)特有執(zhí)行pattern并進(jìn)行融合和kernel level優(yōu)化。相較于其他框架對(duì)常用算子進(jìn)行定制優(yōu)化的方案更加靈活,更具擴(kuò)展性,能夠覆蓋現(xiàn)有框架中已有的算子和新組合算子的融合優(yōu)化。

以昇思MindSpore全場(chǎng)景AI框架作為后端,昇思MindSpore Graph Learning能使GNN網(wǎng)絡(luò)訓(xùn)練獲得3到4倍的性能加速。

3.3豐富性:覆蓋業(yè)界典型圖學(xué)習(xí)網(wǎng)絡(luò)

框架中已經(jīng)自帶實(shí)現(xiàn)十三種圖網(wǎng)絡(luò)學(xué)習(xí)模型,涵蓋同構(gòu)圖、異構(gòu)圖、 隨機(jī)游走等類(lèi)型的應(yīng)用網(wǎng)絡(luò)。

4. 高性能可擴(kuò)展的強(qiáng)化學(xué)習(xí)計(jì)算框架:

昇思MindSpore Reinforcement

強(qiáng)化學(xué)習(xí)(RL)是近年來(lái)AI領(lǐng)域的研究熱點(diǎn)之一,伴隨昇思MindSpore全場(chǎng)景AI框架 1.6版本推出了獨(dú)立的強(qiáng)化學(xué)習(xí)計(jì)算框架昇思MindSpore Reinforcement,通過(guò)框架中的Python 編程API以及算法與執(zhí)行分離的設(shè)計(jì)使其具有易編程,可擴(kuò)展等特點(diǎn),期望帶給用戶(hù)一個(gè)全新的開(kāi)發(fā)體驗(yàn)。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

在昇思MindSpore Reinforcement 0.2版本中提供了一套面向強(qiáng)化學(xué)習(xí)領(lǐng)域的Python編程API,例如Actor用于環(huán)境交互獲得獎(jiǎng)勵(lì),Learner學(xué)習(xí)并更新策略,以及Trainer用于控制算法邏輯等抽象,使整個(gè)算法結(jié)構(gòu)更加清晰、簡(jiǎn)潔,有助于高效的算法開(kāi)發(fā)和模塊復(fù)用;另外在倉(cāng)庫(kù)中內(nèi)置了一些經(jīng)典的強(qiáng)化學(xué)習(xí)算法,如DQN、PPO等(后續(xù)版本中將會(huì)持續(xù)更新),用戶(hù)可直接運(yùn)行其中的算法,或者基于Python API開(kāi)發(fā)新的單智能體以及多智能體強(qiáng)化學(xué)習(xí)算法。

昇思MindSpore Reinforcement在架構(gòu)設(shè)計(jì)上采用了算法表達(dá)和編譯執(zhí)行分離的設(shè)計(jì)思路,用戶(hù)僅需要專(zhuān)注于強(qiáng)化學(xué)習(xí)算法邏輯的Python實(shí)現(xiàn),依托于昇思MindSpore全場(chǎng)景AI框架強(qiáng)大的編譯優(yōu)化以及多硬件異構(gòu)加速能力,可以實(shí)現(xiàn)強(qiáng)化學(xué)習(xí)算法的多硬件協(xié)同計(jì)算加速。

在計(jì)算設(shè)備上,昇思MindSpore Reinforcement支持包括Ascend、GPU、CPU在內(nèi)的多硬件計(jì)算,當(dāng)前0.2版本已支持單機(jī)訓(xùn)練,后續(xù)版本將提供更強(qiáng)大的多智能體分布式訓(xùn)練能力,以及更加豐富的特性支持,敬請(qǐng)大家持續(xù)關(guān)注。

5. 自定義算子能力全面升級(jí)

統(tǒng)一Custom接口幫助用戶(hù)高效添加算子

隨著AI模型的迭代,昇思MindSpore全場(chǎng)景AI框架內(nèi)置的靜態(tài)的算子庫(kù)可能無(wú)法滿足用戶(hù)的需求,之前版本的昇思MindSpore全場(chǎng)景AI框架的自定義算子功能也存在著平臺(tái)覆蓋不到位,開(kāi)發(fā)過(guò)程繁瑣及第三方算子接入困難的問(wèn)題。

為了提供更好的自定義算子體驗(yàn),昇思MindSpore全場(chǎng)景AI框架1.6版本全面升級(jí)了自定義算子的能力,提供支撐包括Ascend,GPU和CPU在內(nèi)的多平臺(tái)的統(tǒng)一算子開(kāi)發(fā)接口Custom,幫助用戶(hù)在昇思MindSpore全場(chǎng)景AI框架方便快捷地進(jìn)行不同類(lèi)型自定義算子的定義和使用,可以滿足包括快速驗(yàn),實(shí)時(shí)編譯和第三方算子接入等不同場(chǎng)景下的用戶(hù)需求。

5.1多場(chǎng)景、多平臺(tái)的統(tǒng)一算子開(kāi)發(fā)接口

昇思MindSpore全場(chǎng)景AI框架1.6版本提供統(tǒng)一的算子開(kāi)發(fā)接口Custom,實(shí)現(xiàn)了不同方式自定義算子的接口和使用統(tǒng)一。其提供的模式包括基于JIT編譯的算子編譯器開(kāi)發(fā)模式、針對(duì)極致性能的aot模式和針對(duì)快速驗(yàn)證的pyfunc模式,方便網(wǎng)絡(luò)開(kāi)發(fā)者根據(jù)需要靈活選用不同的自定義方式。

此外統(tǒng)一的算子開(kāi)發(fā)接口整合了當(dāng)前昇思MindSpore全場(chǎng)景AI框架支持的不同平臺(tái),包括Ascend,GPU和CPU,以及新增的AICPU平臺(tái),減少了用戶(hù)針對(duì)不同平臺(tái)算子開(kāi)發(fā)的學(xué)習(xí)成本。

5.2自定義算子一鍵接入,方便快捷

昇思MindSpore全場(chǎng)景AI框架1.6版本提供的自定義算子可以幫助用戶(hù)在昇思MindSpore全場(chǎng)景AI框架的Python端快速的定義算子,把算子作為網(wǎng)絡(luò)表達(dá)的一部分,無(wú)需對(duì)昇思MindSpore全場(chǎng)景AI框架進(jìn)行侵入式修改和重新編譯。此外提供了自動(dòng)生成注冊(cè)信息的能力,實(shí)現(xiàn)自定義算子一鍵接入網(wǎng)絡(luò),極大的簡(jiǎn)化了自定義算子的開(kāi)發(fā)流程。用戶(hù)在使用時(shí)完全不感知框架相關(guān)的設(shè)定,讓用戶(hù)更加關(guān)注計(jì)算本身。

5.3新的自定義算子類(lèi)型支持:AICPU

昇思MindSpore全場(chǎng)景AI框架1.6版本新增了AICPU類(lèi)型算子的支持,該類(lèi)算子對(duì)應(yīng)的硬件架構(gòu)為ARM架構(gòu),采用aot模式編譯,可以快捷地部署到主流嵌入式平臺(tái)上。AICPU算子相對(duì)于TBE算子,擅長(zhǎng)邏輯類(lèi)操作,采用C/C++開(kāi)發(fā),類(lèi)似于CPU算子開(kāi)發(fā),對(duì)于一些難以向量化的算子,有較大的性能收益。

6. 模型遷移工具M(jìn)indConverter:

支持第三方框架模型的一鍵遷移

從第三方框架切換到昇思MindSpore全場(chǎng)景AI框架,如果不能復(fù)用原框架的存量主流模型,則需要重新編寫(xiě)模型訓(xùn)練腳本,并花費(fèi)周級(jí)甚至月級(jí)的時(shí)間進(jìn)行重訓(xùn)。

目前大量開(kāi)源模型基于PyTorch/TensorFlow實(shí)現(xiàn),如果想基于昇思MindSpore全場(chǎng)景AI框架進(jìn)行研究,則可能因?yàn)轭A(yù)訓(xùn)練數(shù)據(jù)無(wú)法獲取或者訓(xùn)練資源有限,難以在昇思MindSpore全場(chǎng)景AI框架下復(fù)現(xiàn)模型。

在昇思MindSpore全場(chǎng)景AI框架1.6版本中提供的模型遷移工具M(jìn)indConverter,可以幫助用戶(hù)快速實(shí)現(xiàn)第三方框架主流模型的一鍵遷移。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

工具采用了主流AI框架IR到昇思MindSpore IR的轉(zhuǎn)換方案,轉(zhuǎn)換后的模型可推理可重訓(xùn),模型腳本可讀性較好。模型遷移工具支持以下兩種轉(zhuǎn)換方式:

6.1基于ONNX IR轉(zhuǎn)換

ONNX是一種開(kāi)放式模型定義格式,業(yè)界主流AI框架均已支持將模型導(dǎo)出為ONNX格式。借助ONNX通用性,模型遷移工具可實(shí)現(xiàn)多種AI框架到昇思MindSpore全場(chǎng)景AI框架的轉(zhuǎn)換。

已驗(yàn)證支持ResNet系列、RegNet系列,HRNet系列,DeepLabV3系列,YOLO系列等模型。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

如上圖所示,將第三方框架模型導(dǎo)出成ONNX格式,然后使用模型遷移工具,映射轉(zhuǎn)換成昇思MindSpore全場(chǎng)景AI框架模型。

6.2基于TorchScript IR轉(zhuǎn)換

TorchScript是PyTorch模型的中間表達(dá),借助 TorchScript IR 的泛化性,模型遷移工具可覆蓋絕大部分的PyTorch模型。已驗(yàn)證支持HuggingFace Transformer預(yù)訓(xùn)練模型200+個(gè)。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

如上圖所示,將PyTorch框架模型轉(zhuǎn)換成TorchScript計(jì)算圖,然后使用模型遷移工具,映射轉(zhuǎn)換成昇思MindSpore全場(chǎng)景AI框架模型。

更多可支持轉(zhuǎn)換的模型,有待用戶(hù)發(fā)現(xiàn)與驗(yàn)證。使用模型遷移工具時(shí)如有問(wèn)題,請(qǐng)參考官網(wǎng)的使用手冊(cè),也歡迎在開(kāi)源社區(qū)中進(jìn)行反饋。

7. 使能用戶(hù)即時(shí)體驗(yàn)的開(kāi)發(fā)套件

昇思MindSpore Dev ToolKit

昇思MindSpore全場(chǎng)景AI框架功能豐富且強(qiáng)大,如何一鍵上手,快速試用?由昇思MindSpore團(tuán)隊(duì)推出的昇思MindSpore Dev ToolKit開(kāi)發(fā)套件包含運(yùn)行管理,智能知識(shí)搜索與智能代碼補(bǔ)全功能,致力于讓所有用戶(hù)絲滑地?cái)[脫環(huán)境干擾,學(xué)習(xí)人工智能,讓人工智能回歸算法本身。

7.1一鍵環(huán)境管理,5分鐘完成環(huán)境搭建上手昇思MindSpore全場(chǎng)景AI框架實(shí)踐

基于Conda提供科學(xué)的昇思MindSpore全場(chǎng)景AI框架環(huán)境管理方式,能快速將昇思MindSpore全場(chǎng)景AI框架及依賴(lài)安裝在獨(dú)立環(huán)境中并部署最佳實(shí)踐。該能力兼容Ascend、GPU、CPU多平臺(tái),隱蔽不同環(huán)境適配的繁瑣細(xì)節(jié),讓用戶(hù)在打開(kāi)IDE后一鍵運(yùn)行AI算法。最快能在5分鐘內(nèi)體驗(yàn)用昇思MindSpore全場(chǎng)景AI框架學(xué)AI的樂(lè)趣,內(nèi)測(cè)數(shù)據(jù)顯示80%的AI零基礎(chǔ)用戶(hù)使用該功能可在20分鐘內(nèi)完成環(huán)境配置與算法運(yùn)行。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

7.2 沉浸式昇思MindSpore全場(chǎng)景AI框架生態(tài)知識(shí)智能搜索,用戶(hù)零壓力接入昇思MindSpore生態(tài)

基于語(yǔ)義搜索等能力,在Dev Toolkit內(nèi)提供全面的昇思MindSpore全場(chǎng)景AI框架知識(shí)內(nèi)容檢索,對(duì)算子而言,PyTorch/TensorFlow框架用戶(hù)只需在IDE內(nèi)查詢(xún)相應(yīng)算子,即可快速準(zhǔn)確找到昇思MindSpore全場(chǎng)景AI框架中的對(duì)應(yīng)實(shí)現(xiàn)并獲得詳細(xì)文檔支持,從而無(wú)壓力切換到昇思MindSpore全場(chǎng)景AI框架生態(tài)中。

7.3 基于深度學(xué)習(xí)的智能代碼補(bǔ)全,單模型開(kāi)發(fā)鍵盤(pán)敲擊次數(shù)可減少30%

Dev Toolkit基于昇思MindSpore ModelZoo等最佳實(shí)踐數(shù)據(jù)集構(gòu)造的智能代碼補(bǔ)全模型實(shí)現(xiàn)的智能代碼補(bǔ)全功能,讓用戶(hù)在編寫(xiě)昇思MindSpore全場(chǎng)景AI框架相關(guān)代碼時(shí)獲取實(shí)時(shí)提示,補(bǔ)全達(dá)80%的高準(zhǔn)確性將加速用戶(hù)編碼,目前內(nèi)測(cè)數(shù)據(jù)顯示編碼時(shí)鍵盤(pán)敲擊次數(shù)可減少30%以上。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

8. 昇思MindSpore Lite

持續(xù)提升推理性能

8.1 通過(guò)異構(gòu)并行技術(shù),深度挖掘硬件算力提升推理性能

此版本中,昇思MindSpore Lite新增異構(gòu)并行功能,該功能感知異構(gòu)硬件能力,使能多個(gè)底層硬件并行執(zhí)行推理,最大限度利用端側(cè)有限的硬件資源,提升推理效率。

異構(gòu)并行功能會(huì)在構(gòu)圖階段,根據(jù)異構(gòu)硬件的能力進(jìn)行構(gòu)圖操作。構(gòu)圖操作分為切分算子與構(gòu)造異構(gòu)圖兩部分。切分算子會(huì)將原本不適合異構(gòu)并行的模型重構(gòu)成適合異構(gòu)并行的,且并行分支的運(yùn)算量能夠嚴(yán)格匹配異構(gòu)硬件的執(zhí)行能力。構(gòu)造異構(gòu)圖操作會(huì)根據(jù)模型現(xiàn)有的圖結(jié)構(gòu)進(jìn)行并行子圖搜索,最終確定異構(gòu)并行圖。構(gòu)圖的整體解決方案不局限于模型原始結(jié)構(gòu),使得異構(gòu)并行可以應(yīng)用于泛化模型。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

昇思MindSpore Lite在當(dāng)前版本實(shí)現(xiàn)了GPU與CPU的異構(gòu)并行,使用Mobilenet-V1網(wǎng)絡(luò)實(shí)測(cè)驗(yàn)證,有5%左右的性能提升。

8.2 優(yōu)化GPU推理性能,支持將OpenGL紋理數(shù)據(jù)作為輸入和輸出數(shù)據(jù)

此版本中,昇思MindSpore Lite支持將OpenGL紋理數(shù)據(jù)作為推理模型的輸入,推理輸出結(jié)果也為OpenGL紋理,實(shí)現(xiàn)端到端推理過(guò)程中,減少CPU和GPU間的數(shù)據(jù)拷貝,從而達(dá)到提升推理性能降低功耗的目的;相比上一版本,能夠減少四次設(shè)備間的內(nèi)存拷貝,示意如下圖:

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

9. MindSpore Quantum:

快速上手量子模擬與量子機(jī)器學(xué)習(xí)

MindSpore Quantum 最新0.5版本中提供獨(dú)立的量子模擬模塊Simulator,用戶(hù)可快速對(duì)自定義量子線路進(jìn)行模擬演化并對(duì)量子態(tài)進(jìn)行采樣,極大方便開(kāi)發(fā)者在MindSpore Quantum環(huán)境中設(shè)計(jì)和驗(yàn)證自己的量子算法。此外我們新增了量子線路和量子態(tài)采樣的展示模塊,開(kāi)發(fā)者也能直觀的對(duì)量子算法進(jìn)行修改。

新增量子線路繪制功能演示如下:

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

新增模擬器模塊及其線路采樣功能演示如下:

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

此版本的第二大特性是新增了多種量子神經(jīng)網(wǎng)絡(luò)算子,開(kāi)發(fā)者根據(jù)這些算子可以快速開(kāi)發(fā)量子經(jīng)典混合的機(jī)器學(xué)習(xí)模型,助力量子人工智能算法突破。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

10. 昇思MindSpore Science

蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)性能提升2-3倍

昇思MindSpore Science開(kāi)源了基于AlphaFold2【1】算法的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)推理工具,該預(yù)測(cè)推理工具由昇思MindSpore【2】團(tuán)隊(duì)、昌平實(shí)驗(yàn)室、北京大學(xué)生物醫(yī)學(xué)前沿創(chuàng)新中心(BIOPIC)和化學(xué)與分子工程學(xué)院、深圳灣實(shí)驗(yàn)室高毅勤教授課題組聯(lián)合推出,MindSpore + Ascend910 單卡端到端性能優(yōu)于原版AlphaFold2達(dá)2-3倍。

傳統(tǒng)的藥物設(shè)計(jì)研發(fā)周期長(zhǎng)、費(fèi)用高,而了解蛋白質(zhì)的空間結(jié)構(gòu)后可大幅縮短研發(fā)周期。因此,準(zhǔn)確、快速的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)不僅可以快速獲得或驗(yàn)證關(guān)鍵蛋白結(jié)構(gòu),而且在醫(yī)療健康和生物工程領(lǐng)域也能作為有力的工具。但傳統(tǒng)蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)方法存在計(jì)算精度不足的缺陷,而AlphaFold2的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)工具精度可與實(shí)驗(yàn)方法相媲美。

該工具可對(duì)氨基酸序列長(zhǎng)度2000+的蛋白質(zhì)結(jié)構(gòu)解析,能覆蓋約99%以上的蛋白序列【3】。其中模型部分與AlphaFold2相同,在多序列比對(duì)階段,采用了MMseqs2進(jìn)行序列檢索【4】,相比于原版算法端到端運(yùn)算速度有2-3倍的提升。

昇思MindSpore全場(chǎng)景AI框架1.6版本的關(guān)鍵特性

圖1 昇思MindSpore全場(chǎng)景AI框架模型與AlphaFold2精度對(duì)比

圖2 通過(guò)昇思MindSpore全場(chǎng)景AI框架預(yù)測(cè)的T1079

針對(duì)蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)及折疊問(wèn)題,聯(lián)合團(tuán)隊(duì)未來(lái)還會(huì)發(fā)布創(chuàng)新的全棧(算法+軟件+硬件)敬請(qǐng)期待。

原文標(biāo)題:昇思MindSpore全場(chǎng)景AI框架 1.6版本

文章出處:【微信公眾號(hào):華為計(jì)算】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

審核編輯:湯梓紅

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 數(shù)據(jù)
    +關(guān)注

    關(guān)注

    8

    文章

    7233

    瀏覽量

    90736
  • 軟件
    +關(guān)注

    關(guān)注

    69

    文章

    5093

    瀏覽量

    88770
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33554

    瀏覽量

    274203

原文標(biāo)題:昇思MindSpore全場(chǎng)景AI框架 1.6版本

文章出處:【微信號(hào):gh_3a181fa836b6,微信公眾號(hào):華為計(jì)算】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    華為全場(chǎng)景AI計(jì)算框架MindSpore源代碼公開(kāi)

    華為MindSpore首席科學(xué)家陳雷在會(huì)上宣布,華為全場(chǎng)景AI計(jì)算框架MindSpore正式開(kāi)源。
    的頭像 發(fā)表于 03-28 11:26 ?2930次閱讀

    華為AI計(jì)算框架MindSpore 1.2正式發(fā)布

    4月26日,華為開(kāi)發(fā)者大會(huì)2021(Cloud)期間(簡(jiǎn)稱(chēng)HDC. Cloud 2021),國(guó)內(nèi)首個(gè)支持千億參數(shù)大模型訓(xùn)練的AI計(jì)算框架MindSpore 1.2正式發(fā)布。最新1.2版本
    的頭像 發(fā)表于 04-30 10:44 ?2079次閱讀

    端邊云全場(chǎng)景統(tǒng)一的AI框架的挑戰(zhàn)和解決思路

    2020年的最后一天,MindSpore發(fā)布了1.1版本,1.1中很重要的特性是構(gòu)建了端邊云全場(chǎng)景統(tǒng)一的基礎(chǔ)架構(gòu):
    發(fā)表于 01-25 19:29 ?1次下載
    端邊云<b class='flag-5'>全場(chǎng)景</b>統(tǒng)一的<b class='flag-5'>AI</b><b class='flag-5'>框架</b>的挑戰(zhàn)和解決思路

    MindSpore TechDay直播倒計(jì)時(shí)

    1.6版本MindSpore全場(chǎng)景AI
    的頭像 發(fā)表于 03-26 08:55 ?1636次閱讀

    MindSpore蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)模型研發(fā)進(jìn)展

    近期,基于全場(chǎng)景AI框架MindSpore 開(kāi)發(fā)的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)模型在全球持續(xù)蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)
    的頭像 發(fā)表于 04-24 12:13 ?1502次閱讀

    全場(chǎng)景AI框架MindSpore獲得國(guó)際認(rèn)可

    近日,全場(chǎng)景AI框架MindSpore正式通過(guò)了全球第一獨(dú)立認(rèn)證機(jī)構(gòu)歐洲SGS Bright
    的頭像 發(fā)表于 04-26 10:08 ?1727次閱讀

    AI框架MindSpore獲得CC EAL2+證書(shū)

     近日,全場(chǎng)景AI框架MindSpore正式通過(guò)了全球第一獨(dú)立認(rèn)證機(jī)構(gòu)歐洲SGS Brigh
    的頭像 發(fā)表于 04-26 10:17 ?1737次閱讀

    如何更好地利用AI對(duì)遙感影像進(jìn)行智能解譯

    近日,基于AI,北京國(guó)遙新天地的遙感影像智能解譯平臺(tái)解決方案與騰Atlas系列硬件和全場(chǎng)景AI框架
    的頭像 發(fā)表于 08-25 09:04 ?3816次閱讀

    凌智電子LockzhinerAI V1.0與華為技術(shù)有限公司AI框架MindSpore完成兼容性測(cè)試

    凌智電子LockzhinerAI V1.0與華為技術(shù)有限公司AI框架MindSpore完成兼容性測(cè)試。 ?
    的頭像 發(fā)表于 01-30 18:02 ?2298次閱讀
    凌智電子LockzhinerAI V1.0與華為技術(shù)有限公司<b class='flag-5'>AI</b><b class='flag-5'>框架</b><b class='flag-5'>昇</b><b class='flag-5'>思</b><b class='flag-5'>MindSpore</b>完成兼容性測(cè)試

    人工智能框架生態(tài)峰會(huì)2023丨軟通動(dòng)力成為MindSpore開(kāi)源社區(qū)理事會(huì)首批成員單位

    參與者, 軟通動(dòng)力受邀出席本次大會(huì),加入MindSpore開(kāi)源社區(qū)理事會(huì),成為理事會(huì)首批成員單位 。 人工智能框架作為AI根技術(shù),在
    的頭像 發(fā)表于 06-16 23:45 ?633次閱讀

    凌智電子LockzhinerAI V1.0與華為技術(shù)有限公司AI框架MindSpore完成兼容性測(cè)試

    凌智電子LockzhinerAI V1.0與華為技術(shù)有限公司AI框架MindSpore完成兼容性測(cè)試
    的頭像 發(fā)表于 02-02 10:37 ?1137次閱讀
    凌智電子LockzhinerAI V1.0與華為技術(shù)有限公司<b class='flag-5'>AI</b><b class='flag-5'>框架</b><b class='flag-5'>昇</b><b class='flag-5'>思</b><b class='flag-5'>MindSpore</b>完成兼容性測(cè)試

    軟通動(dòng)力受邀參加“MindSpore AI框架”主題論壇,持續(xù)探索大模型創(chuàng)新實(shí)踐

    華為全聯(lián)接大會(huì)2023期間,華為舉辦了“MindSpore AI框架:引領(lǐng)大模型科學(xué)智能原生創(chuàng)新”主題論壇,軟通動(dòng)力數(shù)字化創(chuàng)新服務(wù)線高級(jí)
    的頭像 發(fā)表于 09-21 21:20 ?1020次閱讀

    香橙派與MindSpore合作提速,軟硬結(jié)合助力開(kāi)發(fā)者構(gòu)建創(chuàng)新AI應(yīng)用

    近日,MindSpore開(kāi)源社區(qū)與香橙派合作成果加速落地,持續(xù)為開(kāi)發(fā)者提供普惠的端側(cè)算力與好用的AI框架,軟硬結(jié)合助力高校
    的頭像 發(fā)表于 11-01 17:02 ?1112次閱讀
    香橙派與<b class='flag-5'>昇</b><b class='flag-5'>思</b><b class='flag-5'>MindSpore</b>合作提速,軟硬結(jié)合助力開(kāi)發(fā)者構(gòu)建創(chuàng)新<b class='flag-5'>AI</b>應(yīng)用

    MindSpore預(yù)測(cè)2024年中國(guó)AI框架市場(chǎng)份額將達(dá)30%

    近日在人工智能框架峰會(huì)上,中國(guó)科學(xué)院科技戰(zhàn)略咨詢(xún)研究院發(fā)布了一項(xiàng)重要預(yù)測(cè):到2024年,中國(guó)AI框架新增市場(chǎng)中,
    的頭像 發(fā)表于 12-17 10:02 ?372次閱讀

    DeepSeek V3MindSpore版本上線開(kāi)源社區(qū)

    近日,基于AI硬件與MindSpore AI框架
    的頭像 發(fā)表于 02-18 10:12 ?864次閱讀
    DeepSeek V3<b class='flag-5'>昇</b><b class='flag-5'>思</b><b class='flag-5'>MindSpore</b><b class='flag-5'>版本</b>上線開(kāi)源社區(qū)