DeepCube 宣布推出唯一基于軟件的推理加速器,該加速器可大幅提高任何現(xiàn)有硬件上的深度學(xué)習(xí)性能。
如今,深度學(xué)習(xí)部署非常有限,并且主要針對(duì)云進(jìn)行了優(yōu)化。并且,即使在這些情況下,由于密集的計(jì)算需求,它們也會(huì)產(chǎn)生大量的處理成本,顯著的內(nèi)存需求以及昂貴的電源成本。這些挑戰(zhàn)也困擾著在邊緣設(shè)備上進(jìn)行深度學(xué)習(xí)部署,包括無(wú)人機(jī),移動(dòng)設(shè)備,安全攝像機(jī),農(nóng)業(yè)機(jī)器人,醫(yī)療診斷工具等,而深度神經(jīng)網(wǎng)絡(luò)的當(dāng)前規(guī)模和速度限制了它們的潛力。
DeepCube專注于深度學(xué)習(xí)技術(shù)的研發(fā),這些技術(shù)可改善AI系統(tǒng)的實(shí)際部署。該公司的眾多專利創(chuàng)新包括更快,更準(zhǔn)確地訓(xùn)練深度學(xué)習(xí)模型的方法,以及在智能邊緣設(shè)備上大大提高的推理性能的方法。DeepCube的專有框架可以部署在數(shù)據(jù)中心和邊緣設(shè)備中的任何現(xiàn)有硬件(CPU,GPU,ASIC)之上,從而使速度提高和內(nèi)存減少超過(guò)10倍。
DeepCube聯(lián)合創(chuàng)始人Eli David博士說(shuō):“許多深度學(xué)習(xí)框架是由研究人員為研究人員開(kāi)發(fā)的,不適用于商業(yè)部署,因?yàn)樗鼈兪艿郊夹g(shù)限制和現(xiàn)實(shí)應(yīng)用中高成本要求的阻礙?!?。“ DeepCube的技術(shù)可以在自動(dòng)駕駛汽車,農(nóng)業(yè)機(jī)械,無(wú)人機(jī)中實(shí)現(xiàn)真正的深度學(xué)習(xí)功能,甚至可以幫助潛在地監(jiān)視和預(yù)防未來(lái)的全球健康危機(jī),就像我們?cè)?020年面臨的危機(jī)一樣?!?/p>
受到人腦在幼兒時(shí)期的發(fā)育方式的啟發(fā),DeepCube的專利技術(shù)在訓(xùn)練階段不斷重構(gòu)和稀疏深度學(xué)習(xí)模型,以保持高精度并大大減小AI模型的大小。幾家最大的半導(dǎo)體公司已經(jīng)在使用DeepCube的技術(shù)來(lái)顯著提高速度,并減少用于深度學(xué)習(xí)推理的內(nèi)存,同時(shí)降低精度。
DeepCube由Eli David博士和Yaron Eitan博士共同創(chuàng)立,他們不僅在深度學(xué)習(xí)研究和實(shí)際執(zhí)行中,而且在技術(shù)企業(yè)家精神方面都擁有數(shù)十年的經(jīng)驗(yàn)。 Eli David博士 是領(lǐng)先的深度學(xué)習(xí)專家,在領(lǐng)先的人工智能期刊和會(huì)議上發(fā)表了五十多篇論文,主要關(guān)注深度學(xué)習(xí)和遺傳算法在各種現(xiàn)實(shí)世界中的應(yīng)用。在加入DeepCube之前,David博士與他人共同創(chuàng)立了世界經(jīng)濟(jì)論壇技術(shù)先驅(qū)Deep Instinct,并且是第一家將深度學(xué)習(xí)應(yīng)用于網(wǎng)絡(luò)安全的公司。Yaron Eitan是一位連續(xù)技術(shù)企業(yè)家和投資者,擁有三十多年的經(jīng)驗(yàn),他將用于指導(dǎo)DeepCube的業(yè)務(wù)執(zhí)行。
“我們通過(guò)POC產(chǎn)生的初步改進(jìn)表明,該技術(shù)可以在任何部門或行業(yè)的整個(gè)AI部署市場(chǎng)中實(shí)現(xiàn)真正的深度學(xué)習(xí)功能,這對(duì)于AI繼續(xù)滲透新市場(chǎng)并極大地改進(jìn)AI流程至關(guān)重要。 DeepCube聯(lián)合創(chuàng)始人Yaron Eitan補(bǔ)充說(shuō),像醫(yī)學(xué)領(lǐng)域這樣的行業(yè)最需要它。
迄今為止,DeepCube已經(jīng)獲得了四項(xiàng)專利,此外還申請(qǐng)了另外四項(xiàng)專利。
-
加速器
+關(guān)注
關(guān)注
2文章
827瀏覽量
39121 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5561瀏覽量
122794
發(fā)布評(píng)論請(qǐng)先 登錄
研華科技推出緊湊型邊緣AI推理系統(tǒng)AIR-120
大模型推理顯存和計(jì)算量估計(jì)方法研究
粒子加速器?——?科技前沿的核心裝置

第三期 “亞馬遜云科技創(chuàng)業(yè)加速器” 正式啟動(dòng)
小型加速器中子源監(jiān)測(cè)系統(tǒng)解決方案

英特爾Gaudi 2D AI加速器助力DeepSeek Janus Pro模型性能提升
MathWorks與長(zhǎng)三角國(guó)創(chuàng)中心合作啟動(dòng)加速器項(xiàng)目
長(zhǎng)三角國(guó)創(chuàng)中心加入面向初創(chuàng)企業(yè)的MathWorks加速器合作項(xiàng)目

IBM將在云平臺(tái)部署AMD加速器
IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器
微軟攜手英偉達(dá)與GitHub推出生成式AI加速器
AMD助力HyperAccel開(kāi)發(fā)全新AI推理服務(wù)器

評(píng)論