GTC 2023：阿里巴巴CUTLASS優(yōu)化探索推薦系統(tǒng)中的應(yīng)用
推薦系統(tǒng)簡介
背景：
●場景多，模型計算復(fù)雜度高;
●流量大，對實時性要求高;
●占用硬件資源多，硬件成本高;
●模型結(jié)構(gòu)存在- -致性，可通過定制算子獲得加速;
以TensorFlow為backend ，算子數(shù)量多;此前，我們通過算子融合（類Faster Transformer），CUDA Graph等手段已經(jīng)取得了不錯的性能提升;利用CUTLASS進一步優(yōu)化Attention和MLP計算， 可進步提升資源利用率。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
gpu
+關(guān)注
關(guān)注
28文章
4949瀏覽量
131312 -
阿里巴巴
+關(guān)注
關(guān)注
7文章
1638瀏覽量
48248 -
推薦系統(tǒng)
+關(guān)注
關(guān)注
1文章
44瀏覽量
10260 -
gtc
+關(guān)注
關(guān)注
0文章
73瀏覽量
4604
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
榮邦佳業(yè)有阿里巴巴啦
服務(wù)，是全球首家擁有百萬商人的商務(wù)網(wǎng)站。在全球網(wǎng)站瀏覽量排名中，穩(wěn)居國際商務(wù)及貿(mào)易類網(wǎng)站第一。而近年來，越來越多的行業(yè)，走向了網(wǎng)絡(luò)營銷的方式。首選阿里巴巴。企業(yè)與企業(yè)之間交流的最好平臺，采購商與供應(yīng)商
發(fā)表于 04-15 10:04
《阿里巴巴Android開發(fā)手冊》正式發(fā)布，獻給移動開發(fā)者的新年禮物
，這些App依然可以做到“絲般順滑”。在這背后，是阿里巴巴移動開發(fā)團隊的不斷探索和優(yōu)化，久而久之，這些經(jīng)驗匯總成了一套完善的開發(fā)規(guī)范，指導(dǎo)工程師開發(fā)出體驗好、性能優(yōu)、穩(wěn)定性佳、安全性高的App。該開發(fā)
發(fā)表于 02-28 16:29
阿里巴巴敏捷研發(fā)的探索與實踐
教練何勉、張迎輝、張燎原為大家分享阿里巴巴的敏捷實踐，從中大家可以了解到互聯(lián)網(wǎng)產(chǎn)品全生命周期的探索和創(chuàng)新方法，看板方法如何助力阿里健康醫(yī)藥B2B業(yè)務(wù)發(fā)展，以及與敏捷教練一起互動交流如何將敏捷理念實施
發(fā)表于 03-07 17:26
阿里巴巴大數(shù)據(jù)實踐之?dāng)?shù)據(jù)建模
的數(shù)據(jù)倉庫模型建設(shè)經(jīng)歷了多個發(fā)展階段。第一個階段：完全應(yīng)用驅(qū)動的時代，阿里巴巴的第一代數(shù)據(jù)倉庫系統(tǒng)構(gòu)建在Oracle上，數(shù)據(jù)完全以滿足報表需求為目的，將數(shù)據(jù)以與源結(jié)構(gòu)相同的方式同步到Oracle（稱作
發(fā)表于 03-14 17:23
“阿里巴巴大數(shù)據(jù)系統(tǒng)體系”四大層次
。 阿里巴巴作為距離大數(shù)據(jù)最近的公司之一，既有豐富的數(shù)據(jù)資源也有豐富的應(yīng)用場景，從它建構(gòu)的大數(shù)據(jù)體系了解“大數(shù)據(jù)”這條生態(tài)鏈的全貌，我認(rèn)為是比較科學(xué)的。 “阿里巴巴大數(shù)據(jù)系統(tǒng)體系”設(shè)計原則：滿足不斷
發(fā)表于 08-29 16:19
國內(nèi)芯片—阿里巴巴的人工智能實力
的天貓精靈車載版語音交互系統(tǒng)將首先搭載在沃爾沃汽車上，其體驗版出現(xiàn)在了2018年云棲大會的阿里巴巴人工智能實驗展臺，引人關(guān)注。阿里巴巴人工智能實驗室連續(xù)發(fā)布了幾款黑科技，為用戶搭建了一個圍繞倉、機器人
發(fā)表于 09-27 17:54
阿里巴巴無線空口提案正式成為LoRa國際標(biāo)準(zhǔn)
過長達2年與國際相關(guān)技術(shù)專家反復(fù)研究論證的不懈努力，LoRa聯(lián)盟批準(zhǔn)發(fā)布阿里巴巴提交的《LoRaWAN CN470頻譜技術(shù)標(biāo)準(zhǔn)》提案成為正式國際標(biāo)準(zhǔn)，該標(biāo)準(zhǔn)中的很多方案設(shè)計，例如全雙工設(shè)計與經(jīng)濟的天線
發(fā)表于 12-13 10:10
阿里巴巴ai模型破世界紀(jì)錄_阿里巴巴的人工智能未來發(fā)展解析
阿里巴巴近日再爆大事件，阿里巴巴ai模型在閱讀理解領(lǐng)域頂級賽事SQuAD破世界紀(jì)錄引起大家的高度關(guān)注，跟隨小編一起來了解一下是什么情況，看看阿里巴巴人工智能的未來發(fā)展趨勢以及全球人工智能的未來發(fā)展趨勢是什么。
發(fā)表于 01-16 11:47
?1834次閱讀
阿里巴巴回應(yīng)“收縮招聘”：系假新聞，只是阿里巴巴近期的一次人才盤點和人才體系升級
速途網(wǎng)10月23日消息(報道：吳佳馨)近日有傳言稱，阿里巴巴已縮減headcount，所有業(yè)務(wù)線不批offer。今日下午，阿里巴巴對此傳言做出回應(yīng)，稱該消息為假新聞，這只是阿里巴巴近期的一次人才盤點
發(fā)表于 10-25 11:15
?494次閱讀
阿里巴巴馬云占股份多少？阿里巴巴馬云持股比例？目前馬云持股降至4.8%
馬云在阿里巴巴占多少股份你知道嗎？之前大概馬云在阿里巴巴的持股比例為7%，現(xiàn)在馬云在阿里持股降至5%以下但是仍為最大個人股東。
發(fā)表于 07-13 17:02
?2.7w次閱讀
阿里巴巴發(fā)布阿里云量子開發(fā)平臺
今日，阿里巴巴發(fā)布阿里云量子開發(fā)平臺（ACQDP），并全面開源量子模擬器“太章2.0”，支持從業(yè)人員設(shè)計量子硬件、測試量子算法，并探索在材料、分子發(fā)現(xiàn)、優(yōu)化問題、機器學(xué)習(xí)等領(lǐng)域內(nèi)的應(yīng)用
阿里巴巴注冊元宇宙
近日，阿里巴巴元宇宙商標(biāo)已經(jīng)被其他公司搶注，目前商標(biāo)狀態(tài)均為申請中。阿里巴巴通過成立XR 實驗室逐步實現(xiàn)元宇宙的四個階段布局，擁抱元宇宙。
鐳神智能入選阿里巴巴諸神之戰(zhàn)2023年度智能制造賽道之星
近日，阿里云發(fā)布《Create@阿里巴巴諸神之戰(zhàn)2023年度新勢力榜單》，鐳神智能入選Create@阿里巴巴諸神之戰(zhàn)2023年度智能制造賽道
工商網(wǎng)監(jiān)
評論