資料介紹
軟件簡(jiǎn)介
Facebook 開源了 FBGEMM,一個(gè)針對(duì)服務(wù)器推理優(yōu)化的高性能核心庫(kù)。 與其他庫(kù)不同,F(xiàn)BGEMM 最大程度優(yōu)化了 CPU 性能,通過(guò)降低精度計(jì)算來(lái)加速深度學(xué)習(xí)模型。 目前 Facebook 已經(jīng)在自己的服務(wù)中使用該庫(kù),與目前的生產(chǎn)基準(zhǔn)相比,它帶來(lái)了兩倍的性能提升。
FBGEMM 的最大特點(diǎn)是優(yōu)化低精度數(shù)據(jù)。 與科學(xué)計(jì)算中使用的傳統(tǒng)線性代數(shù)庫(kù)不同,F(xiàn)BGEMM 不使用 FP32 或 FP64 精度,可以為小批量提供有效的低精度通用矩陣乘法(GEMM)運(yùn)算,并支持精確損失最小化技術(shù),例如行式(Row-wise)量化和異常值感知量化。
FBGEMM 已在 Facebook 上大規(guī)模部署,加速了許多端到端人工智能服務(wù),包括將英語(yǔ)翻譯成西班牙語(yǔ)的速度提高 1.3 倍,減少了 40% 的推薦系統(tǒng)信息源動(dòng)態(tài)內(nèi)存帶寬的使用 ,并將機(jī)器學(xué)習(xí)系統(tǒng) Rosetta 的字符檢測(cè)速度提升2.4倍(Rosetta 是 Facebook 用來(lái)理解文本,圖像和視頻內(nèi)容的系統(tǒng)。)
- 差分晶振在AI服務(wù)器中的應(yīng)用案例
- TCP通信服務(wù)器端和客戶端同機(jī)互傳的簡(jiǎn)單示例程序免費(fèi)下載 9次下載
- Java程序設(shè)計(jì)教程之Java WEB服務(wù)器端編程的詳細(xì)資料說(shuō)明 11次下載
- 網(wǎng)絡(luò)調(diào)試和串口調(diào)試集合UDP TCP客戶端和TCP服務(wù)器端應(yīng)用程序免費(fèi)下載 16次下載
- 基于netlink的linux服務(wù)器集群統(tǒng)一外設(shè)事件監(jiān)聽機(jī)制 6次下載
- 機(jī)載航電系統(tǒng)地面試驗(yàn)?zāi)M器服務(wù)器端的研究與實(shí)現(xiàn)_沈科宇 0次下載
- 波浪浮標(biāo)服務(wù)器端軟件設(shè)計(jì)_吳子岳 0次下載
- VC++程序開發(fā)范例寶典之StdAfx服務(wù)器端 2次下載
- VC++程序開發(fā)范例寶典之StdAfx服務(wù)器端 3次下載
- JAVA教程之TCP服務(wù)器端 10次下載
- Delphi教程之建立數(shù)據(jù)查詢WebServices服務(wù)器端 6次下載
- 標(biāo)準(zhǔn)服務(wù)器簡(jiǎn)化WAN優(yōu)化 0次下載
- 淘寶商品推廣系統(tǒng)服務(wù)器端軟件的設(shè)計(jì)與實(shí)現(xiàn) 12次下載
- VOD視頻服務(wù)器測(cè)試與配置優(yōu)化研究 31次下載
- 服務(wù)器端腳本與動(dòng)態(tài)網(wǎng)頁(yè)設(shè)計(jì),下載 0次下載
- 如何找到連接到服務(wù)器的客戶端計(jì)算機(jī)的IP地址 1727次閱讀
- 使用推理服務(wù)器加速大型Transformer模型的推理 1392次閱讀
- 在服務(wù)器端使用內(nèi)存來(lái)存儲(chǔ)客戶端發(fā)送過(guò)來(lái)的數(shù)據(jù) 1199次閱讀
- 數(shù)據(jù)是怎么樣保證準(zhǔn)確的從客戶端發(fā)送到服務(wù)器端 2123次閱讀
- Merlin HugeCTR 分級(jí)參數(shù)服務(wù)器簡(jiǎn)介 1551次閱讀
- 常見的服務(wù)器有哪些?5款常見的應(yīng)用服務(wù)器介紹 1.5w次閱讀
- 如何管理刀片服務(wù)器?普通服務(wù)器與高防服務(wù)器有什么樣的區(qū)別 1509次閱讀
- 在RDMA網(wǎng)絡(luò)中如何合理設(shè)置MMU水線,解決服務(wù)器端數(shù)據(jù)延遲問(wèn)題 3648次閱讀
- 服務(wù)器端模式下的TCP通信 4572次閱讀
- 服務(wù)器端發(fā)票識(shí)別api接口 2686次閱讀
- TCP實(shí)現(xiàn)服務(wù)器與客戶端的通信流程實(shí)例 1.2w次閱讀
- 串口服務(wù)器工作原理及使用方法 1w次閱讀
- 應(yīng)用服務(wù)器和數(shù)據(jù)庫(kù)服務(wù)器有什么區(qū)別 1.8w次閱讀
- 應(yīng)用服務(wù)器和數(shù)據(jù)庫(kù)服務(wù)器怎么連接 2.8w次閱讀
- 基于LBS的Android校園服務(wù)APP客戶端的設(shè)計(jì) 3644次閱讀
下載排行
本周
- 1人形機(jī)器人電機(jī)驅(qū)動(dòng)和傳感報(bào)告
- 4.27 MB | 9次下載 | 免費(fèi)
- 2Altium Designer元件庫(kù)
- 17.11 MB | 6次下載 | 免費(fèi)
- 324V2A開關(guān)電源PCB資料分享
- 0.23 MB | 4次下載 | 1 積分
- 4GD100PIX120C6SNA規(guī)格書
- 0.98 MB | 3次下載 | 免費(fèi)
- 5Multisim模擬電路仿真教程
- 1.93 MB | 1次下載 | 3 積分
- 6BK7258英文規(guī)格書
- 1.67 MB | 1次下載 | 免費(fèi)
- 7RA4L1硬件手冊(cè)
- 21.89 MB | 1次下載 | 免費(fèi)
- 8RA4L1_SENSOR-V1原理圖
- 754.36 KB | 1次下載 | 免費(fèi)
本月
- 1晶體三極管的電流放大作用詳細(xì)說(shuō)明
- 0.77 MB | 32次下載 | 2 積分
- 2雙極型三極管放大電路的三種基本組態(tài)的學(xué)習(xí)課件免費(fèi)下載
- 4.03 MB | 25次下載 | 1 積分
- 3AIWA HS-J303 MKⅡ維修手冊(cè)
- 22.47 MB | 24次下載 | 10 積分
- 4九陽(yáng)豆?jié){機(jī)高清原理圖
- 2.47 MB | 23次下載 | 1 積分
- 5多級(jí)放大電路的學(xué)習(xí)課件免費(fèi)下載
- 1.81 MB | 21次下載 | 2 積分
- 6AIWA HS-J202/HS-J202M/HS-J800維修手冊(cè)
- 13.60 MB | 16次下載 | 10 積分
- 7東芝彩色電視機(jī)29SF6C維修說(shuō)明書
- 4.86 MB | 9次下載 | 1 積分
- 8人形機(jī)器人電機(jī)驅(qū)動(dòng)和傳感報(bào)告
- 4.27 MB | 9次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935127次下載 | 10 積分
- 2開源硬件-PMP21529.1-4 開關(guān)降壓/升壓雙向直流/直流轉(zhuǎn)換器 PCB layout 設(shè)計(jì)
- 1.48MB | 420063次下載 | 10 積分
- 3Altium DXP2002下載入口
- 未知 | 233089次下載 | 10 積分
- 4電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191382次下載 | 10 積分
- 5十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183338次下載 | 10 積分
- 6labview8.5下載
- 未知 | 81586次下載 | 10 積分
- 7Keil工具M(jìn)DK-Arm免費(fèi)下載
- 0.02 MB | 73814次下載 | 10 積分
- 8LabVIEW 8.6下載
- 未知 | 65988次下載 | 10 積分
評(píng)論