在未來十年，我們將見證大多數(shù)經(jīng)典計算向邊緣轉(zhuǎn)移，為機器人、無人機、汽車、醫(yī)療保健和制造以及其他重要行業(yè)的突破性創(chuàng)新注入活力。盡管許多組織都明白追求機器學習和人工智能是保持競爭力的必要條件，但隨著這場邊緣創(chuàng)新競賽的展開，利用人工智能力量的旅程面臨著巨大的挑戰(zhàn)。SiMa.ai是一家機器學習公司，專門構(gòu)建了任何公司入門和擴展邊緣人工智能和計算機視覺所需的硬件和軟件平臺。

Edge ML的崛起

人工智能創(chuàng)新并不局限于數(shù)據(jù)中心或智能手機，但半導體行業(yè)還沒有創(chuàng)造出高效驅(qū)動兩者之間一切的技術(shù)。將生成式AI、LLM和視覺變壓器擴展到物聯(lián)網(wǎng)、工業(yè)物聯(lián)網(wǎng)、安全、國防、汽車以及智能手機和數(shù)據(jù)中心之間的任何機器，需要一種新的外形規(guī)格，其中硬件和軟件經(jīng)過優(yōu)化以提高性能并節(jié)省能源，從而滿足邊緣要求。

云雖然是許多人工智能應(yīng)用程序的寶貴工具，但在提供實時人工智能和人工智能功能方面存在不足。該行業(yè)現(xiàn)在正試圖將為數(shù)據(jù)中心、個人計算和手機制造的相同芯片應(yīng)用于從自動駕駛汽車到智能制造、機器人技術(shù)到無人機送貨的所有領(lǐng)域。這些芯片從來不是為這些使用場景設(shè)計的，也不是為了在邊緣或低功耗設(shè)備的限制下運行如此龐大的算法。為了實現(xiàn)創(chuàng)新者正在努力實現(xiàn)的智能汽車和機器人助手的未來，必須并行設(shè)計軟件和硬件，以優(yōu)化低延遲，而距離其運行的技術(shù)數(shù)英里遠的云倉庫根本無法承諾這一點。

想象一下生產(chǎn)線上的機器人技術(shù)，以前，運輸傳送帶上的產(chǎn)品未對準會使生產(chǎn)線出現(xiàn)故障，現(xiàn)在可以優(yōu)化和處理任何配置。這是實時推斷?；蛘咭患以谟腥毕莸漠a(chǎn)品上浪費供應(yīng)和資源的消費品公司，現(xiàn)在可以在運送數(shù)百萬美元無法實現(xiàn)收入的產(chǎn)品之前確定質(zhì)量控制問題的確切點?；蛘吒悄艿尼t(yī)療設(shè)備，幫助識別潛在疾病并補充醫(yī)生的即時診斷能力。在所有這些情況下，都沒有在云延遲上花費時間的空間。

邊緣的關(guān)鍵真實生活ML應(yīng)用要求實時推理；傳統(tǒng)的基于云的方法無法滿足邊緣的延遲限制。人類生活在邊緣，這只是人工智能如何改變?nèi)粘C器的開始。

嵌入式邊緣的新ML性能標準

為了實現(xiàn)edge ML的潛力，組織需要配備一種全新的方法，使機器和設(shè)備具有現(xiàn)實環(huán)境的視覺、速度、效率和推理能力。SiMa.ai是 m阿奇內(nèi)l盈利公司為邊緣產(chǎn)品提供專門構(gòu)建的解決方案，并為其設(shè)定新的性能和效率標準。該公司成立的前提是通過一鍵體驗將性能功耗比提高10倍，從而解決任何計算機視覺應(yīng)用挑戰(zhàn)。

在性能和能效都至關(guān)重要的邊緣人工智能領(lǐng)域，最突出的指標是FPS/瓦特。這個指標不僅僅是一個數(shù)字；這是一個關(guān)鍵指標，表明系統(tǒng)每瓦耗電量可以處理多少幀。這對于邊緣人工智能工作負載至關(guān)重要，因為能源限制通常會帶來重大挑戰(zhàn)。SiMa.ai專門構(gòu)建的MLSoc是SiMa成功實現(xiàn)無與倫比的電源效率的關(guān)鍵。SiMa.ai經(jīng)過精密設(shè)計，在不影響性能的情況下針對低功耗進行了優(yōu)化。這不僅僅是做更多的事情；它是關(guān)于用更少的資源做更多的事情—更少的能源、更低的成本和更少的環(huán)境影響。SiMa.ai專注于電源效率以滿足客戶的需求，客戶越來越關(guān)注可持續(xù)、高效和高性能的計算。

在客戶測試中，SiMa在FPS/功耗方面始終優(yōu)于傳統(tǒng)競爭對手的解決方案，并在2023年ML Perf基準測試中獲得了封閉邊緣功耗類別的最高分數(shù)，這兩項測試均于4月舉行（參見:SiMa.ai贏得MLPerf封閉邊緣ResNet50基準測試，超越行業(yè)ML領(lǐng)導者）和八月（見:開辟新天地:SiMa.ai在MLPerf基準測試中的空前進步）今年的。

SiMa.ai的ML Perf基準測試評級有力地證明了SiMa.ai對卓越性能和電源效率的堅定承諾，驗證了SiMa.ai MLSoc提供軟件用戶體驗的能力SiMa.ai調(diào)色板?這很容易“按下按鈕”。

在邊緣簡化計算，無需代碼ML

SiMa.ai調(diào)色板軟件專為完整的ML堆棧應(yīng)用程序開發(fā)而設(shè)計。該平臺支持客戶計劃在邊緣上部署的任何ML工作流，而不會影響性能和易用性。調(diào)色板邊緣是SiMa.ai的Palette軟件平臺的可視化擴展，是一個新的基于瀏覽器的開發(fā)環(huán)境，可供任何希望在邊緣免費創(chuàng)建、評估和微調(diào)ML應(yīng)用程序的組織使用。

調(diào)色板邊緣支持“拖放式”無代碼方法，用戶可以在幾分鐘內(nèi)（而不是幾個月內(nèi)）自動創(chuàng)建、構(gòu)建和部署自己的模型并完成計算機視覺管道，同時實時評估其edge ML應(yīng)用的性能和功耗需求。使用Palette Edgematic開發(fā)的ML應(yīng)用程序以后可以通過購買SiMa開發(fā)人員或生產(chǎn)板.

來自SiMa.ai的調(diào)色板Edgematic

借助Palette Edgematic，任何具有計算機視覺管道概念的人都可以直接在邊緣設(shè)備上進行評估，而無需在云中進行中間模擬，從而提供了在邊緣實現(xiàn)的直接途徑。使用Palette Edgematic，開發(fā)人員可以:

在幾分鐘內(nèi)快速原型化和評估邊緣設(shè)備上的ML管線；

使用實時數(shù)據(jù)流來衡量KPI，然后使用調(diào)色板Edgematic new visual canvas快速迭代設(shè)計以提高管道性能，從而消除了edge ML實現(xiàn)的專門嵌入式編碼轉(zhuǎn)換；

利用Palette的自動構(gòu)建功能，只需按一下按鈕即可將管道的可視化表示轉(zhuǎn)換為可執(zhí)行代碼；

在短短五分鐘內(nèi)將ML管道轉(zhuǎn)換為可演示的概念證明，從而加快概念的生產(chǎn)部署并縮短上市時間。

Palette Edgematic的初始版本由SiMa.ai MLSoC遠程提供支持，可提供基于GUI的視覺體驗來評估五個優(yōu)化的管道和40個不同的模型，涵蓋對象檢測、跟蹤、分類、語義分割和實例分割用例。

Palette Edgematic使任何個人、開發(fā)人員或組織能夠在幾分鐘內(nèi)而不是幾個月內(nèi)創(chuàng)建生產(chǎn)就緒的ML應(yīng)用程序-使他們擺脫在邊緣執(zhí)行ML的復雜性、如何開始的不確定性以及如何為其產(chǎn)品或服務(wù)提供人工智能的焦慮。

隨著Palette Edgematic的推出，SiMa.ai現(xiàn)在比以往任何時候都更像是一家構(gòu)建自己芯片的軟件公司，將ML的潛力放在每個人、其客戶、合作伙伴和ML社區(qū)的手中。

使用SiMa.ai在5分鐘內(nèi)構(gòu)建您的計算機視覺ML應(yīng)用程序調(diào)色板邊緣今天。

審核編輯 黃宇