在今天舉辦的芯原AI專題技術(shù)研討會上，芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進(jìn)先生帶來了《大模型推動邊緣計算變革的機(jī)遇與挑戰(zhàn)》的主題演講。

過去這些年，AGI大模型在諸多方面實現(xiàn)了突破性進(jìn)展，包括模型自主使用工具、模型自我迭代/自我設(shè)計、模型的情感能力等?，F(xiàn)在很明顯的趨勢是，將大型人工智能模型引入嵌入式系統(tǒng)，而最明顯的邊緣設(shè)備應(yīng)用則是“手機(jī)、AI-PC、汽車”。

大語言模型最主要的能力是自然的人機(jī)交互，包括：1、多模態(tài)能力；2、更自然的對話和更真實的信息；3、通用人工智能。目前已經(jīng)有不少相關(guān)的產(chǎn)品發(fā)布，如，OPenAI發(fā)布具有突破性的Sora視頻生成模型，采用Transformer架構(gòu)是一個在不同時長、分辨率和寬高比的視頻及圖象上訓(xùn)練而成的擴(kuò)散模型。

對標(biāo)Sora的高質(zhì)量視頻生成模型，谷歌宣布推出全新的Project Astra項目、基于Gemini，可以本地運行在Pixel手機(jī)或AR眼鏡上，在各個生活場景中與用戶實現(xiàn)低延時全方位的語音交互，是對標(biāo)OpenAI GPT-4o的最新模型。

微軟CoPilot+PC最新技術(shù)亮點：（1）算力升級。（2）回溯記憶。（3）實時字幕。（4）渲染交互。AGIBot在2023年8月推出具身智能機(jī)器人“遠(yuǎn)征A1”，百億參數(shù)大模型加持、目標(biāo)成本20萬元以內(nèi)。采用了語言任務(wù)模型WorkGPT，結(jié)合了LLM和VLM等AI技術(shù)，能夠為機(jī)器人提供自主感知環(huán)境、理解任務(wù)、編排動作的能力，并且實現(xiàn)了思維鏈。

在本次會議上，戴偉進(jìn)先生詳細(xì)介紹了芯原的NPU技術(shù)。芯片原神經(jīng)網(wǎng)絡(luò)處理器（NPU）已在全球累積出貨超過1億顆，涵蓋：AI視覺、AI語音、AI圖象、AIoT/智慧家居、AR/VR、自動駕駛、PC、智能手機(jī)、監(jiān)控、數(shù)據(jù)中心、可穿戴設(shè)備、智慧醫(yī)療、機(jī)器人等。

芯原圖形處理器（GPU）已在全球累積出貨近20億顆，70項國內(nèi)外專利、耕耘嵌入式市場近20年。

芯原視頻處理器（VPU）全球領(lǐng)先-AI Video，AI賦能智能視頻處理等行業(yè)。今天已經(jīng)在邊緣設(shè)備運行大模型，包括：AIPC、醫(yī)療系統(tǒng)設(shè)備，計算機(jī)和工業(yè)應(yīng)用領(lǐng)域等等。

芯原AI-Computing處理器技術(shù)可編程、可擴(kuò)展、高性能、低功耗。芯原AI-ComputingIP產(chǎn)品，包括：數(shù)據(jù)中心、邊緣服務(wù)器等。NPU IP VIP9X00是推斷、增量訓(xùn)練，GPGPU IP CC8X00是通用計算，NPU+GPUIP GC9X00AI是AI-GPU/AI-PC，Tensor Core GPU IP CCTC-MP、大模型預(yù)演模型推理、訓(xùn)練。

芯原 AI-Computing軟件框架方面，芯原Acuity工具、庫和軟件堆棧。Project Open Se Cura-邊緣與云協(xié)同計算（大模型、輕量大模型），芯原應(yīng)用與谷歌眼鏡、使其極低功耗、常開、環(huán)境計算。大語言模型正在云端和移動設(shè)備上，那些大語言模型的主要組件可以實現(xiàn)捕捉、信號和感知信息，可以評估和融合。