Firefly開(kāi)源團(tuán)隊(duì)文章

• NVIDIA Jetson Orin系列邊緣計(jì)算主機(jī)2024-07-10 08:02

  

  EC-OrinNano和EC-OrinNX均搭載NVIDIA原裝JetsonOrin核心板模組，該系列可提供強(qiáng)大的AI計(jì)算能力、大容量統(tǒng)一內(nèi)存和全面的軟件堆棧，支持Transformer架構(gòu)的大模型，在MLPref上實(shí)現(xiàn)卓越的邊緣性能。同時(shí)可以實(shí)現(xiàn)更大型、更復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)，具有物體識(shí)別、目標(biāo)檢測(cè)追蹤、語(yǔ)音識(shí)別、及其他視覺(jué)開(kāi)發(fā)等功能，滿足更多人工智能應(yīng)用場(chǎng)

  主機(jī) 核心板 邊緣計(jì)算 1592瀏覽量

• Qwen2強(qiáng)勢(shì)來(lái)襲，AIBOX支持本地化部署2024-06-27 08:02

  

  Qwen2是阿里通義推出的新一代多語(yǔ)言預(yù)訓(xùn)練模型，經(jīng)過(guò)更深入的預(yù)訓(xùn)練和指令調(diào)整，在多個(gè)基準(zhǔn)評(píng)測(cè)結(jié)果中表現(xiàn)出色，尤其在代碼和數(shù)學(xué)方面有顯著提升，同時(shí)拓展了上下文長(zhǎng)度支持，最高可達(dá)128K。目前AIBOX-1684X已適配Qwen2系列模型，并已集成在FireflyChat對(duì)話應(yīng)用中，開(kāi)機(jī)即可體驗(yàn)。模型基礎(chǔ)更新預(yù)訓(xùn)練和指令微調(diào)模型Qwen2系列包含5個(gè)尺寸的預(yù)訓(xùn)

  人工智能 模型 語(yǔ)言模型 1480瀏覽量

• 高性能低功耗：RK3576全系智能產(chǎn)品2024-06-19 08:02

  

  瑞芯微全新一代芯片RK3576，采用先進(jìn)的8nm制程設(shè)計(jì)工藝，具有高性能低功耗的特點(diǎn)，搭載6TOPs算力NPU，人工智能計(jì)算效率獲得顯著提升。同時(shí)提升了ISP、視頻編解碼、視頻后處理的性能，在同檔產(chǎn)品中具有相當(dāng)?shù)男詢r(jià)比和競(jìng)爭(zhēng)力。Firefly基于RK3576處理器推出全系列智能產(chǎn)品，包含主機(jī)、核心板、主板等多種形態(tài)，可滿足AIOT領(lǐng)域?qū)Ω咝阅堋⒏咚懔?、低功?

  rk3576 處理器 瑞芯微 2783瀏覽量

• 嵌入式大模型主機(jī)：EC-R3576PC FD2024-06-13 08:02

  

  配置Rockchip八核64位AIOT處理器RK3576，采用先進(jìn)工藝制程，高性能低功耗，內(nèi)置ARMMaliG52MC3GPU，集成6TOPS算力NPU，支持Transformer架構(gòu)下大模型的私有化部署配置工業(yè)級(jí)全金屬外殼，無(wú)風(fēng)扇被動(dòng)散熱，支持外部看門(mén)狗，擁有工業(yè)級(jí)的穩(wěn)定性，廣泛適用于AI本地部署的應(yīng)用場(chǎng)景八核64位AIOT處理器RK3576新一代八核64

  主機(jī) 大模型 嵌入式 707瀏覽量

• 【AIBOX上手指南】快速部署Llama32024-06-06 08:02

  

  Firefly開(kāi)源團(tuán)隊(duì)推出了Llama3部署包，提供簡(jiǎn)易且完善的部署教程，過(guò)程無(wú)需聯(lián)網(wǎng)，簡(jiǎn)單快捷完成本地化部署。點(diǎn)擊觀看Llama3快速部署教程：Step.1準(zhǔn)備部署包進(jìn)入Firefly下載中心，下載Llama3部署包。在電腦上以管理員身份打開(kāi)cmd：執(zhí)行scp命令傳輸部署包至AIBOX，并輸入密碼linaro獲取訪問(wèn)權(quán)限。scpllama3.tarlina

  Firefly 軟件 1227瀏覽量

• 低功耗大模型主板：ROC-RK3576-PC2024-05-30 08:02

  

  采用八核64位AIOT處理器RK3576，采用大小核構(gòu)架（4×A72+4×A53），采用先進(jìn)制程工藝，高性能低功耗，內(nèi)置ARMMaliG52MC3GPU，集成6TOPS算力NPU，支持Transformer架構(gòu)下超大規(guī)模參數(shù)模型的私有化部署，支持多種深度學(xué)習(xí)框架、自定義算子開(kāi)發(fā)、Docker容器化管理技術(shù)。配置外部看門(mén)狗，具備工業(yè)級(jí)穩(wěn)定性，廣泛適用于AI本地

  主板 處理器 大模型 1556瀏覽量

• 【AIBOX快速入門(mén)】2步玩轉(zhuǎn)AI對(duì)話2024-05-30 08:02

  

  隨著目前AI的高速發(fā)展，大批量AI硬件應(yīng)運(yùn)而生，但使用門(mén)檻普遍較高。為了解決這類(lèi)問(wèn)題，F(xiàn)irefly開(kāi)源團(tuán)隊(duì)推出了基于Web的AI對(duì)話應(yīng)用：FireflyChat，讓AI的使用變得更加簡(jiǎn)單點(diǎn)擊觀看視頻教程：1接線分別接入電源線和網(wǎng)線，其中網(wǎng)線需要接到靠近12V電源接口的網(wǎng)口1（網(wǎng)口1的靜態(tài)IP為192.168.150.1）2設(shè)置電腦IP在電腦上打開(kāi)cmd（使

  AI Firefly 人工智能 1053瀏覽量

• AI算力核心板：Core-1688JD42024-05-15 08:02

  

  采用SOPHON算能八核AI處理器BM1688，INT8算力高達(dá)16TOPS，支持16路解碼+10路編碼+16路AI分析，支持6路sensor輸入視頻，并支持LLaMa2、ChatGLM、Qwen等大模型私有化部署，提供一站式深度學(xué)習(xí)開(kāi)發(fā)工具包SOPHONSDK，工具鏈完備易用度高，可輕松進(jìn)行AI算法的本地化部署適用于智算服務(wù)器、邊緣智算盒、工控機(jī)、智能網(wǎng)絡(luò)

  AI 處理器 工控機(jī) 2316瀏覽量

• 【AIBOX】裝在小盒子的AI足夠強(qiáng)嗎？2024-05-15 08:02

  

  Firefly推出大語(yǔ)言模型本地部署的產(chǎn)品：AIBOX-1684X，目前已適配主流的大語(yǔ)言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的實(shí)機(jī)演示：ChatGLM3-6B采用更多元的訓(xùn)練數(shù)據(jù)和策略，在不同角度的數(shù)據(jù)集，采用了全新設(shè)計(jì)的Prompt格式，支持工具調(diào)用(FunctionCall)、代碼執(zhí)行(CodeInterp

  AI Firefly 語(yǔ)言模型 863瀏覽量

• 智算AI主機(jī)：EC-A1688JD42024-05-07 08:02

  

  采用SOPHON算能八核AI處理器BM1688，INT8算力高達(dá)16TOPS，支持16路H.265/H.2641080p@30fps視頻解碼，支持6路sensor輸入視頻，支持主流編程框架，提供一站式深度學(xué)習(xí)開(kāi)發(fā)工具包SOPHONSDK，工具鏈完備易用度高，算法輕松部署，算法遷移代價(jià)小。適用于智算服務(wù)器、邊緣智算盒、工控機(jī)、智能網(wǎng)絡(luò)攝像機(jī)、AIOT、智能安防

  AI 主機(jī) 1206瀏覽量