一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

C#集成OpenVINO?:簡化AI模型部署

英特爾物聯(lián)網(wǎng) ? 來源:英特爾物聯(lián)網(wǎng) ? 作者:英特爾物聯(lián)網(wǎng) ? 2025-02-17 10:03 ? 次閱讀

C#不僅在PC游戲開發(fā)、大型商業(yè)系統(tǒng)領(lǐng)域應(yīng)用廣泛,還成為開源測控機器視覺運動控制,以及PC數(shù)集與分析領(lǐng)域中的主流開發(fā)語言!

在開源測控、機器視覺、數(shù)采與分析三大領(lǐng)域中,如何快速將AI模型集成到應(yīng)用程序中,實現(xiàn)AI賦能和應(yīng)用增值?最容易的方式是:在C#中,使用OpenVINO工具套件集成AI模型。

cba4a74e-eab3-11ef-9310-92fbcf53809c.png

1

什么是OpenVINO 工具套件?

OpenVINO 工具套件是一個用于優(yōu)化和部署人工智能(AI)模型,提升AI推理性能的開源工具集合,不僅支持以卷積神經(jīng)網(wǎng)絡(luò)(CNN)為核心組件的預(yù)測式AI模型(Predictive AI),還支持以Transformer為核心組件的生成式AI模型(Generative AI)。

OpenVINO工具套件支持對基于PyTorch、TensorFlow、PaddlePaddle等主流深度學(xué)習(xí)框架訓(xùn)練好的模型進行優(yōu)化,提升其在英特爾 CPU、獨立顯卡、集成顯卡、NPU等硬件上的AI推理計算性能。

2

什么是OpenVINO C# API?

OpenVINO C# API 是一個開源的 OpenVINO 的 .Net wrapper(包裝器)項目,它基于最新的OpenVINO Runtime庫開發(fā),通過調(diào)用官方的OpenVINO C API ,允許開發(fā)者在 .NET 和 .NET Framework 環(huán)境中使用 C# 語言調(diào)用AI模型,并實現(xiàn)AI模型在英特爾 CPU、獨立顯卡、集成顯卡、NPU上的推理加速。

OpenVINO C# API的GitHub倉:https://github.com/guojin-yan/OpenVINO-CSharp-API

cbbd657c-eab3-11ef-9310-92fbcf53809c.png

為了方便開發(fā)者使用,OpenVINO C# API提供了NuGet Package,可以通過NuGet管理工具直接進行安裝。

3

搭建OpenVINO C# API開發(fā)環(huán)境

搭建OpenVINO C# API開發(fā)環(huán)境共分三步:

1. 安裝.NET 8.0

2. 在VS Code中配置C#開發(fā)環(huán)境

3. 使用NuGet安裝OpenVINO C# API依賴項

本節(jié)依次介紹。

1.安裝.NET 8.0:

請進入.NET官網(wǎng)下載地址:https://dotnet.microsoft.com/zh-cn/download,下載.NET 8.0安裝包。

cbff9334-eab3-11ef-9310-92fbcf53809c.png

下載完畢后,以管理員方式運行安裝包,并按默認方式完成安裝。

cc1ac794-eab3-11ef-9310-92fbcf53809c.png

安裝完畢后,請啟動“命令提示符”,然后輸入 “dotnet --info” 指令,驗證安裝是否成功:

cc37ef86-eab3-11ef-9310-92fbcf53809c.png

2.在VS Code中配置C#開發(fā)環(huán)境:

VS Code(Visual Studio Code)是一款由微軟開發(fā)的開源、免費、跨平臺的輕量級代碼編輯器;支持多種編程語言(如C、C++、C#、Java、Python、JavaScript等)的代碼編輯,具備語法高亮、代碼折疊、代碼補全、代碼重構(gòu)等功能;廣泛應(yīng)用于各類軟件開發(fā)領(lǐng)域。

[注意]:使用VS Studio的開發(fā)者,無需安裝VS Code的插件,可略過該小節(jié)!

首先,請從:https://code.visualstudio.com/,下載并安裝VS Code。

然后,啟動VS Code,在“Extensions:Marketplace”中搜索關(guān)鍵字:“C#”,依次安裝C#和C# Dev Kit插件。

cc52685c-eab3-11ef-9310-92fbcf53809c.png

接著,啟動“命令提示符”并輸入 “dotnet new console -o hello_world -f net8.0”命令,創(chuàng)建一個名叫“hello_world”的C# console項目。

cc7a7d60-eab3-11ef-9310-92fbcf53809c.png

最后,啟動VS Code,并用“File-->Open Folder...”打開hello_world文件夾,然后點擊“Run Project...”按鈕,若在Terminal中成功輸出“Hello, World!”說明在VS Code配置C#開發(fā)環(huán)境成功!

cc97769a-eab3-11ef-9310-92fbcf53809c.png

3.使用NuGet安裝OpenVINO C# API:

首先,啟動“命令提示符”,用命令創(chuàng)建YOLOv8推理項目:

dotnet new console -o yolov8_async_csharp -f net8.0

然后,進入“yolov8_async_csharp”目錄,使用NuGet安裝OpenVINO C# API,命令如下:

dotnet add package OpenVINO.CSharp.API --version 2024.3.0.2
dotnet add package OpenVINO.runtime.win --version 2024.3.0.1
dotnet add package OpenVINO.CSharp.API.Extensions.OpenCvSharp --version 1.0.6.1

ccb6919c-eab3-11ef-9310-92fbcf53809c.png

最后,使用NuGet安裝OpenCvSharp4:

dotnet add package OpenCvSharp4 --version 4.9.0.20240103
dotnet add package OpenCvSharp4.runtime.win --version 4.9.0.20240103

到此,OpenVINO C# API開發(fā)環(huán)境搭建完畢!

4

編寫C# PP-OCRv4推理程序

首先,請從:

https://github.com/openvino-book/openvino_handbook/tree/main/chapter_5/C%23/yolov8_async_csharp

下載范例程序Program.cs(覆蓋yolov8_asysc_csharp文件夾中的Program.cs),測試視頻test_video.mp4和yolov8s IR格式模型,放入yolov8_asysc_csharp文件夾中。

然后,點擊“Run project”或使用快捷鍵“Ctrl+F5”運行程序,結(jié)果如下視頻所示:

5

總結(jié)

OpenVINO C# API 易學(xué)易用,可以方便將AI模型集成到C#應(yīng)用程序中!

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • API
    API
    +關(guān)注

    關(guān)注

    2

    文章

    1554

    瀏覽量

    63287
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33554

    瀏覽量

    274195
  • OpenVINO
    +關(guān)注

    關(guān)注

    0

    文章

    112

    瀏覽量

    380
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    358

    瀏覽量

    465

原文標(biāo)題:開發(fā)者實戰(zhàn)|C#中使用OpenVINO?:輕松集成AI模型!

文章出處:【微信號:英特爾物聯(lián)網(wǎng),微信公眾號:英特爾物聯(lián)網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    OpenVINO C#如何運行YOLO11實例分割模型

    代碼是我在OpenVINO-CSharp-API作者開源的YOLOv8對象檢測的代碼基礎(chǔ)上修改而成。
    的頭像 發(fā)表于 04-29 09:30 ?383次閱讀
    <b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b>如何運行YOLO11實例分割<b class='flag-5'>模型</b>

    如何在Ollama中使用OpenVINO后端

    /GPU/NPU)為模型推理提供了高效的加速能力。這種組合不僅簡化模型部署和調(diào)用流程,還顯著提升了推理性能,特別適合需要高性能和易用性的場景。
    的頭像 發(fā)表于 04-14 10:22 ?203次閱讀

    如何部署OpenVINO?工具套件應(yīng)用程序?

    編寫代碼并測試 OpenVINO? 工具套件應(yīng)用程序后,必須將應(yīng)用程序安裝或部署到生產(chǎn)環(huán)境中的目標(biāo)設(shè)備。 OpenVINO?部署管理器指南包含有關(guān)如何輕松使用
    發(fā)表于 03-06 08:23

    是否可以使用OpenVINO?部署管理器在部署機器上運行Python應(yīng)用程序?

    使用 OpenVINO?部署管理器創(chuàng)建運行時軟件包。 將運行時包轉(zhuǎn)移到部署機器中。 無法確定是否可以在部署機器上運行 Python 應(yīng)用程序,而無需安裝
    發(fā)表于 03-05 08:16

    為什么無法在運行時C++推理中讀取OpenVINO?模型?

    使用模型優(yōu)化器 2021.1 版OpenVINO?轉(zhuǎn)換模型 使用 Runtime 2022.3 版本在 C++ 推理實現(xiàn) ( core.read_model()) 中讀取
    發(fā)表于 03-05 06:17

    如何在C#部署飛槳PP-OCRv4模型

    《超4萬6千星的開源OCR黑馬登場,PaddleOCR憑什么脫穎而出?》收到了讀者熱烈反響c,很多讀者提出:如何在C#部署飛槳PP-OCRv4模型?本文從零開始詳細介紹整個過程。
    的頭像 發(fā)表于 02-17 10:58 ?1476次閱讀
    如何在<b class='flag-5'>C#</b>中<b class='flag-5'>部署</b>飛槳PP-OCRv4<b class='flag-5'>模型</b>

    使用OpenVINO C# API輕松部署飛槳PP-OCRv4模型

    ? 作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 《超4萬6千星的開源OCR黑馬登場,PaddleOCR憑什么脫穎而出?》 收到了讀者熱烈反響,很多讀者提出:如何在C#部署飛槳PP-OCRv4模型
    的頭像 發(fā)表于 02-12 10:42 ?1163次閱讀
    使用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> API輕松<b class='flag-5'>部署</b>飛槳PP-OCRv4<b class='flag-5'>模型</b>

    C#中使用OpenVINO?:輕松集成AI模型

    與分析三大領(lǐng)域中,如何快速將AI模型集成到應(yīng)用程序中,實現(xiàn)AI賦能和應(yīng)用增值?最容易的方式是:在C#中,使用
    的頭像 發(fā)表于 02-07 14:05 ?649次閱讀
    <b class='flag-5'>C#</b>中使用<b class='flag-5'>OpenVINO</b>?:輕松<b class='flag-5'>集成</b><b class='flag-5'>AI</b><b class='flag-5'>模型</b>!

    企業(yè)AI模型部署攻略

    當(dāng)下,越來越多的企業(yè)開始探索和實施AI模型,以提升業(yè)務(wù)效率和競爭力。然而,AI模型部署并非易事,需要企業(yè)在多個層面進行細致的規(guī)劃和準(zhǔn)備。下
    的頭像 發(fā)表于 12-23 10:31 ?471次閱讀

    基于哪吒開發(fā)板部署YOLOv8模型

    開發(fā)板的推理性能,同時測試所推出的 OpenVINO C# API (https://github.com/guojin-yan/OpenVINO-CSharp-API) 項目能否應(yīng)用到該開發(fā)板上,我們使用該開發(fā)板,結(jié)合
    的頭像 發(fā)表于 11-15 14:13 ?856次閱讀
    基于哪吒開發(fā)板<b class='flag-5'>部署</b>YOLOv8<b class='flag-5'>模型</b>

    使用OpenVINO Model Server在哪吒開發(fā)板上部署模型

    OpenVINO Model Server(OVMS)是一個高性能的模型部署系統(tǒng),使用C++實現(xiàn),并在Intel架構(gòu)上的部署進行了優(yōu)化,使用
    的頭像 發(fā)表于 11-01 14:19 ?573次閱讀
    使用<b class='flag-5'>OpenVINO</b> Model Server在哪吒開發(fā)板上<b class='flag-5'>部署</b><b class='flag-5'>模型</b>

    三行代碼完成生成式AI部署

    OpenVINO2024.2版本跟之前版本最大的不同是OpenVINO2024.2分為兩個安裝包分別是基礎(chǔ)包與生成式AI支持包,新發(fā)布的GenAI開發(fā)包支持C++與Python語言接口
    的頭像 發(fā)表于 08-30 16:49 ?614次閱讀
    三行代碼完成生成式<b class='flag-5'>AI</b><b class='flag-5'>部署</b>

    使用OpenVINO C# API部署YOLO-World實現(xiàn)實時開放詞匯對象檢測

    的快速準(zhǔn)確識別,并通過AR技術(shù)將虛擬元素與真實場景相結(jié)合,為用戶帶來沉浸式的交互體驗。在本文中,我們將結(jié)合OpenVINO C# API使用最新發(fā)布的OpenVINO 2024.0部署
    的頭像 發(fā)表于 08-30 16:27 ?1315次閱讀
    使用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> API<b class='flag-5'>部署</b>YOLO-World實現(xiàn)實時開放詞匯對象檢測

    OpenVINO C# API在intel平臺部署YOLOv10目標(biāo)檢測模型

    模型設(shè)計策略,從效率和精度兩個角度對YOLOs的各個組成部分進行了全面優(yōu)化,大大降低了計算開銷,增強了性能。在本文中,我們將結(jié)合OpenVINO C# API使用最新發(fā)布的OpenVINO
    的頭像 發(fā)表于 06-21 09:23 ?1588次閱讀
    用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> API在intel平臺<b class='flag-5'>部署</b>YOLOv10目標(biāo)檢測<b class='flag-5'>模型</b>

    紅帽發(fā)布RHEL AI開發(fā)者預(yù)覽版,集成IBM Granite模型,簡化AI開發(fā)流程

    RHEL AI依托InstructLab開源項目,結(jié)合IBM Research的開源授權(quán)Granite大型語言模型與InstructLab模型對齊工具,采用LAB(Large-scale Alignment for chatBo
    的頭像 發(fā)表于 05-08 15:01 ?671次閱讀