一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

C#中使用OpenVINO?:輕松集成AI模型!

jf_23871869 ? 來(lái)源:算力魔方創(chuàng)始人/英特爾創(chuàng) ? 作者:算力魔方創(chuàng)始人 ? 2025-02-07 14:05 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力

C#不僅在PC游戲開發(fā)、大型商業(yè)系統(tǒng)領(lǐng)域應(yīng)用廣泛,還成為開源測(cè)控、機(jī)器視覺(jué)與運(yùn)動(dòng)控制,以及PC數(shù)集與分析領(lǐng)域中的主流開發(fā)語(yǔ)言!

在開源測(cè)控、機(jī)器視覺(jué)、數(shù)采與分析三大領(lǐng)域中,如何快速將AI模型集成到應(yīng)用程序中,實(shí)現(xiàn)AI賦能和應(yīng)用增值?最容易的方式是:在C#中,使用OpenVINO?工具套件集成AI模型。

wKgZPGelodyAIemyAAGZkiKiUys008.png

一,什么是OpenVINO? 工具套件?

OpenVINO? 工具套件是一個(gè)用于優(yōu)化和部署人工智能(AI)模型,提升AI推理性能的開源工具集合,不僅支持以卷積神經(jīng)網(wǎng)絡(luò)(CNN)為核心組件的預(yù)測(cè)式AI模型(Predictive AI),還支持以Transformer為核心組件的生成式AI模型(Generative AI)。

OpenVINO?工具套件支持對(duì)基于PyTorch、TensorFlow、PaddlePaddle等主流深度學(xué)習(xí)框架訓(xùn)練好的模型進(jìn)行優(yōu)化,提升其在英特爾? CPU、獨(dú)立顯卡、集成顯卡、NPU等硬件上的AI推理計(jì)算性能。

二,什么是OpenVINO? C# API?

OpenVINO? C# API 是一個(gè)開源的 OpenVINO? 的 .Net wrapper(包裝器)項(xiàng)目,它基于最新的OpenVINO? Runtime庫(kù)開發(fā),通過(guò)調(diào)用官方的OpenVINO? C API ,允許開發(fā)者在 .NET 和 .NET Framework 環(huán)境中使用 C# 語(yǔ)言調(diào)用AI模型,并實(shí)現(xiàn)AI模型在英特爾? CPU、獨(dú)立顯卡、集成顯卡、NPU上的推理加速。

OpenVINO? C# API的GitHub倉(cāng):https://github.com/guojin-yan/OpenVINO-CSharp-API

wKgZO2elofmAXRBAAAGhW7QRJYs539.png

為了方便開發(fā)者使用,OpenVINO? C# API提供了NuGet Package,可以通過(guò)NuGet管理工具直接進(jìn)行安裝。

三,搭建OpenVINO? C# API開發(fā)環(huán)境

搭建OpenVINO? C# API開發(fā)環(huán)境共分三步:

1.安裝.NET 8.0

2.在VS Code中配置C#開發(fā)環(huán)境

3.使用NuGet安裝OpenVINO? C# API依賴項(xiàng)

本節(jié)依次介紹。

1,安裝.NET 8.0:

請(qǐng)進(jìn)入.NET官網(wǎng)下載地址:https://dotnet.microsoft.com/zh-cn/download,下載.NET 8.0安裝包。

wKgZPGelogqAPYmuAAGoibPN98w558.png

下載完畢后,以管理員方式運(yùn)行安裝包,并按默認(rèn)方式完成安裝。

wKgZPGelohqAVtb8AAKYQ67Y3kA287.png

安裝完畢后,請(qǐng)啟動(dòng)“命令提示符”,然后輸入 “dotnet --info” 指令,驗(yàn)證安裝是否成功:

wKgZPGeloiqAPZBVAAHLLmNgOu8258.png

2,在VS Code中配置C#開發(fā)環(huán)境:

VS Code(Visual Studio Code)是一款由微軟開發(fā)的開源、免費(fèi)、跨平臺(tái)的輕量級(jí)代碼編輯器;支持多種編程語(yǔ)言(如C、C++、C#、Java、Python、JavaScript等)的代碼編輯,具備語(yǔ)法高亮、代碼折疊、代碼補(bǔ)全、代碼重構(gòu)等功能;廣泛應(yīng)用于各類軟件開發(fā)領(lǐng)域。

[注意]:使用VS Studio的開發(fā)者,無(wú)需安裝VS Code的插件,可略過(guò)該小節(jié)!

首先,請(qǐng)從:https://code.visualstudio.com/,下載并安裝VS Code。

然后,啟動(dòng)VS Code,在“Extensions:Marketplace”中搜索關(guān)鍵字:“C#”,依次安裝C#和C# Dev Kit插件。

wKgZO2elokCASWuwAALOUs_W-ag643.png

接著,啟動(dòng)“命令提示符”并輸入 “dotnet new console -o hello_world -f net8.0”命令,創(chuàng)建一個(gè)名叫“hello_world”的C# console項(xiàng)目。

wKgZO2elok6AMFobAAIXIQwfTjM799.png

最后,啟動(dòng)VS Code,并用“File-->Open Folder...”打開hello_world文件夾,然后點(diǎn)擊“Run Project...”按鈕,若在Terminal中成功輸出“Hello, World!”說(shuō)明在VS Code配置C#開發(fā)環(huán)境成功!

wKgZO2elomCAMdunAAH_wgfZCAM032.png

3,使用NuGet安裝OpenVINO? C# API:

首先,啟動(dòng)“命令提示符”,用命令創(chuàng)建YOLOv8推理項(xiàng)目:

dotnet new console -o yolov8_async_csharp -f net8.0

然后,進(jìn)入“yolov8_async_csharp”目錄,使用NuGet安裝OpenVINO? C# API,命令如下:

dotnet add package OpenVINO.CSharp.API --version 2024.3.0.2 dotnet add package OpenVINO.runtime.win --version 2024.3.0.1 dotnet add package OpenVINO.CSharp.API.Extensions.OpenCvSharp --version 1.0.6.1

wKgZO2elopKAaY2KAAKh0R2Kt3I717.png

最后,使用NuGet安裝OpenCvSharp4:

dotnet add package OpenCvSharp4 --version 4.9.0.20240103 dotnet add package OpenCvSharp4.runtime.win --version 4.9.0.20240103

到此,OpenVINO? C# API開發(fā)環(huán)境搭建完畢!

四,用C# 編寫OpenVINO?推理程序

首先,請(qǐng)從:

https://github.com/openvino-book/openvino_handbook/tree/main/chapter_5/C%23/yolov8_async_csharp,

下載范例程序Program.cs(覆蓋yolov8_asysc_csharp文件夾中的Program.cs),測(cè)試視頻test_video.mp4和yolov8s IR格式模型,放入yolov8_asysc_csharp文件夾中。

然后,點(diǎn)擊“Run project”或使用快捷鍵“Ctrl+F5”運(yùn)行程序,結(jié)果如下視頻所示:

https://live.csdn.net/v/462063

五,總結(jié)

OpenVINO? C# API 易學(xué)易用,可以方便將AI模型集成到C#應(yīng)用程序中!

如果你有更好的文章,歡迎投稿!

稿件接收郵箱:nami.liu@pasuntech.com

更多精彩內(nèi)容請(qǐng)關(guān)注“算力魔方?”!

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35194

    瀏覽量

    280308
  • OpenVINO
    +關(guān)注

    關(guān)注

    0

    文章

    115

    瀏覽量

    488
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    OpenVINO C#如何運(yùn)行YOLO11實(shí)例分割模型

    代碼是我在OpenVINO-CSharp-API作者開源的YOLOv8對(duì)象檢測(cè)的代碼基礎(chǔ)上修改而成。
    的頭像 發(fā)表于 04-29 09:30 ?1062次閱讀
    <b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b>如何運(yùn)行YOLO11實(shí)例分割<b class='flag-5'>模型</b>

    如何在Ollama中使OpenVINO后端

    Ollama 和 OpenVINO 的結(jié)合為大型語(yǔ)言模型(LLM)的管理和推理提供了強(qiáng)大的雙引擎驅(qū)動(dòng)。Ollama 提供了極簡(jiǎn)的模型管理工具鏈,而 OpenVINO 則通過(guò) Intel
    的頭像 發(fā)表于 04-14 10:22 ?498次閱讀

    OpenVINO中的量化模型OpenVINO ESR模型結(jié)果不一致是怎么回事?

    將 REAL-ESRSTREAM 模型轉(zhuǎn)換成 OpenVINO IR (2021.4) 并執(zhí)行該模型。 能夠運(yùn)行 IR,但結(jié)果與 REAL-ESR 就此不同的是。
    發(fā)表于 03-06 08:11

    如何使用OpenVINO?運(yùn)行對(duì)象檢測(cè)模型?

    無(wú)法確定如何使用OpenVINO?運(yùn)行對(duì)象檢測(cè)模型
    發(fā)表于 03-06 07:20

    OpenVINO? Toolkit中如何保持模型稀疏性?

    OpenVINO? Toolkit 中支持的優(yōu)化方法,保持模型稀疏性。
    發(fā)表于 03-06 06:47

    請(qǐng)問(wèn)使用2022.2時(shí)是否可以讀取模型OpenVINO?層?

    使用 2020.3 時(shí),使用 net.layers 和 layers.blob 讀取模型OpenVINO?層。 OpenVINO?自 2021.2 OpenVINO?起,使用 202
    發(fā)表于 03-06 06:37

    創(chuàng)建了用于OpenVINO?推理的自定義C++和Python代碼,從C++代碼中獲得的結(jié)果與Python代碼不同是為什么?

    創(chuàng)建了用于OpenVINO?推理的自定義 C++ 和 Python* 代碼。 在兩個(gè)推理過(guò)程中使用相同的圖像和模型。 從 C++ 代碼
    發(fā)表于 03-06 06:22

    運(yùn)行時(shí)OpenVINO?找不到模型優(yōu)化器,為什么?

    在運(yùn)行時(shí)OpenVINO?找不到模型優(yōu)化器,運(yùn)行模型下載程序命令并收到錯(cuò)誤消息: omz_downloader:找不到命令
    發(fā)表于 03-05 08:16

    通過(guò)Docker映像OpenVINO? DL Workbench OpenVINO?安裝,無(wú)法上傳模型怎么解決?

    通過(guò) Docker 映像OpenVINO? DL Workbench OpenVINO?安裝。 無(wú)法上傳模型: Model cannot be downloaded due to network
    發(fā)表于 03-05 08:08

    請(qǐng)問(wèn)是否可以在模型服務(wù)器中使用REST請(qǐng)求OpenVINO?預(yù)測(cè)?

    是否可以在模型服務(wù)器中使用 REST 請(qǐng)求OpenVINO?預(yù)測(cè)?
    發(fā)表于 03-05 08:06

    為什么無(wú)法在運(yùn)行時(shí)C++推理中讀取OpenVINO?模型

    使用模型優(yōu)化器 2021.1 版OpenVINO?轉(zhuǎn)換模型 使用 Runtime 2022.3 版本在 C++ 推理實(shí)現(xiàn) ( core.read_model()) 中讀取
    發(fā)表于 03-05 06:17

    C#集成OpenVINO?:簡(jiǎn)化AI模型部署

    在開源測(cè)控、機(jī)器視覺(jué)、數(shù)采與分析三大領(lǐng)域中,如何快速將AI模型集成到應(yīng)用程序中, 實(shí)現(xiàn)AI賦能和應(yīng)用增值? 最容易的方式是:在C#中,使用
    的頭像 發(fā)表于 02-17 10:03 ?2003次閱讀
    <b class='flag-5'>C#</b><b class='flag-5'>集成</b><b class='flag-5'>OpenVINO</b>?:簡(jiǎn)化<b class='flag-5'>AI</b><b class='flag-5'>模型</b>部署

    使用OpenVINO C# API輕松部署飛槳PP-OCRv4模型

    ? 作者:算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力 《超4萬(wàn)6千星的開源OCR黑馬登場(chǎng),PaddleOCR憑什么脫穎而出?》 收到了讀者熱烈反響,很多讀者提出:如何在C#中部署飛槳PP-OCRv4模型
    的頭像 發(fā)表于 02-12 10:42 ?1442次閱讀
    使用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> API<b class='flag-5'>輕松</b>部署飛槳PP-OCRv4<b class='flag-5'>模型</b>

    使用OpenVINO Model Server在哪吒開發(fā)板上部署模型

    OpenVINO Model Server(OVMS)是一個(gè)高性能的模型部署系統(tǒng),使用C++實(shí)現(xiàn),并在Intel架構(gòu)上的部署進(jìn)行了優(yōu)化,使用OpenVINO 進(jìn)行推理,推理服務(wù)通過(guò)gP
    的頭像 發(fā)表于 11-01 14:19 ?742次閱讀
    使用<b class='flag-5'>OpenVINO</b> Model Server在哪吒開發(fā)板上部署<b class='flag-5'>模型</b>

    使用OpenVINO C# API部署YOLO-World實(shí)現(xiàn)實(shí)時(shí)開放詞匯對(duì)象檢測(cè)

    的快速準(zhǔn)確識(shí)別,并通過(guò)AR技術(shù)將虛擬元素與真實(shí)場(chǎng)景相結(jié)合,為用戶帶來(lái)沉浸式的交互體驗(yàn)。在本文中,我們將結(jié)合OpenVINO C# API使用最新發(fā)布的OpenVINO 2024.0部署 YOLO-World實(shí)現(xiàn)實(shí)時(shí)開放詞匯對(duì)象檢
    的頭像 發(fā)表于 08-30 16:27 ?1722次閱讀
    使用<b class='flag-5'>OpenVINO</b> <b class='flag-5'>C#</b> API部署YOLO-World實(shí)現(xiàn)實(shí)時(shí)開放詞匯對(duì)象檢測(cè)