作者：算力魔方創(chuàng)始人/英特爾創(chuàng)新大使劉力

一，什么是PaddleOCR工具庫？

PaddleOCR 旨在打造一套豐富、領(lǐng)先、且實(shí)用的 OCR 工具庫，助力開發(fā)者訓(xùn)練出更好的模型，并應(yīng)用落地。在GitHub上與其它OCR開源庫相比，PaddleOCR在近五年發(fā)展時(shí)間內(nèi)，擁有最多的星標(biāo)(46k)、最快的星標(biāo)增速、最多的貢獻(xiàn)者(234)和最活躍的社區(qū)支持！

PaddleOCR支持多種 OCR 相關(guān)前沿算法，在此基礎(chǔ)上打造產(chǎn)業(yè)級(jí)特色模型系列：PP-OCR、PP-Structure和PP-ChatOCR，打通了模型訓(xùn)練、壓縮、部署全流程。

Github Repo: https://github.com/PaddlePaddle/PaddleOCR

二，什么是PP-OCRv4模型？

PP-OCRv4是PaddleOCR工具庫的PP-OCR系列模型中，當(dāng)前性能最優(yōu)的一個(gè)。它在前代模型(PP-OCRv3)的基礎(chǔ)上，針對檢測模型和識(shí)別模型進(jìn)行了數(shù)據(jù)、網(wǎng)絡(luò)結(jié)構(gòu)、訓(xùn)練策略等多個(gè)模塊的優(yōu)化，在多個(gè)應(yīng)用場景中，精度均有大幅提升：

中文場景，相對于PP-OCRv3中文模型提升超4%；

英文數(shù)字場景，相比于PP-OCRv3英文模型提升6%；

多語言場景(支持韓語、日語、德語、法語等80種語言)，平均準(zhǔn)確率提升超8%。

PP-OCRv4是一個(gè)兩階段的OCR系統(tǒng)，包含檢測模型、方向分類模型和識(shí)別模型。在檢測和識(shí)別之間添加方向分類模型，將不同角度的文本檢測框修正為水平檢測框，方便識(shí)別模型完成行文本識(shí)別。

為了適應(yīng)服務(wù)器和邊緣端不同場景的部署需求，PP-OCRv4提供兩種推理模型權(quán)重版本：

邊緣端：中英文超輕量PP-OCRv4模型(16.1M) = 檢測模型(4.7M) + 識(shí)別模型(10.0M) + 方向分類模型(1.4M)。Hmean：62.24%；ACC：70.1%。

服務(wù)器端：中英文高精度PP-OCRv4 server模型(199.4M) = 檢測模型(110M) + 識(shí)別模型(88M) + 方向分類模型(1.4M)。Hmean：82.69%；ACC：84.04%。

PP-OCRv4模型鏈接：

https://github.com/PaddlePaddle/PaddleOCR/blob/main/docs/ppocr/blog/PP-OCRv4_introduction.md

PP-OCRv4模型的卓越性能使其在多個(gè)領(lǐng)域具有廣泛的應(yīng)用前景，如文檔掃描、文字提取、智能表單填寫、物流信息追蹤、文檔自動(dòng)化處理、智能服務(wù)窗口、文獻(xiàn)資料整理等等。本文將介紹使用OpenVINO?工具套件在英特爾? CPU、獨(dú)立顯卡、集成顯卡和NPU上優(yōu)化并部署飛槳PP-OCRv4模型。

三，OpenVINO?工具套件簡介

OpenVINO?工具套件是一個(gè)用于優(yōu)化和部署人工智能（AI）模型，提升AI推理性能的開源工具集合，不僅支持以卷積神經(jīng)網(wǎng)絡(luò)(CNN)為核心組件的預(yù)測式AI模型(Predictive AI)，還支持以Transformer為核心組件的生成式AI模型(Generative AI)。OpenVINO?工具套件支持直接讀取并優(yōu)化PaddlePaddle訓(xùn)練好的模型(*.pdmodel)，提升其在英特爾? CPU、獨(dú)立顯卡、集成顯卡、NPU等硬件上的AI推理計(jì)算性能。

四，搭建開發(fā)環(huán)境

您可以選擇無需搭建開發(fā)環(huán)境，直接在飛槳AIStudio星河社區(qū)上體驗(yàn)范例：

https://aistudio.baidu.com/projectdetail/8770259

或者，在本地搭建開發(fā)環(huán)境，在算力魔方?上運(yùn)行。

首先，請克隆PP-OCRv4_OpenVINO到本地：

git clone git clone https://github.com/openvino-book/PP-OCRv4_OpenVINO.git

cd PP-OCRv4_OpenVINO

接著，安裝依賴項(xiàng)：

pip install -r requirements.txt

最后，請從

https://paddlepaddle.github.io/PaddleOCR/latest/model/index.html

下載中英文超輕量 PP-OCRv4 模型，包括檢測模型、方向分類器和識(shí)別模型到PP-OCRv4_OpenVINO文件夾，并解壓。

下載命令：

# 下載并解壓PP-OCRv4的檢測模型

wget https://paddleocr.bj.bcebos.com/PP-OCRv4/chinese/ch_PP-OCRv4_det_infer.tar && tar -xvf ch_PP-OCRv4_det_infer.tar

# 下載并解壓PP-OCRv4的方向分類器

wget https://paddleocr.bj.bcebos.com/dygraph_v2.0/ch/ch_ppocr_mobile_v2.0_cls_infer.tar && tar -xvf ch_ppocr_mobile_v2.0_cls_infer.tar

# 下載并解壓PP-OCRv4的識(shí)別模型

wget https://paddleocr.bj.bcebos.com/PP-OCRv4/chinese/ch_PP-OCRv4_rec_infer.tar && tar -xvf ch_PP-OCRv4_rec_infer.tar

下載并解壓完畢后，開發(fā)環(huán)境搭建完成！

五，編寫PP-OCRv4推理程序

PP-OCRv4_OpenVINO項(xiàng)目已將推理程序編寫完成，各文件功能如下：

執(zhí)行演示程序main.py，并指定模型路徑和推理硬件設(shè)備：

python main.py --image_dir images/general_ocr_006.png

--det_model_dir ch_PP-OCRv4_det_infer/inference.pdmodel

--det_model_device CPU

--rec_model_dir ch_PP-OCRv4_rec_infer/inference.pdmodel

--rec_model_device CPU

--cls_model_dir ch_ppocr_mobile_v2.0_cls_infer/inference.pdmodel

--cls_model_device CPU

--use_angle_cls True

運(yùn)行結(jié)果，如下圖所示：

六，總結(jié)

使用OpenVINO?可以直接讀入PP-OCRv4模型(無需轉(zhuǎn)換)，并能方便快捷的將PP-OCRv4模型部署在含有英特爾? CPU、獨(dú)立顯卡、集成顯卡或NPU等硬件的算力魔方?上。

如果你有更好的文章，歡迎投稿！

稿件接收郵箱：nami.liu@pasuntech.com

更多精彩內(nèi)容請關(guān)注“算力魔方?”！

審核編輯 黃宇