sdcb/PaddleSharp

解決的問題

PaddleSharp 是 PaddleInference C API 的 .NET 封裝，讓 C# 開發者能將 PaddlePaddle 生態系統中的強大 AI 模型整合到應用程式中。它彌補了基於 C++ 的推理引擎與 .NET 環境之間的差距，提供對 Windows、Linux 和 macOS 的原生支援。

工作原理

此專案為 Paddle Inference C API 提供一組 .NET 繫結。它提供多種針對特定硬體加速選項的執行時間套件，包括：

• CPU 加速： 支援 MKL（推薦大多數使用者）、OpenBLAS 和 OpenVINO。
• GPU 加速： 廣泛支援 NVIDIA CUDA（版本 11.8、12.6 和 12.9），涵蓋從 GTX 10 系列到 RTX 50 系列的多種 GPU 架構。
• ONNX Runtime： 與 onnxruntime 集成，實現高效推理。

適用對象

希望在不撰寫 C++ 程式碼的情況下，使用 PaddlePaddle 模型進行 OCR、物件偵測和 NLP 任務的 C#/.NET 開發者。

主要亮點

• 全面的 AI 功能： 內建支援 PaddleOCR（14 種語言，表格識別）、PaddleDetection（PPYolo、PicoDet）、旋轉偵測和 PaddleNLP（中文分詞器）。
• 跨平台支援： 支援 Windows（x64）、Linux（Ubuntu-22.04 x64/ARM64）和 macOS（x64/ARM64）。
• 彈性的硬體加速： 支援廣泛的 NVIDIA GPU 和基於 CPU 的加速函式庫。
• 模型匯出： 包含 Paddle2Onnx，允許使用者使用 C# 將模型匯出為 ONNX 格式。