Prezi 案例研究：透過 Hugging Face 專家支援加速機器學習路線圖

Prezi 利用 Hugging Face 加速多模態 AI 開發

Prezi 已整合 Hugging Face 專家支援計畫與 Inference Endpoints，以加速其機器學習路線圖，特別是針對 Prezi AI 產品。透過轉向較小且更高效的開源模型並利用專家指導，Prezi 正在優化結合文字與圖像的動態簡報製作。

使用開源模型優化 Prezi AI

Prezi AI 允許使用者根據提示與描述產生簡報草稿。雖然系統最初依賴封閉模型與各種資產提供者服務，但結合 Hugging Face 的專家指導帶來了多項技術優化：

• 實作重新排序器： 為了提升搜尋系統以尋找適合簡報的圖像與文字，Prezi 加入了開源的重新排序模型。此方法較使用大型語言模型（LLM）執行相同任務更快、更便宜且更有效。
• 多模態整合： Prezi 結合視覺模型、文字模型與視覺語言模型（VLM）來處理視覺傳達本質上的多模態特性。
• 模型選擇： 專家支援計畫協助 Prezi 的工程團隊（非專業的機器學習工程師）在大量新模型發布中篩選，找出真正具實用價值而非僅僅炒作的模型。

透過 Inference Endpoints 的部署與基礎設施

Prezi 使用 Hugging Face Inference Endpoints 來管理其機器學習模型的部署。主要的技術優勢包括：

• 零配置部署： Endpoint Model Catalog 提供一份已策展的模型清單，可直接與 Inference Endpoints 搭配使用，無需手動配置。
• 成本管理： 能將端點在幾分鐘無活動後設定為「休眠」狀態，避免不必要的支出。
• 硬體支援： 平台支援單一與四卡 A100 實例，這對較大型模型是必要的。
• 版本控制： Prezi 可透過一次點擊部署最新模型版本，或使用 Git 雜湊回溯至先前版本，此工作流程被描述為比 AWS 上的類似流程更便利。

專家支援計畫的影響

對於沒有專職機器學習工程師的團隊而言，專家支援計畫提供了通往可投入生產的 AI 的橋樑。Prezi 利用此合作關係取得最佳實踐與最先進模型，以應對特定任務，包括：

• 嵌入與重新排序： 優化資產的檢索方式。
• 目標偵測： 改善視覺資產管理。
• 微調： 學習如何微調新視覺語言模型並策劃所需資料。

"我們的專家指導我們專注於正確的事務，分享嵌入、重新排序與目標偵測的最佳實踐與最先進模型，並示範如何微調新視覺語言模型以及收集與策劃資料。"