Hugging Face 推理端點分析更新

Hugging Face 為推理端點分析儀表板推出了一系列更新，為使用者提供即時效能監控以及對副本狀態的更深入可見性。這些改進旨在降低除錯阻力，並即時洞察端點負載與健康狀況。

即時效能監控

推理端點現在具備即時指標，能即時更新，讓使用者在事件發生時監控請求延遲、回應時間與錯誤率。為了支援此功能，Hugging Face 重新設計了分析後端，以確保快速資料載入，特別針對流量高的端點。

可自訂時間檢視與自動刷新

為了同時支援短期除錯與長期趨勢分析，更新後的儀表板包含以下功能：

• 可自訂時間範圍：使用者可以放大特定時間區間，以分析精確事件。
• 自動刷新：可切換的自動刷新功能確保儀表板保持最新，無需手動重新載入頁面。

副本生命週期追蹤

現在可透過全新的副本生命週期檢視來監控單一副本的狀態。此功能讓使用者能追蹤每個副本從初始狀態到每一次狀態轉換直至終止。此可見性對於管理具有多個運作部件的端點以及了解部署的內部狀態至關重要。

未來迭代

Hugging Face 表示，這些更新是持續迭代過程的一部分，並積極徵求使用者回饋，以進一步完善分析體驗。