Arm 參加 2025 年 PyTorch 大會

Arm 將於 10 月 22-23 日參加 PyTorch 大會,展示其生態系統如何透過 PyTorch 與 ExecuTorch 促進 AI 應用的開發與部署。公司專注於為開發者提供工具與回饋機制,以優化雲端、Edge 與行動環境中的 AI 工作負載。

AI 部署與最佳化工具

Arm 在 P1 展位展示多樣化的最佳化使用案例與技術,聚焦於 AI 工作負載從雲端向 Edge 的轉移。展示的關鍵技術與框架包括:

  • ExecuTorch:用於在行動、遊戲與 Edge AI 平台上部署 AI。
  • vLLMMixture of Experts (MoE):展示於雲端 AI 部署。
  • Interactive Demos:展示神經圖形訓練、音訊生成、語音辨識工作負載,以及代理式 AI 工作流程。

開發者支援與產品精進

Arm 提供專門的一對一工作坊與回饋會議,協助開發者提升 AI 產品的可用性與安全性。

可用性與負責任 AI 工作坊

設計專家提供客製化的會議,以精緻使用者介面、簡化使用者體驗,並實作直覺式工作流程。這些工作坊的核心要素是「Yellow Teaming」,一種主動式方法,用於在 AI 系統部署前識別並減輕公平性、透明度、隱私與安全相關的風險。

開發者之聲會議

Arm 進行 30 分鐘的一對一對話,蒐集工程師在建置、部署與擴展 AI 時的資料。這些會議特別針對實務開發挑戰,包括:

  • 從 NVIDIA/x86 架構遷移工作負載至 Arm。
  • 大規模的模型分析與除錯。
  • 在 Edge 上可靠地執行大型語言模型(LLMs)。

從這些會議獲得的洞見將用於指導 Arm 未來 AI 工具、SDK 與文件的開發。

Sources