Arm 參加 2025 年 PyTorch 大會
Arm 將於 10 月 22-23 日參加 PyTorch 大會,展示其生態系統如何透過 PyTorch 與 ExecuTorch 促進 AI 應用的開發與部署。公司專注於為開發者提供工具與回饋機制,以優化雲端、Edge 與行動環境中的 AI 工作負載。
AI 部署與最佳化工具
Arm 在 P1 展位展示多樣化的最佳化使用案例與技術,聚焦於 AI 工作負載從雲端向 Edge 的轉移。展示的關鍵技術與框架包括:
- ExecuTorch:用於在行動、遊戲與 Edge AI 平台上部署 AI。
- vLLM 與 Mixture of Experts (MoE):展示於雲端 AI 部署。
- Interactive Demos:展示神經圖形訓練、音訊生成、語音辨識工作負載,以及代理式 AI 工作流程。
開發者支援與產品精進
Arm 提供專門的一對一工作坊與回饋會議,協助開發者提升 AI 產品的可用性與安全性。
可用性與負責任 AI 工作坊
設計專家提供客製化的會議,以精緻使用者介面、簡化使用者體驗,並實作直覺式工作流程。這些工作坊的核心要素是「Yellow Teaming」,一種主動式方法,用於在 AI 系統部署前識別並減輕公平性、透明度、隱私與安全相關的風險。
開發者之聲會議
Arm 進行 30 分鐘的一對一對話,蒐集工程師在建置、部署與擴展 AI 時的資料。這些會議特別針對實務開發挑戰,包括:
- 從 NVIDIA/x86 架構遷移工作負載至 Arm。
- 大規模的模型分析與除錯。
- 在 Edge 上可靠地執行大型語言模型(LLMs)。
從這些會議獲得的洞見將用於指導 Arm 未來 AI 工具、SDK 與文件的開發。