Hugging Face Upskill：透過代理技能將專家能力轉移至較小模型

Hugging Face 推出了 upskill，這是一個旨在將複雜領域專業知識從最先進（SOTA）模型轉移到較小、較便宜或開源模型的工具。透過產生與驗證「代理技能」──結構化的指示與程式碼檔案──upskill 讓開發者能提升本地模型在專門任務上的效能，例如為 diffusers 模型編寫 CUDA 核心，同時降低運營成本。

代理技能：能力轉移的媒介

代理技能是一種使用標準化檔案（例如用於指示的 Markdown 與用於程式碼的腳本）來定義模型上下文的方法。此格式使得能力能夠在不同模型與工具之間輕鬆產生、共享與審查。它們對於模型無法自行可靠解決的領域特定或困難問題特別有效。

雖然基於現有文件的簡單技能可以提升某些模型的效能，但對於其他模型卻可能降低效能或增加 token 使用量。因此必須進行嚴謹的評估流程，以確保技能確實帶來能力的「提升」。

Upskill 工作流程：從教師到學生

upskill 流程遵循教師-學生架構，將專業知識從高階模型轉移至較易取得的模型。

1. 產生技能（教師）

流程從「教師」模型（例如 Claude Opus 4.5）以互動方式執行複雜任務開始。這可以透過 Claude Code 完成，代理會構建核心並匯出執行追蹤。教師模型接著將此追蹤轉換為技能檔案。建立這些技能的主要方式有三種：

• 指示代理在同一會話中建立技能檔案。
• 使用 Anthropic 的「skill creator」技能。
• 使用 upskill 工具直接從追蹤產生技能。

2. 驗證技能

為確保技能可運作，upskill 會根據任務追蹤產生測試案例，並比較模型在有無技能情況下的效能。成功的技能是指教師模型仍能維持其效能，證明該技能已精確捕捉必要的任務邏輯。

3. 部署至較小模型（學生）

驗證完成後，技能會轉移至較小或開源模型。upskill 提供 eval 指令，以在這些「學生」模型上執行產生的測試案例。

在編寫 CUDA 核心的基準測試中，upskill 展示了顯著的提升：

• 準確度提升： 一個本地模型（unsloth/GLM-4.7-Flash-GGUF:Q4_0）在使用技能後，準確度從 40% 提升至 85%（+45%）。
• Token 最佳化： 某些模型，例如 moonshotai/Kimi-K2-Thinking，在準確度提升的同時也減少了 token 使用量。相反地，對於 Claude Opus 4.5，該技能增加了 token 使用量卻未提升效能，顯示對教師模型而言此技能是多餘的。

案例研究：CUDA 核心開發

upskill 被應用於使用 Hugging Face kernels 函式庫構建 CUDA 核心的專門任務。最終產生的 kernel-builder-cuda-kernels 技能編碼了深度領域專業知識，否則需要數小時的手動文件研究，內容包括：

• GPU 架構： 目標為 NVIDIA H100（運算能力 9.0）。
• 記憶體管理： 將共享記憶體對齊至 128 位元組。
• 非同步操作： 為 __CUDA_ARCH__ >= 900 實作非同步記憶體拷貝。
• 專案結構： 定義 build.toml 配置與 PyTorch C++ 綁定。

有了此技能，模型即可為複雜需求產生完整的專案結構與 CUDA 實作，例如「針對 H100 優化的融合 LayerNorm + GELU 核心」。

技術實作與使用方式

upskill 可透過 pip 取得，並支援多種產生器，包括 Claude Opus 4.5、OpenAI，以及透過 OpenAI 相容端點的本地模型。

主要指令

• 產生: upskill generate "task description" --from ./trace.md
• 評估: upskill eval ./skills/my-skill/ --model haiku --model sonnet
• 本地模型產生: upskill generate "task" --model opus --eval-model "local-model-name" --eval-base-url http://localhost:8080/v1

技能規範

技能會依照 Agent Skills 規範儲存在目錄中，通常包含：

• SKILL.md：主要指示（例如 CUDA 核心技能約 ~520 個 token）。
• skill_meta.json：用於驗證的中繼資料與產生的測試案例。

這些技能可在支援該規範的工具之間移植，包括 Claude Code、Codex 與 Cursor。