davidjurgens/potato

potato: the portable annotation tool

What it solves

Potato 是一個免費、可自行部署的註解平台,旨在處理現代 AI 開發的複雜性,特別是針對 NLP、GenAI 與 AI 代理。它不僅止於簡單的點標記(為項目指派標籤),還允許研究人員捕捉決策邊界、評估複雜的代理軌跡,並在不需要撰寫程式碼的情況下執行深入的質性資料分析(QDA)。

How it works

使用者透過 YAML 檔案完整設定註解專案,指定所需的資料類型與註解方案。平台可在本機或伺服器上部署,支援包括文字、音訊、影片、影像以及特殊的「代理軌跡」(LLM 工具呼叫與推理鏈的日誌)等多種模態。它與 LLM 供應商整合以提供預標記與主動學習,並內建「Boundary Lab」產生反事實編輯,測試標註者的標籤在微小變化下是否保持一致。

Who it’s for

此平台為 NLP 研究者、評估代理系統的 AI 工程師,以及需要自行部署替代 NVivo 或 ATLAS.ti 等工具的質性研究者而設計。

Highlights

  • Boundary Probing:自動產生最小的反事實編輯,以繪製決策邊界並建立對照集。
  • Agent Evaluation:提供專門的工具檢視代理軌跡,包含可截圖的 Web Agent Viewer 用於 GUI 軌跡審查。
  • Comprehensive Modality Support:支援從標準文字分類與 NER 到分層音訊註解與影像中的邊界框等所有模態。
  • QDA Mode:支援活頁碼本、即時編碼、備忘錄與案例分析,適用於詮釋性研究。
  • AI Integration:具備 LLM 驅動的標籤建議、主動學習以優先挑選資訊量大的樣本,並提供協作式「Solo Mode」。