pollen-robotics/reachy_mini_conversation_app
Talk with Reachy Mini!
解決的問題
本專案為 Reachy Mini 機器人提供了一個對話式介面,使其能透過即時語音、視覺與物理動作與人類互動。它彌補了高階 AI 推理(LLM)與實體機器人硬體之間的差距,讓機器人能根據自然語言對話表達情緒、跳舞並執行任務。
如何運作
此應用程式將使用者連接到即時 AI 後端(透過 Hugging Face)與機器人的硬體。它採用分層式運動系統,將語音反應動作(例如晃動)與排隊的主要動作(例如舞蹈或特定姿勢)結合。
它採用工具導向的架構,AI 助理可觸發特定功能:
- 本機工具:控制機器人硬體的 Python 模組(例如,移動頭部、擷取相機畫面)。
- 遠端工具:相容 MCP 的 Hugging Face Spaces,提供外部資料(例如,網路搜尋、天氣或時間)。
使用者可定義「個人設定」(個性),包含特定的系統提示與啟用的工具組,以改變機器人的行為。
適用對象
- 使用 Reachy Mini 硬體的機器人擁有者與開發者。
- 對具身智能與人機互動感興趣的 AI 研究人員。
- 希望使用基於 LLM 的工具呼叫來建構與測試自訂機器人行為的開發者。
主要特色
- 即時互動:低延遲的語音對話與視覺處理。
- 個性系統:可自訂的設定檔,包含獨特的指令與工具存取權限。
- 混合工具支援:同時支援用於硬體控制的本機 Python 工具與用於外部 API 存取的遠端 MCP 工具。
- 整合式運動:包含舞蹈與情緒表達的動作程式庫,可與語音融合。
- Web UI:可選的介面,用於管理個性、工具與設定。
相關
- 專案
- 專案
- 專案
- 專案