google-gemini/genai-processors
GenAI Processors is a lightweight Python library that enables efficient, parallel content processing.
What it solves
GenAI Processors 是一個輕量級的 Python 函式庫，旨在減少 LLM API 的碎片化，並簡化複雜、非同步 AI 流程管線的建立。它提供統一的方式來處理多模態內容，並在不同模型、代理人與工具之間串流資料，無需撰寫繁雜的管道程式碼。
How it works
此函式庫以 Processor 抽象為核心，封裝一個工作單元。它採用「雙介面」模式，將建立處理器的邏輯（Producer）與使用處理器的邏輯（Consumer）分離。
主要機制包括：
- Unified Content Model：使用
ProcessorPart包裝多模態資料（文字、影像、音訊、JSON），並附帶 MIME 類型與角色等中繼資料。 - Asyncio Integration：基於 Python 的
asyncio，提供原生非同步串流與併發任務協調。 - Composable Pipelines：可透過
+運算子將處理器串接，或使用//運算子平行化，構建複雜的資料流。 - Integrated API Support：內建
GenaiModel處理標準 API 呼叫，LiveProcessor處理與 Gemini API 的即時串流互動。
Who it’s for
適合開發生成式 AI 應用的開發者，特別是需要協調多模態串流資料與建立模組化、可重用代理行為的人員。
Highlights
- Modular Design：任務被拆分為可重用的
Processor與PartProcessor單元。 - Native Streaming：預設內建非同步串流功能。
- Multimodal Support：無縫處理文字、影像、音訊與自訂 JSON。
- Flexible Orchestration：支援回合制互動與即時串流代理。