Haidra-Org/AI-Horde

解决的问题

AI Horde 是一个社区驱动的分布式推理集群，让无论硬件能力或经济条件如何，每个人都能访问高级AI生成（文本和图像）。它通过允许志愿者共享其空闲的GPU算力，解决了运行Stable Diffusion或Llama等大型AI模型所需的高昂计算成本和硬件要求问题。

工作原理

该系统作为中间件，连接提出AI内容请求的用户与提供计算资源的志愿者“工作者”。当用户提交请求时，系统会找到能够处理该任务的可用工作者。为保持公平并鼓励贡献，系统采用“kudos”机制：工作者处理请求后获得kudos，拥有更多kudos的用户在生成队列中享有更高优先级。kudos无法购买或出售。

适用人群

• 用户：希望无需强大GPU即可生成AI艺术或文本的个人。
• 工作者：拥有GPU并希望为社区贡献计算能力的人。
• 开发者：希望通过REST API将AI生成功能集成到应用、游戏或脚本中的开发者。
• 企业：希望部署私有、可扩展的ML-Ops分布式推理集群的组织。

核心亮点

• 社区驱动：完全免费且由社区运营，确保AI技术的公平获取。
• 多模态支持：同时支持图像和文本生成。
• 可扩展性：设计为可轻松扩展的企业级ML-Ops集群，以适应不同工作负载。
• 公平优先级：基于kudos的经济系统，奖励贡献者，同时对匿名用户保持免费。