KalyanKS-NLP/llm-engineer-toolkit

LLM Engineer Toolkit 是一个精选列表，收录了120多个用于处理大型语言模型（LLM）的库——这是聊天机器人和文本生成器背后的技术。该列表按类别组织，因此您可以快速找到用于特定任务的工具，如训练、构建应用或评估模型。

包含内容：

• 类别 涵盖完整的LLM工作流程：训练和微调、应用开发、检索增强生成（RAG）、推理、服务、数据提取、代理、评估、监控、提示、结构化输出、安全、嵌入模型等。
• 每个条目 包括库名称、简短描述以及指向其GitHub仓库的链接。
• 列出的工具示例：Unsloth用于更快的微调，LangChain用于构建LLM应用，vLLM用于高效推理，以及许多其他工具。

组织方式：

• README顶部有快速链接，可跳转到每个类别。
• 类别以表格形式呈现，包含库、描述和链接列。

其他资源：

• 作者（Kalyan KS）还维护了与面试问题、提示工程技术和综述论文相关的仓库。
• 有一本关于LLM面试问题的付费书籍（含折扣券）和一份免费的新闻通讯，用于获取生成式AI的最新动态。

简而言之，这是一个一站式参考，适合任何探索LLM生态系统的人，通过按用途分组最有用的开源工具来节省时间。