Ramakm/AI-Engineering
A group of notebooks and other files which can help you learn AI from scratch.
AI 工程:动手实践 – 本仓库提供的内容
TL;DR
一个自主学习、基于笔记本的课程,从机器学习的数学基础,逐步引导你构建现实世界的 AI 服务(RAG、OCR、API 提供的模型)。所有内容均以 Jupyter 笔记本或小型 Python 项目形式呈现,拥有清晰的文件夹结构和推荐学习路径。
适合人群
- 需要从微积分到深度学习的系统性学习路径的初学者。
- 希望填补 LLM 相关技能空白(RAG 流水线、微调、部署)的工程师。
- 偏好动手编码而非纯理论教程的任何人。
你将实际获得的内容
| 部分 | 核心内容 | 典型可运行输出 |
|---|---|---|
| 1. 数学基础 | 导数、向量、梯度、概率。 | 直接用于后续 PyTorch 代码的笔记本式计算。 |
| 2. PyTorch 基础 | 张量创建、重塑、索引、基本操作。 | 操作张量的小脚本——任何模型的构建基石。 |
| 3. 神经网络(NN) | 实现单个神经元、堆叠层、反向传播笔记。 | 从零开始构建的最小前馈网络(无库魔法)。 |
| 4. Transformer | 注意力机制、多头注意力、仅解码器架构。 | 在笔记本中组装一个微型 Transformer 并运行前向传播。 |
| 5. 检索增强生成(RAG) | 端到端流水线:文档分块、模型嵌入、存储于 FAISS、检索、通过可配置的 LLM 提供商(Atlas Cloud、MiniMax、OpenAI、兼容 API)生成答案。 | 可运行的 app.py,使用提供的 FAISS 索引回答网络安全问题。 |
| 6. OCR | 图像预处理 + 文本提取(pytesseract + Gemini)。 | 小型 FastAPI/Render 就绪服务(main.py),返回上传图像中的提取文本。 |
| LLM 基础 | Token、嵌入、分词理论。 | 补充 RAG 部分的笔记本说明。 |
| 微调 | LoRA、QLoRA、Unsloth 笔记本。 | 展示如何在小型 JSON 提取数据集上适配基础 LLM 的脚本。 |
| 基础机器学习模型 | 线性、岭、逻辑回归、决策树、SVM、聚类。 | 快速实验的经典 scikit-learn 笔记本。 |
| 深度学习生产项目 | ANN/CNN、RNN/LSTM、GRU 示例,通过 FastAPI 或 Streamlit 提供,已 Docker 化。 | 可通过 python train.py 启动,再运行 uvicorn app.main:app 的完整功能 API。 |
| 数据分析与工具 | 电商数据集探索、YouTube 字幕服务器、面试准备清单、书单。 | 用于练习和背景补充的额外资源。 |
如何开始
- 克隆并安装 顶层
requirements.txt。 - 启动 Jupyter(
jupyter lab或jupyter notebook)。 - 按照
Start_here/learning_path.md中的学习路径,按顺序运行笔记本 1 → 2 → 3 → 4。 - 到达项目文件夹(RAG、OCR、DL)时,阅读其本地
README.md,在运行提供的app.py或train.py前安装额外依赖。
显著优势
- 端到端覆盖 – 从理论到部署服务,全部在一个仓库中完成。
- 模块化结构 – 可自由选择部分(如仅 RAG 流水线),无需浏览无关代码。
- 真实世界示例 – RAG 用例(网络安全文档)和 OCR 服务均为即开即用的演示。
- 生产风格代码 – FastAPI/Streamlit 包装器、Dockerfile 和测试,让你体验模型从笔记本到服务的迁移过程。
潜在缺点
- 仓库较大;若仅需单一主题,下载全部内容可能过于冗余。
- 部分笔记本假设你熟悉基础 Python/NumPy;绝对初学者可能需要快速复习。
- NN 部分列出的“Muon”优化器并非标准 PyTorch 优化器——可能是拼写错误,或未在其他地方记录的自定义实现。
谁在维护?
作者 Ramakm(GitHub 用户名)在 X 和 Instagram 上推广该项目。仓库采用 MIT 许可证,欢迎贡献,且对笔记本整洁度和 PR 风格有明确指南。
总结
如果你希望获得一个单一、连贯的课程,从数学基础一路学到构建和部署 LLM 增强型应用,这个仓库正是你所需要的,提供可运行代码和清晰文档。
快速启动命令(克隆后):
pip install -r requirements.txt # 基础依赖
jupyter lab # 打开笔记本
然后按照 Start_here/learning_path.md 指南进行。
相关
- 项目
- 项目
- 项目
- 项目