Ramakm/AI-Engineering

A group of notebooks and other files which can help you learn AI from scratch.

AI 工程:动手实践 – 本仓库提供的内容

TL;DR

一个自主学习、基于笔记本的课程,从机器学习的数学基础,逐步引导你构建现实世界的 AI 服务(RAG、OCR、API 提供的模型)。所有内容均以 Jupyter 笔记本或小型 Python 项目形式呈现,拥有清晰的文件夹结构和推荐学习路径。


适合人群

  • 需要从微积分到深度学习的系统性学习路径的初学者。
  • 希望填补 LLM 相关技能空白(RAG 流水线、微调、部署)的工程师。
  • 偏好动手编码而非纯理论教程的任何人。

你将实际获得的内容

部分 核心内容 典型可运行输出
1. 数学基础 导数、向量、梯度、概率。 直接用于后续 PyTorch 代码的笔记本式计算。
2. PyTorch 基础 张量创建、重塑、索引、基本操作。 操作张量的小脚本——任何模型的构建基石。
3. 神经网络(NN) 实现单个神经元、堆叠层、反向传播笔记。 从零开始构建的最小前馈网络(无库魔法)。
4. Transformer 注意力机制、多头注意力、仅解码器架构。 在笔记本中组装一个微型 Transformer 并运行前向传播。
5. 检索增强生成(RAG) 端到端流水线:文档分块、模型嵌入、存储于 FAISS、检索、通过可配置的 LLM 提供商(Atlas Cloud、MiniMax、OpenAI、兼容 API)生成答案。 可运行的 app.py,使用提供的 FAISS 索引回答网络安全问题。
6. OCR 图像预处理 + 文本提取(pytesseract + Gemini)。 小型 FastAPI/Render 就绪服务(main.py),返回上传图像中的提取文本。
LLM 基础 Token、嵌入、分词理论。 补充 RAG 部分的笔记本说明。
微调 LoRA、QLoRA、Unsloth 笔记本。 展示如何在小型 JSON 提取数据集上适配基础 LLM 的脚本。
基础机器学习模型 线性、岭、逻辑回归、决策树、SVM、聚类。 快速实验的经典 scikit-learn 笔记本。
深度学习生产项目 ANN/CNN、RNN/LSTM、GRU 示例,通过 FastAPI 或 Streamlit 提供,已 Docker 化。 可通过 python train.py 启动,再运行 uvicorn app.main:app 的完整功能 API。
数据分析与工具 电商数据集探索、YouTube 字幕服务器、面试准备清单、书单。 用于练习和背景补充的额外资源。

如何开始

  1. 克隆并安装 顶层 requirements.txt。
  2. 启动 Jupyter(jupyter lab 或 jupyter notebook)。
  3. 按照 Start_here/learning_path.md 中的学习路径,按顺序运行笔记本 1 → 2 → 3 → 4。
  4. 到达项目文件夹(RAG、OCR、DL)时,阅读其本地 README.md,在运行提供的 app.py 或 train.py 前安装额外依赖。

显著优势

  • 端到端覆盖 – 从理论到部署服务,全部在一个仓库中完成。
  • 模块化结构 – 可自由选择部分(如仅 RAG 流水线),无需浏览无关代码。
  • 真实世界示例 – RAG 用例(网络安全文档)和 OCR 服务均为即开即用的演示。
  • 生产风格代码 – FastAPI/Streamlit 包装器、Dockerfile 和测试,让你体验模型从笔记本到服务的迁移过程。

潜在缺点

  • 仓库较大;若仅需单一主题,下载全部内容可能过于冗余。
  • 部分笔记本假设你熟悉基础 Python/NumPy;绝对初学者可能需要快速复习。
  • NN 部分列出的“Muon”优化器并非标准 PyTorch 优化器——可能是拼写错误,或未在其他地方记录的自定义实现。

谁在维护?

作者 Ramakm(GitHub 用户名)在 X 和 Instagram 上推广该项目。仓库采用 MIT 许可证,欢迎贡献,且对笔记本整洁度和 PR 风格有明确指南。


总结

如果你希望获得一个单一、连贯的课程,从数学基础一路学到构建和部署 LLM 增强型应用,这个仓库正是你所需要的,提供可运行代码和清晰文档。


快速启动命令(克隆后):

pip install -r requirements.txt   # 基础依赖
jupyter lab                      # 打开笔记本

然后按照 Start_here/learning_path.md 指南进行。

相关

  • 项目
  • 项目
  • 项目
  • 项目