edoliberty/long-term-memory-in-ai

Class notes for the course "Long Term Memory in AI - Vector Search and Databases" COS 597A @ Princeton Fall 2023

它解决了什么问题

AI系统需要一种从海量数据中存储和检索信息的方法。本课程通过教授向量搜索来解决这一问题,这是现代AI中长期记忆的核心技术。它连接了人工智能和数据库管理,展示了如何构建能够在数十亿条记录中快速找到相似项(如图像、文本或音频)的系统。

它是如何运作的

本课程是一门研究生研讨会(普林斯顿大学的COS 597A),共10次讲座,每次都有详细的PDF讲义。课程从文本和图像嵌入等基本概念开始,逐步深入到降维和近似最近邻搜索,再到高级索引技术(聚类、量化、基于图的方法)。讲师包括Pinecone的首席执行官、FAISS的主要开发者以及DiskANN的创建者。学生通过完成一个最终项目来应用所学内容,项目有三个方向可选:理论/研究、数据科学/AI(使用Pinecone)或工程/高性能计算(扩展FAISS)。讲座辅以一份包含经典论文的全面阅读清单。

适合谁

本课程面向研究生(正式课程在普林斯顿大学),但教材明确允许任何学术人员、学生或教授免费使用。它适合任何希望深入、系统地理解向量搜索及其在AI系统中的作用的人,尤其是那些对构建或使用向量数据库感兴趣的人。

亮点

  • 由来自工业和研究的领导者授课:Edo Liberty(Pinecone)、Matthijs Douze(Meta/FAISS),以及Harsha Vardhan Simhadri(微软/DiskANN)的客座讲座。
  • 涵盖理论(证明、渐近界)和实际系统(FAISS、乘积量化、HNSW图)。
  • 包含一份精心策划的经典和现代论文书目,涉及向量搜索、降维和量化。
  • 开放贡献模式:该仓库欢迎拉取请求和问题报告,鼓励社区改进课程材料。

相关

  • 项目
  • 项目
  • 项目
  • 项目