edoliberty/long-term-memory-in-ai
Class notes for the course "Long Term Memory in AI - Vector Search and Databases" COS 597A @ Princeton Fall 2023
해결하는 문제
AI 시스템은 방대한 데이터 컬렉션에서 정보를 저장하고 검색하는 방법이 필요합니다. 이 과정은 현대 AI에서 장기 기억의 핵심 기술인 벡터 검색을 가르쳐 이 문제를 해결합니다. 인공지능과 데이터베이스 관리를 연결하여 수십억 개의 레코드에서 유사한 항목(이미지, 텍스트, 오디오 등)을 빠르게 찾는 시스템을 구축하는 방법을 보여줍니다.
작동 방식
이 과정은 프린스턴 대학의 COS 597A로 제공되는 대학원 수준의 세미나로, 각각 상세한 PDF 노트가 있는 10개의 강의로 구성됩니다. 텍스트 및 이미지 임베딩과 같은 기본 개념부터 차원 축소 및 근사 최근접 이웃 검색을 거쳐 고급 인덱싱 기술(클러스터링, 양자화, 그래프 기반 방법)까지 진행됩니다. 강사에는 Pinecone의 CEO, FAISS의 주요 개발자, DiskANN의 창시자가 포함됩니다. 학생들은 최종 프로젝트를 완료하여 자료를 적용하며, 이론/연구, 데이터 과학/AI(Pinecone 사용), 엔지니어링/HPC(FAISS 확장) 중 하나를 선택합니다. 강의는 중요한 논문의 포괄적인 읽기 목록으로 보완됩니다.
대상
이 과정은 대학원생을 대상으로 합니다(공식 과정은 프린스턴 대학에 있음). 그러나 자료는 모든 학자, 학생, 교수가 무료로 사용할 수 있도록 명시적으로 제공됩니다. 벡터 검색과 AI 시스템에서의 역할에 대해 깊고 체계적으로 이해하려는 사람, 특히 벡터 데이터베이스를 구축하거나 사용하는 데 관심이 있는 사람에게 적합합니다.
하이라이트
- 산업 및 연구 분야의 리더들이 강의: Edo Liberty(Pinecone), Matthijs Douze(Meta/FAISS), 그리고 Harsha Vardhan Simhadri(Microsoft/DiskANN)의 초청 강의.
- 이론(증명, 점근적 경계)과 실용적인 시스템(FAISS, 곱 양자화, HNSW 그래프)을 모두 다룹니다.
- 벡터 검색, 차원 축소, 양자화에 관한 고전 및 현대 논문의 선별된 참고 문헌을 포함합니다.
- 오픈 기여 모델: 저장소는 풀 리퀘스트와 이슈 보고를 환영하며 커뮤니티가 과정 자료를 개선하도록 장려합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트