lobehub/awesome-rsi

그것이 무엇인가

큐레이션되고 커뮤니티가 유지 관리하는 목록("awesome 목록")으로, **재귀적 자기 개선(RSI)**에 관한 연구 논문과 리소스를 수집하고 구성합니다. RSI는 AI 시스템이 자신의 능력을 개선할 수 있을 뿐만 아니라 그러한 개선을 생성하는 데 사용하는 메커니즘 자체도 개선할 수 있다는 아이디어로, 자기 가속 루프를 만듭니다.

왜 지금 중요한가

이 목록은 RSI가 순수 이론에서 활발한 실증 연구 분야로 이동했다고 주장하며, 다음 분야의 최근 발전에 의해 추진되었습니다: * 자기 훈련* 에이전트 메모리* 하네스(외부 스캐폴딩) 최적화* 구현된 자기 개선* 자동화된 AI 연구* 자기 수정 코딩 에이전트* 진화적 검색

목록에 포함된 것

작업을 다음 섹션으로 그룹화합니다:

• 기초 — 입문 논문 및 설문 조사
• 모델 수준 RSI — 자기 생성 데이터, 피드백 또는 추론을 통해 AI의 가중치 개선
• 하네스 수준 RSI — 모델 주변의 프롬프트, 메모리, 검증 및 에이전트 정책 개선
• 다중 에이전트 자기 개선 — 여러 에이전트가 함께 개선하거나 토론
• 코딩 자기 개선 — 자신의 코드를 수정하는 에이전트
• 자동화된 AI 연구 개발 — AI 연구를 스스로 수행하는 시스템
• 구현/물리적 자기 개선 — 물리적 에이전트의 개선
• 진화 및 개방형 RSI
• 안전, 정렬 및 이론
• 내성 및 자기 모델링
• 벤치마크 및 평가
• 프레임워크 및 도구, 블로그 게시물, 강연 및 관련 목록

정의하는 주요 개념

README는 유용한 정밀 어휘를 도입합니다:

• 자기 정제 — 시스템에 지속적인 변경 없이 현재 출력 개선
• 지속적 자기 개선 — 다음 라운드로 이어지는 가중치, 메모리, 기술, 프롬프트 또는 코드의 변경
• 재귀적 자기 개선 — 개선을 생성하는 메커니즘 자체가 개선되는 대상인 경우
• RSI 기반 — 자동 루프를 반드시 형성하지 않고 자체 구조를 수정 가능하게 노출하는 시스템

또한 주장된 자기 개선에 대한 세 가지 증거 수준을 구분합니다:

• 작업 이득 — 더 나은 출력, 지속적인 변경 없음
• 유지 이득 — 지속적인 업데이트가 미래 성능을 개선
• 개선자 이득 — 개선 생성 메커니즘 자체가 더 효과적이 됨

목록은 자기 참조 아키텍처만으로는 실제 개선을 증명하지 않는다고 강조합니다—통제된 비교가 필요합니다.

중요한 주의 사항

목록은 모든 항목이 진정한 RSI를 보여주는 것은 아니라고 정직하게 밝힙니다; 일부는 제한된 자기 개선 또는 가능하게 하는 기술입니다. 분류 체계는 조직적이며 엄격하지 않습니다—많은 시스템이 여러 범주에 걸쳐 있습니다. 새로운 기여자는 명시적으로 환영받습니다.