OpenNSWM-Lab/FAROS

해결하는 문제

FAROS는 AI가 생성하는 연구에서 근거 부족과 추적 불가능성 문제를 해결합니다. LLM이 근거 없는 아이디어를 생성하는 것을 방지하기 위해 먼저 문헌 증거를 요구하며, 모듈 간 모호한 자연어 전달을 구조화된 계약으로 대체하고, 주장과 증거 및 실험 결과를 직접 연결함으로써 자동 리뷰를 실행 가능한 형태로 보장합니다.

작동 방식

FAROS는 구조화된 과학적 루프를 따르는 다중 에이전트 협업 시스템으로 작동합니다:

1. 아이디어 생성: "주제 코치"를 사용해 연구 관심사를 구체적인 작업으로 정제하고, 아이디어를 지지하기 전에 품질 기준을 통과한 문헌을 검색합니다.
2. PlanPackage: 가설, 변수, 수용 기준을 포함한 구조화된 계약을 생성하여 하위 모듈을 안내합니다.
3. 코드 및 실험: 사전 환경에서 실행 가능한 코드를 생성하고 실험을 수행하며, 구조화된 메트릭과 그림을 수집합니다.
4. 논문 작성: 원래 계획과 실험 결과와 연결된 논문 초안을 작성합니다.
5. ReviewX: 주장, 증거, 측정치 간의 일관성을 검사하는 감사 시스템으로, 결과를 연구 계획에 피드백하여 수정을 유도합니다.

대상 사용자

LLM 및 AI 사이언티스트 연구에 종사하는 연구자 및 개발자에게 적합하며, 초기 연구 질문에서 최종 논문에 이르기까지 엄격하고 감사 가능한 추적 기록을 유지할 수 있는 시스템이 필요할 때 사용됩니다.

주요 특징

• 증거 우선 접근법: 연구 아이디어를 정당화하기 전에 문헌이 의미적으로 일치하고 검증되어야 합니다.
• PlanPackage 계약: 타입 기반의 전달 시스템을 사용해 코드 및 리뷰 모듈이 정확한 과학적 의도를 이해할 수 있도록 합니다.
• ReviewX 폐쇄 루프: 단순한 점수화가 아니라 일관성 감사로 전환하여 특정 연구 수정을 유도합니다.
• 인간 중심의 루프: 계획 승인 및 최종 서명과 같은 중요한 지점에 인간의 결정 게이트를 유지합니다.
• 복구 가능한 작업: 브라우저 새로 고침이나 연결 끊김에도 불구하고 장시간 실행되는 백그라운드 작업을 지원합니다.