Giskard-AI/giskard-oss
🐢 Open-Source Evaluation & Testing library for LLM Agents
해결하는 문제
Giskard는 AI 에이전트와 LLM 기반 시스템을 테스트하고 평가하기 위한 구조화된 방법을 제공합니다. 비결정적인 AI 동작을 검증하는 문제를 해결하며, 개발자가 회귀(regression)를 포착하고 안전성을 보장하며 RAG (Retrieval-Augmented Generation) 시스템의 품질을 검증하도록 돕습니다.
작동 방식
이 라이브러리는 두 가지 주요 모듈식 구성 요소로 나뉩니다. 사용자 정의 평가 시나리오(단언 또는 LLM-as-judge 평가 등)를 정의하기 위한 giskard-checks와 자동화된 레드팀 테스트를 위한 giskard-scan입니다. 에이전트(동기 또는 비동기 함수)를 래핑하고 이러한 도구를 사용하여 상호 작용을 시뮬레이션하고, 프롬프트 인젝션과 같은 취약점을 탐색하며, 출력이 특정 요구 사항을 충족하는지 검증합니다.
대상 사용자
에이전트 시스템이나 LLM 애플리케이션을 구축하는 개발자 및 AI 엔지니어를 위해 설계되었으며, 개발 수명 주기 전반에 걸쳐 신뢰할 수 있고 프로그래밍 가능한 방식으로 품질 보증, 보안 테스트 및 성능 검증을 수행해야 하는 사용자에게 적합합니다.
주요 특징
- 자동화된 레드팀 테스트: 프롬프트 인젝션, 유해 콘텐츠, 잘못된 정보와 같은 취약점을 식별하기 위한 적대적 테스트 제품군을 자동으로 생성합니다.
- LLM-as-Judge: LLM을 사용하여 근거성, 적합성 및 기타 정성적 지표를 평가하는 내장 평가 체크를 포함합니다.
- 모듈식 아키텍처: 경량의 비동기 우선 프레임워크로 구축되어 필요한 구성 요소만 설치할 수 있습니다.
- 유연한 테스트: 호출 가능한 모든 에이전트나 파이프라인의 테스트를 지원하며, 간단한 단언부터 복잡한 다중 턴 대화 평가까지 가능합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트