OpenAI와 Los Alamos National Laboratory 바이오사이언스 연구 파트너십
OpenAI와 Los Alamos National Laboratory (LANL)은 바이오사이언스 연구를 위한 실험실 환경에서 인공지능의 안전한 적용을 연구하기 위해 연구 파트너십을 체결했습니다. 이 협력은 과학적 발견의 가속화와 생물학적 위험의 엄격한 완화 사이의 균형을 맞추는 것을 목표로 합니다.
물리적 실험실에서의 멀티모달 AI 평가
OpenAI와 LANL 바이오사이언스 부문은 프론티어 모델, 구체적으로 GPT-4o가 시각 및 음성과 같은 멀티모달 기능을 사용하여 물리적 실험실 작업을 수행하는 데 인간을 어떻게 지원할 수 있는지 평가하기 위한 평가 연구를 진행하고 있습니다. 이 연구는 GPT-4o 및 아직 출시되지 않은 실시간 음성 시스템에 대한 생물학적 안전 평가를 포함하여, 안전 기준을 유지하면서 바이오사이언스 연구를 어떻게 지원할 수 있는지 결정합니다.
실험 설계 및 작업 프록시
이 파트너십은 실험실 환경에서 멀티모달 프론티어 모델을 테스트하기 위한 최초의 실험을 진행하고 있습니다. 이 연구는 표준 실험실 실험 작업으로 구성된 안전한 프로토콜을 수행하고 문제 해결하는 전문가(박사)와 초보자들의 능력을 평가합니다. 이러한 작업은 이중 사용 문제를 일으킬 수 있는 더 복잡한 작업의 프록시 역할을 합니다.
평가에 포함된 구체적인 작업은 다음과 같습니다:
- Transformation: 호스트 생물체에 외래 유전 물질을 도입하는 것.
- Cell Culture: 체외에서 세포를 유지하고 증식시키는 것.
- Cell Separation: 원심분리와 같은 기술을 활용하는 것.
작업 완료 및 정확도의 향상을 측정함으로써, 연구자들은 프론티어 모델이 실제 생물학적 작업에서 전문가와 초보자의 역량을 어떻게 향상시킬 수 있는지 정량화하고자 합니다.
안전 평가에서의 기술적 발전
이 파트너십은 두 가지 주요 차원에서 이전의 AI 안전 작업을 확장합니다:
- Wet Lab 기술 통합: 이전 평가는 화합물 합성을 위한 서면 작업과 응답에 초점을 맞추었으며, 생물학적 벤치워크에 필요한 물리적 기술을 포착하지 못했습니다. 이 연구는 이론적 지식(예: 질량 분석 단계 알기)을 넘어 실제 샘플로 작업을 수행하는 것으로 나아갑니다.
- 멀티모달 추론: 이전 작업은 GPT-4의 서면 출력에 초점을 맞췄지만, GPT-4o의 음성과 시각 입력을 처리하는 능력은 실시간 문제 해결을 가능하게 합니다. 예를 들어, 사용자는 카메라를 통해 모델에 습식 실험실 설정을 보여주고 질문을 주어 서면 설명에 의존하는 대신 시각적으로 상황을 해결할 수 있습니다.
제도적 프레임워크 및 안전 약속
이 협력은 Los Alamos National Laboratory의 새로운 AI 위험 기술 평가 그룹이 이끌며, 이 그룹은 AI 관련 위험을 평가하고 이해하도록 특별히 임무를 부여받았습니다. 이 파트너십은 안전한, 안전한, 신뢰할 수 있는 인공지능 개발 및 사용을 위한 백악관 행정 명령에 따른 미국 에너지부의 임무와 일치하며, 이 임무는 국립 연구소에 프론티어 AI 모델의 생물학적 능력을 평가하도록 지시합니다.
이 작업은 OpenAI의 기존 바이오 위협 위험 연구를 바탕으로 하며, 모델 위험을 추적, 예측 및 보호하기 위한 회사의 Preparedness Framework를 따릅니다. 또한 2024년 AI 서울 정상회담에서 합의된 프론티어 AI 안전 약속과도 일치합니다.
"AI는 과학 분야에서 큰 이점을 가질 수 있는 강력한 도구이지만, 새로운 기술과 마찬가지로 위험도 동반된다," 라고 Los Alamos의 정보 시스템 및 모델링 부문 부 그룹 리더인 Nick Generous가 말했다.