OpenAI와 폴란드 NASK, AI 안전 및 보안 분야 파트너십 체결
OpenAI와 폴란드 NASK 국립연구소가 AI 안전, 보안 및 기술 연구에 관한 협력을 모색하기 위한 협약을 체결했습니다. 이번 파트너십이 중요한 이유는 OpenAI가 이미 협력하고 있는 정부 지원 AI 안전 연구소 네트워크에 국가 공공 연구 기관이 추가된다는 점과, NASK의 CERT Polska가 이미 OpenAI의 사이버 역량 모델을 사용하여 널리 배포된 네트워킹 하드웨어에서 실제 취약점을 발견했기 때문입니다.
협약의 내용
이 협약은 제품 출시가 아닌 협력의 틀을 제공하는 것입니다. 이에 따라 NASK의 AI 안전 연구 센터(폴란드 AI 안전 연구소(AISI) 역할을 수행)와 OpenAI는 AI 안전 연구에 대해 공동으로 협력하게 됩니다.
명시된 공동 작업 영역은 다음과 같습니다:
- 점점 더 강력해지는 AI 시스템을 평가하는 방법 모색
- 해당 시스템의 잠재적 취약점 식별
- 안전장치 강화
두 기관은 양측의 전문성을 결합하여 새로운 위험을 더 잘 이해하고, 안전장치를 강화하며, 고급 AI가 더 안전하고 회복력 있는 디지털 생태계에 기여할 수 있는 방법을 모색하는 것을 목표로 설명합니다.
OpenAI가 이를 국제적 노력으로 강조하는 이유
OpenAI는 AI 시스템이 더욱 강력해짐에 따라 개발자와 공공 연구 기관 간의 국제적 협력이 위험을 이해하고 더 강력한 안전장치를 구축하는 데 필수적이 될 것이라고 밝혔습니다.
회사는 미국의 CAISSI(Center for Advancing Standards and Innovation for Super Intelligence)와 영국 AI 안전 연구소(AISI)를 포함한 공공 연구 기관과의 기존 협력을 언급합니다. OpenAI에 따르면, 이러한 작업은 이미 안전장치를 강화하고, AI 에이전트의 보안 취약점을 식별 및 수정하며, 최첨단 AI 안전을 발전시키는 데 도움이 되었습니다.
OpenAI는 별도로 미국이 AI 안전 연구소와 표준 기관의 전문성을 활용하여 최첨단 AI에 대한 국제 기술 표준을 위해 전 세계 국가들과 협력할 것을 촉구했습니다. 회사는 역량 평가, 위험 평가, 안전장치 테스트 및 사고 보고에 대한 공통된 접근 방식이 국가들이 증거를 비교하고 국경을 넘는 위험에 대응하는 데 도움이 될 수 있다고 주장합니다. NASK와의 협력은 국가적 전문성을 이러한 광범위한 노력에 통합하는 사례로 제시됩니다.
NASK의 역할과 폴란드의 맥락
NASK의 기여는 공공 서비스와 폴란드의 디지털 정보 생태계를 보호하는 데 직접 적용되는 광범위한 AI 안전 연구에 기반을 두고 있습니다. OpenAI의 게시물은 국가적 파트너가 중요한 이유에 대해 구체적인 주장을 합니다: NASK와 같은 국가적 파트너가 없다면, 글로벌 AI 안전 표준은 AI가 실제로 사용되는 현실과 동떨어진 채로 남을 수 있습니다.
이러한 프레임은 AI 안전 연구소를 추상적인 국제 표준과 AI 시스템이 배포되는 구체적인 환경(공공 서비스, 국가 디지털 인프라) 사이의 다리로 위치시킵니다.
이전 작업: CERT Polska와 MikroTik RouterOS 취약점
이 협약은 OpenAI와 폴란드 사이버 방어자들 간의 기존 협력을 기반으로 합니다. 7월, NASK 내에서 운영되는 CERT Polska는 Daybreak를 통해 OpenAI의 사이버 역량 모델에 접근할 수 있었습니다.
발표에 따르면, 팀은 OpenAI 모델을 사용하여 MikroTik RouterOS에서 6개의 취약점을 발견하는 데 도움을 받았으며, 여기에는 인증 없이 영향을 받는 장치를 제어할 수 있도록 결합될 수 있는 결함이 포함되었습니다. 공급업체는 수정 사항을 출시했고, CERT Polska는 이를 통해 관찰된 공격을 방지할 수 있음을 확인했습니다.
이것이 이번 파트너십의 구체적인 선례로 인용됩니다: 국가 컴퓨터 비상 대응 팀이 최첨단 모델을 사용하여 네트워킹 장비의 실제 보안 결함을 발견하고 해결을 도우며, 공급업체가 패치를 제공하고 수정 사항이 관찰된 공격에 대해 검증된 사례입니다.
발표가 말하는 것과 말하지 않는 것
이 게시물은 협력 모색을 위한 협약을 설명하고 의도된 연구 영역을 나열합니다. 자금, 인력, 일정, 결과물 또는 공동 벤치마크나 평가 결과에 대해서는 명시하지 않습니다. 언급된 유일한 정량적 결과는 이전 CERT Polska 작업입니다: MikroTik RouterOS에서 발견된 6개의 취약점과 공급업체 수정 사항이 CERT Polska가 관찰한 공격을 방지한 것으로 확인된 것입니다.