DARPA와 미국 공군이 VENOM 프로그램을 통해 AI 제어 F-16을 배치

DARPA와 미국 공군은 인공지능(AI) 에이전트가 제어하는 F-16 전투기를 성공적으로 비행시켰습니다. 이정표는 독특한 프로토타입에서 표준 운영 함대 항공기를 자율 비행 테스트베드로 사용하는 전환을 나타내며, 전투 AI의 신속하고 확장 가능한 개발을 가능하게 합니다.

VENOM 프로그램과 자율성 키트

Viper Experimentation and Next-generation Operations Model (VENOM) 프로그램은 미국 공군과 DARPA 간의 공동 노력입니다. 이 프로그램은 표준 F-16을 자율 비행이 가능한 플랫폼으로 변환합니다.

구현의 주요 기술 세부 사항은 다음과 같습니다:

• VENOM 자율성 키트(VAK): 이 하드웨어 및 소프트웨어 인터페이스는 AI 에이전트가 항공기의 비행 제어 및 임무 시스템과 상호작용하게 하며, 제트의 핵심 소프트웨어를 변경하지 않습니다.
• Human-on-the-Loop 제어: VAK은 단일 스위치로 인간과 AI 제어 간 전환을 가능하게 하여 실험을 위한 안전 메커니즘을 제공합니다.
• X-62A VISTA로부터의 전환: X-62A VISTA를 사용한 이전 테스트에서 AI가 공중전에서 전투기를 조종할 수 있음을 입증했지만, VENOM은 이러한 능력이 기존 함대 항공기에 통합될 수 있음을 보여줍니다.

미래 개발: AIR 프로그램

VENOM milestone 이후, 이러한 개조된 항공기는 DARPA의 Artificial Intelligence Reinforcements (AIR) 프로그램의 주요 테스트베드가 될 것입니다. AIR 프로그램은 여러 전략적 목표에 중점을 둡니다:

• Multi-Ship 운영: 실비행 시나리오에서 여러 AI 에이전트를 테스트하여 시야 밖(BVR) 전투를 위한 자율성을 개발합니다.
• 협동 전투 항공기(CCA): 인간 조종사가 자율 무인 항공기 팀을 지휘하고 조정할 수 있는 길을 열어줍니다.
• 신뢰성과 성능: 현대 전쟁의 "안개와 마찰"을 해결하여 복잡한 환경에서 전투 AI가 신뢰할 수 있고 예측 가능하도록 합니다.

기술 및 윤리적 비판

산업 관찰자와 기술 비판가는 인공지능 테스트를 위해有人 항공기를 사용하는 접근 방식에 대해 여러 우려를 제기했습니다:

Human-AI 인수인계 위험

비평가들은 '스위치 전환' 인수인계 메커니즘이 안전성에 충분하지 않을 수 있다고 주장합니다.

인간은 자동 시스템이 한계에 도달하여 문제를 인간의 손에 넘길 때 갑자기 인수하는 데 서툴다. 많은 항공기 사고와 추락은 자동조종이 해제되고 잘못 구성된 항공기의 제어가 인간 조종사에게 넘어갈 때 시작된다.

###有人 플랫폼의 효율성 일부는 인간 조종사를 위한 항공기 개조에 투자하는 것이—생명 유지 시스템과 G-력 제한을 포함—목적에 맞게 제작된 자율 항공기(드론)를 건설하는 것보다 자원의 비효율적인 사용이라고 주장합니다.

책임과 제어

사용된 AI 기술의 투명성 부족과 의미 있는 인간 책임 없이 자율 무기 시스템이 작동할 수 있는 잠재력에 대한 보다 광범위한 우려가 있습니다.