Cosine AI와 주권 프론티어 AI 사례
Cosine AI와 주권 프론티어 AI 사례
주권 AI 사명
미국의 프론티어 AI 모델에 대한 수출 통제, 특히 Fable이라는 시스템의 금지는 영국이 자체 주권 대형 언어 모델(LLM)을 개발해야 하는 전략적 필요성을 만들었습니다. Cosine의 CEO이자 공동 설립자인 Alistair Pullen은 외부 AI에 의존하면 외교 정책에 따라 가장 강력한 도구가 철회될 수 있는 취약성이 생긴다고 설명합니다.
이를 해결하기 위해 Cosine은 영국 정부의 주권 AI 부서의 지원을 받아 브리스톨에 있는 Isambard 슈퍼컴퓨터 클러스터에서 중요한 컴퓨팅 할당을 받았습니다. 이 정부 지원 컴퓨팅은 스타트업이 직면하는 주요 재정 장벽인 막대한 하드웨어 교육 비용을 제거해, Cosine이 미국 연구소에서 보이는 수십억 달러 규모의 예산 없이도 프론티어 규모 모델을 추구할 수 있게 합니다.
수십억이 아닌 수백만으로 확장하기
작은 예산으로 프론티어 모델을 구축하려면 비즈니스 모델을 "추론 회사"에서 "기술 라이선스 제공자"로 전환해야 합니다.
추론 오버헤드 회피
대부분의 미국 프론티어 연구소는 자체 API를 호스팅하고 토큰 마진을 관리하기 위해 데이터 센터에 수십억을 투자합니다. Cosine은 모델을 금융 서비스 및 방위와 같은 고보안, 에어갭, 혹은 고보안 환경에 직접 배포함으로써 이를 회피합니다. 고객은 자체 GPU에서 모델 가중치를 실행하거나 자체 하이퍼스케일러 클라우드 인스턴스를 임대합니다. 토큰을 판매하는 대신 기술을 라이선스함으로써 Cosine은 대규모 추론 호스팅과 관련된 막대한 운영 비용을 없앱니다.
컨소시엄 피드백 루프
Cosine은 실제 사용 사례와 요구 사항을 직접 교육 과정에 투입하는 영국 대기업 컨소시엄을 활용합니다. 이는 모델을 전 세계 인터넷 전체를 위한 범용 도구가 아니라 특정 국가 및 산업 요구에 최적화하도록 하는 목표 지향 피드백 루프를 생성합니다.
프론티어 성능을 위한 아키텍처 요구사항
폐쇄형 모델인 Claude (Sonnet/Opus)와 같은 성능 한계에 도달하기 위해, Pullen은 세 가지 핵심 아키텍처 요소를 제시합니다:
- 전체 파라미터 수: 순수 규모는 여전히 능력의 기본선입니다.
- 활성 파라미터 수: Mixture-of-Experts(MoE) 모델에서는 전방 패스 중 활성 파라미터 수가 모델의 "느낌"과 추론 깊이를 결정합니다. Pullen은 전체 규모가 비슷해도 활성 파라미터 수가 낮은 MoE 모델(gpt-oss-120b)보다 밀집 모델(Devstral 2)이 더 우수하게 느껴진다고 지적합니다.
- 데이터 품질 및 궤적: 사전 학습 코퍼스는 모델이 30조 토큰에 도달하면 수렴하지만, "알파"는 대규모 사후 학습 데이터와 강화 학습(RL)에서 발견됩니다.
"슬롭" 해결 및 에이전트 신뢰성 향상
AI 코딩에서 "슬롭"은 단위 테스트를 통과하지만 구조적으로 형편없는 코드를 의미합니다(예: 기술 부채를 늘리는 스파게티 코드).
결과보다 과정에 보상
전통적인 RL은 단위 테스트 통과 여부(1 또는 0)만으로 모델에 보상을 줍니다. 이는 결과가 올바른 한 비효율적이거나 위험한 경로를 강화합니다. Cosine은 궤적 내에서 특정 토큰이나 의사결정 지점을 식별하는 "신용 귀속"을 구현해, 결과가 아닌 과정(우아한 경로)에 보상을 줍니다. 이를 통해 모델은 피상적인 통계 상관관계가 아니라 재사용 가능한 추상화를 학습합니다.
런타임 증명을 코드 리뷰로
AI가 생성한 코드 리뷰의 인지적 부담을 줄이기 위해 Cosine은 "익스플로잇 검증" 또는 런타임 증명을 주장합니다. 인간이 git diff를 읽는 대신, 시스템은 가상 머신에서 애플리케이션을 실행하고 에이전트가 기능이 작동함(또는 버그가 수정됨)을 실시간 환경에서 증명하도록 강제합니다. 이는 코드 리뷰를 수동 읽기 작업에서 기능 증명 검증으로 전환합니다.
고급 에이전트 오케스트레이션: Swarm
단순 에이전트 활용이 모델이 bash 사용에 능숙해지면서 덜 중요해지고 있지만, 복잡한 문제 분해는 여전히 오케스트레이션을 필요로 합니다. Cosine의 "Swarm" 시스템은 서브 에이전트 오케스트레이션을 극한까지 끌어올립니다:
- 계층 구조: 최상위 오케스트레이터가 문제를 "서브 플래너"에게 하위 문제로 나누고, 서브 플래너는 다시 평면적인 "작업자" 레이어를 관리합니다.
- 대규모 병렬성: 한 예시에서 Cosine은 253개의 서브 에이전트를 한 번에 사용해 물리 엔진과 3D 뷰어를 포함한 기계식 시계 SDK를 구축했습니다—단일 패스 LLM으로는 너무 복잡한 작업입니다.
- 충돌 관리: 에이전트가 서로의 작업을 덮어쓰는 것을 방지하기 위해 파일에 쓰기 잠금을 적용하고, 다른 에이전트가 파일을 편집하면 컨텍스트 업데이트를 제공합니다.
메모리와 합성 데이터의 도전 과제
메모리 해킹
Pullen은 현재 AI 메모리(VectorDB, RAG)가 에이전트가 언제 메모리를 조회하고 언제 기록해야 할지 알기 어려워 "해킹"이라고 주장합니다. 목표는 지속 학습을 통해 메모리를 모델의 잠재 공간으로 옮기는 것이지만, 보상 해킹과 RL 중 데이터 누출 때문에 여전히 큰 기술적 난제입니다.
RL을 위한 합성 채점자
단순 버그 수정처럼 내장 테스트가 없는 작업에 RL을 적용하기 위해 Cosine은 "정답" 또는 채점자를 합성하는 파이프라인을 사용합니다. 실제 기능 작업을 가져와 구현에 구애받지 않는 검증 방법을 합성함으로써, SystemVerilog처럼 포괄적인 테스트 스위트가 부족한 언어와 스택에 대한 RL 데이터를 생성할 수 있습니다.
요약: Alistair Pullen(Cosine CEO)은 미국 수출 통제로 인해 AI에서 국가 주권이 필수적이라고 주장하며, 집중된 추론‑회사 모델이 수십억이 아닌 수백만 규모의 자금으로도 프론티어 수준의 코딩 시스템을 구축할 수 있음을 설명합니다.
제목: Cosine AI와 주권 프론티어 AI 사례