DeepMind Institute: AGI 연구를 위한 새로운 학제간 플랫폼

Google DeepMind는 인공 일반 지능(AGI)으로의 전환에 관한 학제간 연구와 에세이를 게재하기 위해 설계된 출판 플랫폼인 DeepMind Institute(DMI)를 출범했습니다. 이 이니셔티브는 Google DeepMind, Google 및 전 세계 연구 커뮤니티의 연구자들이 AGI가 제시하는 도전과 기회를 사회가 어떻게 다루어야 하는지에 대한 창의적이고 정보에 입각한 아이디어를 발표할 수 있는 공간을 제공하는 것을 목표로 합니다.

핵심 연구 분야 및 초기 에세이

DeepMind Institute는 초기 출판물에서 알 수 있듯이 AGI 개발과 그 사회적 영향의 몇 가지 핵심 기둥에 중점을 둡니다.

추론 투명성 및 AI 안전

DeepMind 연구원인 Rohin Shah와 Anca Dragan은 "추론 투명성"의 필요성을 주장합니다. 그들은 AI의 "사고 과정(chain of thought)"을 모니터링하는 것이 모델의 내부 추론 과정을 들여다볼 수 있는 중요한 창을 제공하며, 이는 AI 시스템 내의 "음모와 기만"을 감지하고 예방하는 데 필수적이라고 주장합니다.

경제 정책 및 AGI로 인한 혼란

Julian Jacobs와 Alex Imas의 에세이에서, 연구소는 잠재적인 혼란을 관리하기 위한 11가지의 다양한 경제 정책을 탐구합니다. 이 분석은 경미한 혼란부터 주요 혼란까지의 시나리오를 평가하며, 실업 보험 확대, 근로소득세액공제(EITC), 시민들이 AI가 창출한 이익의 일부를 소유할 수 있는 메커니즘과 같은 정책을 제안합니다.

프론티어 AI를 위한 프레임워크

Demis Hassabis는 프론티어 AI 모델의 기능을 테스트하기 위한 역동적인 접근 방식을 제안했습니다. 이 프레임워크는 혁신을 지원하는 동시에 프론티어 모델의 책임 있는 행동과 책임 있는 개발을 장려하기 위한 것입니다.

사회적 변혁과 "실용적 유토피아주의"

Stephen Cave는 겸손과 희망에 기반한 "실용적 유토피아주의"를 제안하며, 사회가 20세기의 혼란에 반응하기보다는 AGI가 세상을 변화시킴에 따라 어떤 변화를 보고 싶은지 선제적으로 결정해야 한다고 주장합니다.

커뮤니티 관점 및 비판적 분석

DeepMind Institute 출범을 둘러싼 대중과 커뮤니티의 논의는 이 플랫폼의 동기와 성격에 관한 몇 가지 논쟁점과 회의론을 부각시켰습니다.

플랫폼의 성격

많은 관찰자들은 DeepMind Institute가 새로운 비영리 단체나 별도의 법인이 아니라, Google DeepMind를 위한 출판 플랫폼 또는 "사내 싱크탱크"라고 지적했습니다.

"요약: 새로운 조직이나 비영리 연구소가 아닙니다. 그냥 Substack/블로그입니다." — @handle

전략적 정책 주도

일부 비평가들은 프론티어 모델을 개발하는 바로 그 주체들이 동일한 정책 논의를 주도하려고 시도하고 있다고 주장합니다. 이는 일부 사람들에게 이해 상충이나 업계의 다른 부분에 영향을 미치려는 전략적 움직임으로 간주됩니다.

"그들은 단순히 AI 정책 논의를 주도하려는 것입니다. 기본적으로 사내 싱크탱크죠." — @handle

AGI 타임라인에 대한 회의론

DeepMind Institute가 전제로 하는 "AGI가 곧 다가올 것"이라는 주장에 대해서는 상당한 논쟁이 있습니다. 일부 커뮤니티 구성원들은 LLM의 단점들이 우리가 연구소들이 주장하는 것만큼 인간 수준의 인지 능력에 가깝지 않다는 것을 계속해서 증명하고 있다고 주장합니다.

"이 연구소들이 'AGI가 곧 다가올 것'과 같은 완전히 근거 없는 주장을 계속 내뱉는 것은 미친 짓입니다. 문제의 거대함을 고려할 때, 우리는 10년 전보다 딱히 더 가까워지지 않았다고 봅니다." — @handle

경쟁 역학

일부 분석가들은 DMI가 안전과 투명성에 중점을 두는 것에서 볼 수 있듯이 AI 개발에 대해 더 신중한 접근을 요구하는 것이 OpenAI와 같은 경쟁자보다 움직임이 느릴 수 있는 Google의 전략적 움직임이라고 제안합니다.

"어쨌든 조금 뒤처진 Google은 AI 개발에 대해 더 신중한 접근을 취하자는 요구에 동참하는 것을 매우 기쁘게 생각할 것입니다. 그래서 DeepMind Institute가 나온 것이죠." — @handle