Anthropic의 신뢰할 수 있는 범용 AI 시스템을 위한 Series A 투자 유치

Anthropic은 신뢰할 수 있고, 조종 가능하며, 범용적인 AI 시스템 개발을 가속화하기 위해 Series A 펀딩에서 1억 2,400만 달러를 유치했습니다. 이번 투자는 회사가 연구 로드맵을 실행하고 안전성과 신뢰성을 위해 설계된 AI 시스템의 프로토타입을 구축하는 데 사용됩니다.

핵심 연구 목표

Anthropic은 조종 가능하고, 해석 가능하며, 견고한 대규모 AI 시스템을 구축하는 데 집중하고 있습니다. 회사의 연구 의제는 세 가지 주요 기술적 기둥을 통해 AI 안전성을 높이는 데 중점을 두고 있습니다:

• Reliability (신뢰성): 일관되고 안전한 성능을 보장하기 위해 대규모 AI 모델의 신뢰성을 높입니다.
• Interpretability (해석 가능성): AI 모델의 내부 작동 방식을 더 투명하고 이해하기 쉽게 만들기 위해 필요한 도구와 기술을 개발합니다.
• Human Feedback Integration (인간 피드백 통합): 이러한 시스템의 개발 및 배포 단계 모두에 인간의 피드백을 더 긴밀하게 통합하는 방법을 구축합니다.

기술적 토대 및 전문성

Anthropic은 CEO Dario Amodei와 President Daniela Amodei가 이끌고 있습니다. 팀은 근본적인 AI 스케일링 및 안전성에 관한 심도 있는 연구 역사를 보유하고 있으며, 이전 작업은 다음과 같습니다:

• Scaling Laws: 모델 성능이 컴퓨팅 및 데이터와 함께 어떻게 확장되는지에 대한 연구.
• Interpretability: Circuit-Based Interpretability 및 Multimodal Neurons에 관한 작업.
• GPT-3: 대규모 언어 모델 개발에 대한 기여.
• AI Safety: "Concrete Problems in AI Safety" 및 "Learning from Human Preferences"에 관한 연구.
• Compute: AI 및 컴퓨팅 요구 사항에 대한 분석.

투자 유치 및 전략적 방향

기술 투자자이자 Skype 공동 창립자인 Jaan Tallinn이 주도한 이번 Series A 라운드는 Eric Schmidt, Dustin Moskovitz, James McClave, 그리고 Center for Emerging Risk Research가 참여했습니다.

CEO Dario Amodei는 회사의 즉각적인 우선순위는 사람들에게 도움이 되는 더 유능하고 범용적인 AI 시스템의 배포를 가능하게 하는 근본적인 연구라고 밝혔습니다. 회사는 현재 이 로드맵을 지원하기 위해 연구원, 엔지니어, 운영 전문가 팀을 확장하고 있습니다.