Hacker News AI 골포스트: AI 발전 추적과 AGI라는 움직이는 목표물
인공 일반 지능(AGI)을 향한 추구는 종종 회의론자들이 AI가 결코 달성하지 못할 것이라고 믿는 특정 과제인 "골포스트(goalposts)"로 특징지어집니다. stoppels.ch/goalposts에서 호스팅되는 커뮤니티 프로젝트는 Hacker News 토론에서 추출된 이러한 도전 과제들을 추적하며, 사용자들이 이러한 이정표가 달성되었는지 여부에 투표할 수 있도록 합니다. 그 결과는 AI가 작업을 한 번 수행하는 능력과 이를 안정적이고 일상적으로 수행하는 능력 사이의 지속적인 긴장을 강조합니다.
신뢰성 격차: 일회성 성공 대 일상적 역량
많은 최첨단 모델들이 한때 불가능하다고 여겨졌던 작업을 수행할 수 있게 되었지만, 확률적인 성공과 신뢰할 수 있는 도구 사이에는 중요한 차이가 존재합니다.
사용자들은 많은 LLM이 무한한 컴퓨팅 예산과 무한한 시도가 주어진다면 작업을 완수할 수 있지만, 전문적인 워크플로우에서 일상적으로 작업을 완료할 수는 없다고 지적합니다. 예를 들어, AI가 프롬프트 없이 사용자에게 질문을 던져 놀라게 하는 능력은 발생한 적이 있지만, 이는 개발자가 애플리케이션 설계 시 의존할 수 있는 일상적인 역량은 아닙니다.
전문 지식 분야에서의 도메인별 실패
코딩이 "해결"된 것처럼 보임에도 불구하고, AI는 여전히 전문적인 실제 물리적 지식과 틈새 분야에서의 복잡한 추론에 어려움을 겪고 있습니다.
- 물리적 및 기계적 지식: 사용자들은 AI가 농업, 건설, 기계와 같은 분야에서 종종 실패한다고 보고합니다. 한 사용자는 AI가 석고에 의한 백금 경화 실리콘 억제와 관련하여 잘못되고 잠재적으로 치명적인 조언을 제공했으며, 해당 주장을 뒷받침하지 않는 출처를 환각(hallucination)으로 만들어낸 사례를 언급했습니다.
- 시각-공간 추론: ASCII 아트는 여전히 중요한 걸림돌입니다. 모델이 그럴듯한 ASCII 발 모양을 생성할 수는 있지만, 다른 모델(예: ChatGPT 무료 버전)은 동일한 ASCII 아트를 "기차/기관차"로 잘못 식별할 수 있으며, 이는 공간 이해력의 실패를 나타냅니다.
- 복잡한 데이터 해석: AI 도구는 여전히 실수가 포함된 체스 점수 기록지와 같이 "노이즈가 많은" 데이터를 해석하는 데 어려움을 겪고 있으며, 인간 전문가는 플레이 수준의 맥락을 바탕으로 의도를 추론할 수 있습니다.
AI 도전 과제의 진화 (2016–2026)
사용자들이 AI에 설정하는 도전 과제의 유형에는 눈에 띄는 변화가 있었습니다. 초기 도전 과제는 기본적인 기능적 역량에 초점을 맞춘 반면, 현대의 도전 과제는 고차원적인 인지 기능과 물리적 상호작용에 초점을 맞추고 있습니다.
- 2016년 시대: 튜링 테스트 통과, 기본 코드 작성 또는 간단한 디지털 작업 수행(예: "커피 주문해줘")에 중심을 두었습니다.
- 2026년 시대: 물리적 문 열기, 인간의 옹졸함을 설득력 있게 모방하기, 새로운 과학적 돌파구 마련 등이 포함되도록 도전 과제가 진화했습니다.
튜링 테스트와 "앵무새" 문제
튜링 테스트에 관한 논의는 인간이 종종 실제 사람과 정교한 "앵무새"를 구별하지 못하기 때문에 근본적으로 결함이 있을 수 있음을 시사합니다. 일부는 짧은 기간 동안 튜링 테스트를 통과하는 능력이 장기간에 걸친 "적대적" 튜링 테스트를 통과하는 것과 동일하지 않으며, 이는 여전히 훨씬 더 어려운 이정표라고 주장합니다.
수학적 및 과학적 돌파구
일부 사용자는 나비에-스토크스 존재성과 매끄러움 문제와 같은 미해결 수학 문제의 해결을 통해 AI를 위한 "마지막 시험"이 부분적으로 충족되었다고 믿습니다. 그러나 다른 이들은 단일 시험(예: 제안된 도전 과제 세트의 1/6)을 통과하는 것만으로는 승리를 주장하기에 불충분하다고 주장하며, AGI를 위한 "골포스트"는 요구 사항의 상대적 복잡성에 따라 종종 움직이는 목표물임을 강조합니다.
Sources
관련
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch