우리가 남게 될 일은 무엇일까? – ICML 2026 키노트 핵심 정리
우리가 남게 될 일은 무엇일까? – ICML 2026 키노트 핵심 정리
TL;DR – 강연이 주장하는 바
- AI는 일반적인 증폭 기술 – 우리의 업무 방식을 바꾸겠지만 즉시 우리를 대체하지는 않는다.
- 어떠한 연구실의 돌파구도 일자리를 없애지는 않는다 – 설사 재귀적 자기 개선(RSI)이 달성되더라도 경제적 영향은 수십 년에 걸쳐 서서히 나타난다.
- 업무는 구축에서 평가와 판단으로 이동 – 인간이 수행하는 고부가가치 역할은 검증 가능한 작업을 수행하는 것이 아니라 AI를 조정하는 것이 된다.
1. AI를 일반 기술 프레임워크로 보기
연사는 AI as Normal Technology (AI‑NT) 프레임워크를 제시한다. 이는 AI를 전기와 같이 다루며, 발명 → 혁신 → 확산 → 적응의 과정을 거친다. 처음 세 단계는 빠르게 진행된다(능력 성장, 제품화, 초기 채택). 적응 단계—조직 재구성, 교육, 규제, 노동 시장 조정—는 수십 년이 걸리는 경우가 많다. 이는 증기 동력 공장에서 전기 조립 라인으로 전환된 역사적 사례와 유사하다.
"전기가 도입되었을 때, 공장은 단순히 증기 보일러를 발전기로 교체한 것이 아니라 생산 라인 전체를 재구성했다. AI도 같은 수준의 조직적 전환이 필요할 것이다."
2. 재귀적 자기 개선이 즉시 노동자를 대체하지는 않는다
기업이 스스로 구조를 개선할 수 있는 AI를 만든다 하더라도 그 영향은 제한적이다:
- 하위 수준에서는 AutoML과 유사—이미 널리 쓰이는 자동 하이퍼파라미터 탐색.
- 상위 수준에서는 전 세계 AI 연구 커뮤니티 전체의 창의성을 대체해야 하는데, 이는 현재 능력을 훨씬 초과한다.
연사는 창의성, 판단, 표현 품질이 여전히 병목이라고 강조한다. 현재 AI는 검증 가능한 작업(정확도, 속도)에서는 뛰어나지만 일관성, 견고성, 보정, 운영 안전성에서는 뒤처진다—신뢰할 수 있는 자동화에 필수적인 차원이다.
"지난 24개월 동안 능력이 급격히 향상됐음에도 불구하고 신뢰성은 5~10% 포인트 정도만 개선되었다."
3. 능력‑신뢰성 격차
세 개의 최전선 AI 기업을 비교한 벤치마크 결과:
- 능력(순수 정확도)은 급격히 상승했다.
- 신뢰성(일관성, 견고성, 보정, 안전성)은 미미하게 개선되었다.
시사점: AI를 완전 자동화된 노동자로 배치하는 것은 위험하며, 인간이 AI를 안내하는 협업 에이전트가 훨씬 실용적이다.
4. 사례 연구: 소프트웨어 엔지니어링
“Decide‑Execute‑Deliver” 샌드위치
| 레이어 | 설명 | AI 영향 |
|---|---|---|
| Decide | 요구사항, 기획, 도메인 이해 | 압축하기 어려움 – 인간의 강점 유지 |
| Execute | 코딩, 디버깅 | 압축 가능 – 에이전트가 속도를 높이지만 전체 노력의 약 ⅓에 해당 |
| Deliver | 통합, 테스트, 책임 | 압축하기 어려움 – 판단과 도메인 전문성 필요 |
Execute 레이어가 축소되면서 Decide와 Deliver 레이어가 확대돼 명세, 아키텍처, 배포 후 관리에 더 많은 작업이 필요하게 된다.
생산성 역설
코딩 에이전트를 도입한 기업들의 데이터는 인원 수 감소가 없었음을 보여준다. 병목은 코드를 작성하는 것이 아니라 문제 이해, 팀 조율, 시스템 유지에 있다—AI가 아직 자동화하지 못하는 작업이다.
5. 역사적 유사점 – “노동량 고정” 오류
- ATM은 출납원 고용을 감소시키기보다 오히려 늘렸다.
- 방사선학은 AI 보조 후 고용이 증가했는데, 저렴한 영상 촬영이 수요를 촉진했기 때문이다.
- 법률 업무는 AI가 소송 제기를 쉽게 만들면서 확대되었다.
- 번역은 인간 수준에 근접했음에도 시장이 다국어 콘텐츠 확대와 함께 안정적으로 유지된다.
이 사례들은 제본스 역설을 보여준다: 작업 비용이 낮아지면 그 작업에 대한 수요가 오히려 늘어난다.
6. 일의 미래: 노젓기에서 조정으로
연사는 해양 메타포를 사용한다:
- 노젓기 = 검증 가능하고 반복 가능한 작업 수행(코딩, 데이터 입력).
- 조정 = 어디로 갈지 결정하고, 안전성을 평가하며, 가치를 정렬하는 일.
AI가 “노젓기”를 맡게 되면 인간의 노력은 평가, 거버넌스, 전략적 방향에 집중된다—연자는 이를 AI 에이전트 평가라 부른다. 이 분야는 모델 구축과는 별개이며 자동화에 강하게 저항한다.
"평가는 우리가 ‘배를 조종’하는 방법이다; 평가가 없으면 우리는 AI에 의해 움직이는 키 없는 배가 된다."
7. 학계와 산업에 대한 시사점
- 학회는 평가 연구에 더 많은 슬롯을 할당해야 한다(잠재적으로 ~50%).
- 벤치마크만으로는 부족하다; 비용이 많이 들고 판단이 요구되는 안전성·견고성·사회적 영향 평가가 필요하다.
- 기업 IP가 변화한다: 평가 파이프라인이 귀중한 독점 자산이 된다.
- 피어 리뷰 자동화는 함정이다; 연구 방향 통제권을 AI에 넘겨버릴 위험이 있다.
8. Hacker News 토론의 반론들
| 댓글자 | 주요 통찰 / 비판 |
|---|---|
| zkmon | “일”의 정의 자체를 질문하고, AI가 기본적인 필요를 충족한다면 인간은 더 이상 일할 필요가 없을 수도 있다고 제시한다. |
| Metricon | 소프트웨어에 대한 의료 분야 비유를 예측한다: “간호사”(저코드 사용자)에서 “의사”(AI‑보조 아키텍트)까지의 계층 구조. |
| doubtfuluser | AI 피로와 강연 톤에 대한 회의감을 표명하며, AI 생성 콘텐츠에 지친 개인적인 감정을 언급한다. |
| chopete3 | 핵심 요약: 업무는 평가로 이동, RSI‑주도 일자리 급감은 없으며, 신뢰성이 병목, 과거 기술 도입은 고용을 늘렸다. |
| skybrian | 시장이 포화될 경우 작업 창출—AI를 위한 새로운 문제 발굴—이 제한 요인이 될 수 있음을 제시한다. |
| jppope | 새롭고 어려운 문제는 항상 등장하므로 AI가 일을 완전히 없앨 수는 없다고 주장한다. |
| ilaksh | 수십 년이라는 낙관적 타임라인에 도전하며, 현재 신뢰성 지표가 이미 빠르게 개선되고 있다고 주장한다. |
| subygan | “부·우선 vs. 기술·우선” 서사는 상호 배타적이지 않으며, 부를 창출하려면 기술 개발이 필요하다고 지적한다. |
| kkhs | 소프트웨어 개발 자체가 추상화 레이어이며, 핵심 작업(사용자 요구 이해)은 지속될 것이라고 강조한다. |
| burningChrome | Z세대/알파세대의 AI 도입 저항을 언급하며, 설문에서 44 %의 Z세대 직원이 AI 프로젝트를 방해했다고 밝혔다. |
전체적으로 토론은 AI‑주도 실업의 불가피성에 대한 회의감, 사회적 불평등 우려, 그리고 새로운 스킬셋 필요성을 반영한다.
9. 개인을 위한 실용적 권고
- AI‑보조 워크플로우 학습에 시간 투자 – 연자는 주당 ~10시간을 실험에 쓰고 그 시간을 새로운 스킬 습득에 재투자한다.
- 블랙박스 의존 피하기 – 모델 출력 이해, 신뢰도 보정, 제어권 유지.
- ‘의존 나선’ 규칙: AI에 위임하기 전에 작업을 완전히 숙달해 기술 퇴화를 방지한다.
- 평가, 판단, 도메인 전문성에 집중 – 인간이 독특한 가치를 제공하는 영역이다.
10. 공동 초지능 비전
연자는 AI가 인간의 마음을 위한 크레인이 되어 인간 잠재력을 증폭시키지만 대체하지는 않을 미래를 그린다. 인간의 통제, 판단, 창의성을 유지함으로써 사회에 이익을 주는 공동 초지능을 달성할 수 있다.
핵심 요약: AI는 업무를 재편하겠지만, 변화는 신뢰성과 평가 문제에 의해 점진적으로 진행될 것이며, 단일 혁신이 일자리를 급격히 없애지는 않는다. 가장 탄탄한 커리어 경로는 전략적 사고, 도메인 전문성, AI 평가 역량을 키워 인간의 ‘조정’ 역할을 수행하는 것이다.