Hacker NewsAI · 머신러닝

AGI 이후의 세계, 초지능(ASI) 시대 준비하기

원제 What Comes After AGI?

116 포인트댓글 222
Key Point

향후 10년 AI 발전의 세 가지 복합 요인(하드웨어·알고리즘·투자)이 현재 추세대로 계속되면 인간 초지능 단계로 진입할 가능성이 충분히 높으며, 개발자와 정책입안자가 대비해야 할 여러 기술 경로를 제시한다.

핵심 요약

  • DeepMind는 인공일반지능(AGI)이 현실화되면서 그 다음 단계인 초지능(ASI)에 대한 연구를 시작했다.
  • 초지능은 대규모 전문가 집단이 수년 걸릴 작업을 더 적은 자원으로 완료할 수 있는 수준의 시스템으로, 거의 모든 인간의 관심 영역에서 인간을 능가해야 한다.
  • 지난 10년간 AI 발전은 하드웨어 개선(1.5배/년), 알고리즘 효율성 개선(3-6배/년), 계산 투자 증가(2.5배/년)가 복합되어 연간 10배 이상의 유효 계산 성장을 이뤘다.
  • 이 추세가 계속되면 2030년까지 인간 수준의 AI를 오늘의 AI 에이전트보다 천배 이상 더 많이 운영할 수 있으며, 추론 비용도 연 4배씩 감소한다.
  • 디지털 지능은 인간과 달리 처리 속도, 메모리, 복제 가능성, 경험 공유 대역폭에서 직접 이점을 얻어 양적 도약이 질적 변화로 이어질 수 있다.
  • AGI에서 ASI로의 경로는 모델과 데이터 스케일링(데이터 소진, 규모의 수확 감소 위험), 기술 패러다임 전환, 다중 에이전트 조율 개선, 재귀적 자기개선(RSI) 등 네 가지 방향이 있다.
  • RSI는 코드·설계 개선, 배포 중 계산을 통한 데이터 생성, 에이전트 집단의 역할 분화 등 세 가지 메커니즘으로 작동하며, 수학 증명처럼 자동 검증이 가능한 영역에서 가장 빠르게 진행될 수 있다.
  • 이 경로들은 상호배타적이지 않으며, 한 영역의 진전이 더디면 다른 영역으로 노력이 이동한다.
  • 한 차원만 제한하면 억제된 능력이 풀릴 때 갑작스러운 도약이 발생하는 '능력 초과분(overhang)' 위험이 있다.
  • 본문은 향후 10년간 빠른 AI 진전이 현실적 가능성이며, 인지 산업화만으로도 지식 노동과 경제 구조를 재편할 수 있다고 본다.
  • DeepMind는 ASI로의 여정을 대비하려면 대규모 학제간 연구로 모델링, 측정, 예측을 반복해야 하며, 새로운 평가 방법론과 벤치마킹이 필요하다고 제시한다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗