AGI 이후의 세계, 초지능(ASI) 시대 준비하기
원제 What Comes After AGI?
116 포인트댓글 222
Key Point
향후 10년 AI 발전의 세 가지 복합 요인(하드웨어·알고리즘·투자)이 현재 추세대로 계속되면 인간 초지능 단계로 진입할 가능성이 충분히 높으며, 개발자와 정책입안자가 대비해야 할 여러 기술 경로를 제시한다.
핵심 요약
- DeepMind는 인공일반지능(AGI)이 현실화되면서 그 다음 단계인 초지능(ASI)에 대한 연구를 시작했다.
- 초지능은 대규모 전문가 집단이 수년 걸릴 작업을 더 적은 자원으로 완료할 수 있는 수준의 시스템으로, 거의 모든 인간의 관심 영역에서 인간을 능가해야 한다.
- 지난 10년간 AI 발전은 하드웨어 개선(1.5배/년), 알고리즘 효율성 개선(3-6배/년), 계산 투자 증가(2.5배/년)가 복합되어 연간 10배 이상의 유효 계산 성장을 이뤘다.
- 이 추세가 계속되면 2030년까지 인간 수준의 AI를 오늘의 AI 에이전트보다 천배 이상 더 많이 운영할 수 있으며, 추론 비용도 연 4배씩 감소한다.
- 디지털 지능은 인간과 달리 처리 속도, 메모리, 복제 가능성, 경험 공유 대역폭에서 직접 이점을 얻어 양적 도약이 질적 변화로 이어질 수 있다.
- AGI에서 ASI로의 경로는 모델과 데이터 스케일링(데이터 소진, 규모의 수확 감소 위험), 기술 패러다임 전환, 다중 에이전트 조율 개선, 재귀적 자기개선(RSI) 등 네 가지 방향이 있다.
- RSI는 코드·설계 개선, 배포 중 계산을 통한 데이터 생성, 에이전트 집단의 역할 분화 등 세 가지 메커니즘으로 작동하며, 수학 증명처럼 자동 검증이 가능한 영역에서 가장 빠르게 진행될 수 있다.
- 이 경로들은 상호배타적이지 않으며, 한 영역의 진전이 더디면 다른 영역으로 노력이 이동한다.
- 한 차원만 제한하면 억제된 능력이 풀릴 때 갑작스러운 도약이 발생하는 '능력 초과분(overhang)' 위험이 있다.
- 본문은 향후 10년간 빠른 AI 진전이 현실적 가능성이며, 인지 산업화만으로도 지식 노동과 경제 구조를 재편할 수 있다고 본다.
- DeepMind는 ASI로의 여정을 대비하려면 대규모 학제간 연구로 모델링, 측정, 예측을 반복해야 하며, 새로운 평가 방법론과 벤치마킹이 필요하다고 제시한다.