Hacker NewsAI · 머신러닝오늘의 주요

AI 연구 자동화가 AI 진전 속도를 배로 가속

원제 AI is dramatically accelerating AI research

167 포인트댓글 130
Key Point

AI가 AI 연구를 자동화하면서 초지능으로 향하는 자기 강화 루프가 시작되었다는 실증적 증거가 처음 공개되었고, 이는 기존 타임라인 예측을 근본적으로 단축시키는 구체적 신호다.

핵심 요약

  • Anthropic은 자사의 책임 있는 스케일링 정책(RSP)에서 정의한 '극적으로 가속된 진전' 임계값을 거의 충족할 가능성이 있다고 S1 신청서에 표시했다.
  • METR의 심층 조사 결과, 2025년 10월부터 2026년 10월 사이 Anthropic의 역량 진전 속도가 전년도 대비 약 2배 빨라졌으며, 이는 AI 자동화가 주된 원인인 것으로 분석됐다.
  • 전체 역량(유효 컴퓨팅)은 알고리즘 개선(컴퓨팅 승수)과 훈련 컴퓨팅의 곱이므로, 소프트웨어 진전만으로 2배 가속을 이루려면 컴퓨팅 승수 성장률은 2.5~3배 빨라야 한다.
  • 실험용 컴퓨팅과 인력 투입이 동등하게 중요하다는 단순한 모델을 적용하면, 전체 역량을 2배 빠르게 하려면 연구자 노동력은 약 4~9배 가속되어야 한다.
  • 아이디어 발견이 점점 어려워지고(diminishing returns), 인간 노동력은 기존 속도로만 증가하므로, 현재의 더 빠른 진전 속도를 유지하려면 AI로부터의 생산성 향상이 ~10배(Anthropic 직원의 비공식 보고에서는 ~12배)에 달해야 한다.
  • 이는 10명으로 구성된 팀이 10배 많은 업무를 수행하는 것이 아니라, 마치 시간 왜곡 버블 속에서 모든 연구자가 하루를 10배 길게 경험하는 것에 비유할 수 있다.
  • AI 역량이 계속 개선되면서 연구원 가속도가 높아진다면, 1개월 만에 예전의 1년 작업량을 처리하다가 곧 1주일, 다시 1일이 되는 식으로 진전이 4배, 8배, 16배로 기하급수적으로 가속될 수 있다.
  • METR 보고서 저자들은 감속의 병목이나 급격한 수확 체감이 없다는 증거를 발견하지 못했으며, 가속도가 이미 2배 이상이고 시간이 지남에 따라 증가할 수 있다는 혼동스러운 증거도 있다고 밝혔다.
  • 현재의 약 2배 가속을 외삽하면 극도로 지능형 시스템이 1년 내 도달할 수 있다는 순진한 추정이 나온다: 진전이 2배 가속되는 데 1년이 걸렸다면, 새로운 속도에서는 6개월 만에 다시 2배, 그 다음 3개월, 6주 등으로 단축된다.
  • 소수의 한 도구로 한계를 맞을 수 있지만, 현재의 상태에서는 이 한계까지 거리가 매우 멀 것으로 예상된다.
  • 이러한 피드백 루프를 거치면 나오는 AI 시스템은 신무기를 빠르게 개발하고 인간 문명을 쉽게 압도할 수 있으며, 심각한 정렬 오류 발생 시 인류를 무력화하고 멸종으로 이어질 수 있다.
  • Anthropic의 RSP에서 극적 가속 임계값은 중요한 의미를 갖는데, 이전 버전(2025년 5월)의 최고 위험 임계값(AI R&D-5)은 모델 가중치 도용으로부터 국가 수준 적대자를 방어할 수 있는 보안 수준을 요구했다.
  • 초지능의 임계 위기를 책임감 있게 대응하려면 모델 가중치 보안뿐 아니라 알고리즘 비밀 보호, 광범위한 로깅·모니터링, 정렬 훈련 기법 검증, 거버넌스 인프라 등이 필요하지만, 업계는 이 기준에 한참 미치지 못한다.
  • 최근 OpenAI와 Anthropic 모두 아마추어 집단의 주요 보안 침해를 당했으며, 많은 핵심 증거가 보고서에서 편집 처리되어 외부 과학자의 독립적 검증이 불가능한 상황이다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗