AI가 SRE를 대체하지 않으면, 기술을 퇴화시킨다

핵심 요약

• AI가 사건 대응의 95%를 처리할 때, SRE는 남은 5%의 중요한 문제를 처리할 능력이 실제로 떨어질 수 있다는 문제를 제기한다.
• 1983년 인지심리학자 리잔느 베인브릿지의 연구 논문 '자동화의 역설(Ironies of Automation)'을 근거로, 자동화가 발전할수록 인간 운영자는 자동화 실패 시 대응할 능력이 낮아진다는 패러독스를 설명한다.
• 산업 자동화가 육체 노동자들의 예외 상황 대처 능력을 빼앗았듯이, AI는 패턴 매칭, 분류, 알려진 문제 해결 같은 일상적 인지 업무를 대신하면서 SRE에게 드물고 복잡한 문제만 남긴다.
• 현재 SRE 분야에서 AI 자동화 대상은 알림 노이즈 감소, 알려진 문제의 자동 실행, 로그 패턴 감지, 기본 원인 진단, 팟 재시작이나 서비스 스케일링 같은 자가치유 등이다.
• PagerDuty의 3단계 모델에 따르면 1단계(알려진 해결책)는 완전 자동화, 2단계(부분 이해)는 AI 권장과 인간 검증, 3단계(새로운 문제)는 인간 주도이지만, SRE가 새로운 문제에만 노출되면 복잡한 장애 대처 직관을 어떻게 쌓을 것인가가 문제다.
• 의료 연구에서 AI 보조를 받은 내시경 의사들은 비보조 폴립 감지율이 28%에서 22%로 하락했고, 항공 산업에서 자동조종 의존 조종사들은 상황 인식과 수동 조종 능력이 저하되어 FAA가 수동 비행 시간을 의무화하게 되었다.
• AI 도구 사용으로 인한 기술 퇴화(deskilling)는 사용자가 자신의 역량 저하를 인지하지 못한다는 점에서 위험한데, 인지 연구에 따르면 AI가 작업을 쉽게 만들고 가시적 성과를 향상시키므로 사용자는 실제 능력 상태를 정확히 판단할 수 없다.
• SRE 특히 신입들은 AI가 대부분의 사건 대응을 처리하는 환경에서 기초 직관과 근육을 통한 손발 실습 기회가 사라지는 '스킬 미형성(never-skilling)' 문제에 직면한다.
• 대책으로는 FAA의 수동 비행 시간 의무화처럼 SRE 팀이 일부 사건을 인간 실습 기회로 지정하는 '의도적 비효율성'과, 인간이 AI 권장을 승인만 하는 것이 아니라 문제 해결에 적극 참여하는 '루프 내 인간 구조'를 제안한다.
• 소프트웨어 엔지니어링 전체가 같은 긴장 속에 있으며, 저자가 운영하는 SigNoz(오픈소스 옵저버빌리티 플랫폼)는 AI 어시스턴트를 통해 SRE에게 명확한 가드레일 내에서 점진적 자율성을 제공하되 인간이 통제권을 유지하도록 설계하고 있다.
• SigNoz는 메트릭, 트레이스, 로그 데이터를 직접 소유해 API 통합 AI 제품보다 더 깊고 문맥 인식적 AI 기능을 구현할 수 있으며, AI가 SRE를 대체하지 않고 강화하는 것을 목표로 한다.