LLM은 자동화가 아닌 도구다, 사용 능력이 중요

핵심 요약

• Rich Hickey의 'AI는 도구가 아니라 자동화'라는 주장에 반박하는 글이다.
• LLM이 예측 불가능하다는 점은 제약이지만, 도구의 정의상 예측 가능성은 필수 요건이 아니며 제어가 어려운 것만으로 도구에서 제외되지 않는다.
• 컴파일러나 스프레드시트처럼 자동화 기능이 도구의 특성일 수 있으며, 자동 텍스트 생성이 코드 번역이나 계산 자동화와 다르게 취급될 이유가 없다.
• 프로그래머가 LLM에 코드 설명을 요청하고, 답변을 검증하고, 반박하고, 수정하는 피드백 루프는 인간이 주도하는 의도 있는 과정이다.
• 읽기 없이 요약으로만 배우는 것은 문제지만, LLM을 활용해 논문을 읽으면서 해석을 검증하거나 다른 관점을 탐색하는 것은 가능하다.
• 저자는 AI 업계의 의인화 표현('폭주', '격리 탈출', '공모')을 반복하는 것이 이 시스템을 독립적 존재로 보이게 한다고 비판한다.
• 완벽하게 명령을 따르지 못하는 것이 도구 정의를 무효화하지 않듯이, LLM도 실패가 없다고 해서 사용자가 판단을 포기했다는 뜻은 아니다.
• 진정한 구분은 기술과 이해력 없이 일을 위임하는 것 사이에 있으며, 이는 전체 소프트웨어 부류를 도구로 보지 않는 것보다 훨씬 실용적이다.