AI 모델 제어의 새로운 도전: 컨텍스트 엔지니어링의 현재

핵심 요약

• 컨텍스트 엔지니어링은 AI에 올바른 정보를 제시하고 명확한 지시를 전달하는 기술로, 모델의 성능 향상과 무관하게 항상 어려울 것이다.
• 2024년 말 RAG 폐기 논쟁 당시 모델 제조사들은 컨텍스트 윈도우를 128,000 토큰에서 100만 토큰으로 확대했으나, 더 많은 정보를 담을 수 있게 되면서 더 많은 오류도 함께 들어왔다.
• 컨텍스트 중독(잘못된 정보 고착), 컨텍스트 분산(장문 컨텍스트에서 모델이 기본 지식 무시), 컨텍스트 혼동(무관한 정보가 모델 판단에 영향), 컨텍스트 충돌(도구 간 갈등) 등 4가지 주요 오류 모드가 발생한다.
• 포켓몬 게임 사례처럼 모델의 학습 가중치에 포함된 잘못된 정보가 새로운 작업에서도 반복되는 컨텍스트 중독이 실제로 일어난다.
• 일반적으로 모델은 명시적 지시보다 컨텍스트 예시를 따르는 경향이 있어, 600개 스킬을 로드하는 문제 기업 등에서 필요한 도구만 선택하는 '도구 구성', RAG, 컨텍스트 격리, 정리, 오프로딩, 요약 등 6가지 해결 방법이 개발됐다.
• 2025년부터 RAG 같은 자동 컨텍스트 조립 기술로 진화했고, 2026년부터는 모델 자체가 장시간 작업을 수행하고 자신의 컨텍스트를 관리하는 에이전트 모델이 등장했다.
• 장시간 실행 에이전트는 새로운 문제를 야기하는데, 첫째는 '가중치 싸움'으로 모델이 학습 환경과 다른 도구 사용 방식에 저항하며, Claude Code는 병렬 도구 호출 같은 원하는 행동을 반복해서 명시해야 한다.
• 두 번째 신규 오류는 '컨텍스트 관성'으로, 에이전트가 한 가설이나 목표에 집착해 멈춰야 할 때도 계속 같은 것을 시도한다.
• Anthropic의 Memento, Microsoft의 Fork-and-Flush, UC 버클리 연구 등은 1.5시간마다 컨텍스트를 비우되 실행 결과는 유지하는 전략으로 이를 해결했으며, '전략적 망각'이 새로운 도전이 된다.
• 대규모 모델의 모든 능력 향상은 새로운 운영 문제를 만들며, 2027년 개인 에이전트 오랜 운영 시 축적되는 상충하는 지시와 기억 관리가 차기 핵심 문제가 될 것으로 예측된다.
• 출력은 학습 데이터와 컨텍스트의 함수이므로, 올바른 모델에 올바른 컨텍스트를 제공하되 언제 코드(결정론적)로 처리할지, 언제 모델에 맡길(확률론적)지 선택하는 것이 핵심이다.