LLM의 지능은 착각, 심령술사 사기수법과 같다
Key Point
LLM을 신뢰하고 기반한 비즈니스와 서비스가 늘어나는 시점에, 그 기술이 실제로는 어떤 메커니즘으로 작동하는지, 그리고 지능처럼 보이는 것이 과연 무엇인지 정확히 이해해야 하기 때문입니다.
핵심 요약
- LLM은 텍스트 토큰의 수학적 모델일 뿐 실제 지능이나 추론 능력이 없다.
- 사용자들이 LLM을 지능적이라고 느끼는 것은 착각이며, 심령술사의 '콜드 리딩' 사기수법과 같은 메커니즘에 기반한다.
- LLM은 Forer 효과를 이용한 검증 문장들로 구체적 답변처럼 보이게 하지만, 실제로는 통계적으로 일반적인 답변일 뿐이다.