검증만으로는 지식이 아니다, AI 과학의 맹점
Key Point
AI가 과학의 주도권을 가져가는 추세 속에서 검증 가능한 정답이 곧 지식이라는 착각이 과학 공동체의 기본 구조를 훼손할 수 있기 때문.
핵심 요약
- 과학의 진척을 정답의 검증으로만 재는 것이 잘못된 관점임을 지적하는 에세이.
- AI가 생성한 암 치료법이 형식적 정확성 인증과 3상 임상 통과를 갖추고도 인간이 그 원리를 이해하지 못할 때, 문제가 발생할 수 있다는 테리 타오의 사고 실험을 제시.
- 저자는 검증된 것이 실제 지식이 되려면 누군가 그에 책임질 수 있어야 하며, AI 저자는 그 주장을 설명하고 비판에 응할 수 없다는 점을 문제 삼음.