물리 포럼, AI 글 대량 적재로 역사 왜곡

핵심 요약

• 2001년 창립한 과학 커뮤니티 PhysicsForums에서 2023년부터 약 115,000개의 AI 생성 글이 실제 사용자 계정에 소급 적용되어 DB에 삽입됐다.
• 실제 사용자 ravenprp의 계정 사례를 보면, 2019년 웨이백 머신에는 74개 글만 있었으나 현재 2,891개로 늘었고, 추가된 2,817개 글은 시간 역순으로 재배치되어 있다.
• AI가 추가 작성한 글들은 사용자의 마지막 로그인 이후 수년이 지난 시점의 것으로 표시되는 등 명백한 조작 흔적이 있고, 적어도 110명의 실제 사용자가 영향을 받았다.
• Post ID 분석을 통해, 2022년 MathHelpBoards 병합 외에 2023년 3월 이후 4차례에 걸쳐 특정 시점에 소급된 글들이 집단으로 삽입된 것을 확인할 수 있다.
• 수정된 과제 해결 스레드의 경우 AI 생성 요약, FAQ, 답변이 전체 단어 수의 92%를 차지했으며, 이들 콘텐츠의 대부분은 부정확하거나 완전히 잘못된 정보를 담고 있다.
• 전체 사이트 기준으로 현재 AI 생성 콘텐츠를 포함하면 인간이 작성한 글의 비율이 66%까지 떨어졌으며, 2년 전에는 거의 100%였다.
• 관리자 Greg Bernhardt는 품질 미달로 실패한 '오래된 글에 답변 추가' 테스트였다고 주장하고 있으나, 110명의 기존 사용자가 1년에 걸쳐 테스트에 동의한 것 같지 않다.
• 사용자 identities는 온라인 커뮤니티에서 사적 자산으로 여겨지며, 동의 없이 글을 추가하는 행위는 사용자의 기여도를 희석하고 온라인 신뢰 계약을 위반한다.
• FAQ는 이후 게시물에서 부정확성이 지적되어 제거됐으나, AI 요약은 여전히 폐쇄된 스레드 상단에 남아 있다.
• 'Dead Internet Theory' 우려는 LLM 기술 발전과 함께 현실이 되고 있으며, 웹사이트 생존 압박 속에서 커뮤니티가 역사와 정체성을 훼손하는 타협이 벌어지고 있다.
• 인터넷 생존을 위해서는 변화가 필요하지만, 사용자와의 신뢰 관계와 역사적 기록의 진정성을 파괴하는 방식의 변화는 그 대가가 크다는 질문이 남는다.