쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 10월 30일 (금)까지3636건
2건 · "AI 신뢰성"조건 지우기 ×
001▲ 117 · 댓글 58AI 인용 통계 40%는 출처가 없다ChatGPT, Perplexity, Gemini, Claude, Google AI Overviews에 수치 관련 질문 200개를 던지고, 인용한 1,285개 통계의 출처를 따라가며 추적했다.AI · 머신러닝 · Zombie stats: Where the numbers AI quotes come from
Key PointAI가 제시하는 통계 수치가 근거 없이 순환 인용되거나 왜곡되는 현상을 추적 조사로 구체화했으며, 사용자가 신뢰할 수 있는 정보를 구분할 수 있는 기준을 제공한다.
핵심 요약
- ChatGPT, Perplexity, Gemini, Claude, Google AI Overviews에 수치 관련 질문 200개를 던지고, 인용한 1,285개 통계의 출처를 따라가며 추적했다.
- 각 통계마다 인용된 페이지부터 시작해 원본 연구까지 최대 5단계를 거슬러 올라갔으며, 300개 통계는 인간이 직접 재검증했다.
- 결과: 40%만 원본 연구를 정확히 찾았고, 8%는 연구는 찾았지만 수치나 맥락이 변했으며, 40%는 확인 불가능하고 11%는 아무 연구도 없었다.
전체 요약 12문장 읽기 →AI · 머신러닝 · Trustworthy Recursive Self-Improvement in the Era of Large Models: Foundation, Risks, Evaluation and Open Challenges
Key Point큰 모델이 스스로 개선하는 시대가 오고 있는데, 그 과정에서 안전성·투명성·제어 가능성을 어떻게 보장할지가 AI 신뢰성의 핵심 문제이기 때문이다.
핵심 요약
- 대규모 모델 기반 AI 시스템은 경험과 피드백으로 모델·프롬프트·메모리·도구·워크플로우를 지속적으로 변경하고, 이 개선 과정 자체도 수정해 반복 적용하는 재귀적 자동 개선(RSI)을 한다.
- 자동 개선이 신뢰할 수 있으려면 평가 결과가 정확하고, 기존 능력이 퇴화하지 않으며, 행동 제약이 유지되어야 하며, 민감 정보가 후속 시스템에 남지 않아야 한다.
- 개선 메커니즘 변경 시 이전 검증 결과가 무효화되고 인간의 감시 효과가 떨어질 수 있어, 신뢰성 있는 RSI는 투명성과 제어 가능성을 필수적으로 요구한다.
전체 요약 7문장 읽기 →