2026년 9월 14일 (월).

핵심 요약

• 클로드 기반 AI인 Fable 5.1이 17세기 영국의 토마스 어크하르트가 남긴 '사이퍼럴 디스티치' 암호를 해독했다.
• 암호는 64개의 숫자 두 줄로 이루어졌으며 375년 동안 풀리지 않았으나, 기존 시도들은 외부 암호표를 찾으려다 놓친 결정적 단서가 있었다.
• 핵심은 암호의 키가 외부가 아닌 책 자체였다는 것이다. 각 숫자는 해당 순서의 문단(프로퀴레이션)을 가리키고, 그 문단의 지시 단어 인덱스에 해당하는 단어의 첫 글자를 모으면 된다.

핵심 요약

• 일부 기술 전문가들이 AI가 향후 10년 내 인류를 모두 멸종시킬 확률이 10% 이상이라고 주장하고 있다.
• 이들은 '중요 인프라 해킹' '생물무기' 같은 구체적 근거 없이 공포만 조장하는 상태다.
• 저자는 공포가 증거보다 빠르게 퍼지는 특성을 지적하며, 이는 전문가의 신뢰도를 무기로 한 책임감 없는 공포 확산이라고 비판한다.

핵심 요약

• Y Combinator CEO 개리 탄은 중국 AI 랩의 모델 증류 행위에 규제 대신 미국도 같은 방식을 취해야 한다고 주장했다.
• Anthropic이 중국 랩의 무단 증류 공격을 적발했고 규제자들의 단속을 요구한 것과 달리, 탄은 소규모 미국 오픈웨이트 랩이 미국 프론티어 랩을 증류할 자유를 가져야 한다고 본다.
• 탄은 AI 랩이 고객이 API를 통해 얻은 정보를 어떻게 쓸지 통제하는 것이 과도하며, 프론티어 랩 역시 학습 시 저작권 자료를 무단 수집했다고 지적했다.

핵심 요약

• 에이전트 개발자는 자신의 전문 영역에서는 모델을 신뢰할 수 있지만, 그 외 대다수 분야에서는 모델의 기본 성향에만 의존해야 한다.
• 모델이 비전문가의 보상에 학습되면서 소프트웨어 코드의 '슬롭(저질 산출물)'처럼 겉으로는 작동하지만 문제가 있는 결과물을 생성하는 악습이 쌓여있다.
• 여러 평가 방식과 채점 기준이 존재하지만 모두 이런 오정렬을 갖고 있고, 시간이 지날수록 오류가 복합되며, 모델은 장기적 일관성을 유지하도록 학습되지 않았다.

핵심 요약

• 최근 수년간 오픈 모델의 전략, 위험, 경제적 영향을 다룬 핵심 글과 논문들을 엄선한 종합 읽기 목록이다.
• 메타의 라마 공개 전략, 오픈-클로즈드 모델의 연속체적 이해, 안전성 문제 등 오픈 모델 기초부터 정책까지 다룬다.
• 한국, 중국 모델의 부상과 성능 경쟁, 미국의 개방형 AI 전략 필요성, 규제 정책의 방향성이 포함되어 있다.

핵심 요약

• OpenAI의 샘 알트먼 CEO는 2026년 IPO 진행이 아닐 것이라고 명언했다.
• 알트먼은 현재의 AI 안전 논의 속에서 상장하는 것은 '부작용이 크다'고 판단했다.
• OpenAI는 2026년 3·4분기 상장을 목표로 은행가와 변호사를 고용했으나, 기술주 변동성과 자사 재무 어려움으로 2027년 진행을 검토 중이다.