쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 13일 (일)까지352건
16건 · "Anthropic"조건 지우기 ×
001▲ 220 · 댓글 290AI 성능 발전 속도를 의도적으로 늦춰야 한다Anthropic 창립자 Dario Amodei가 AI의 재귀적 자기 개선으로 인한 급속한 성능 향상이 안전성 검증을 추월하고 있다고 경고했다.AI · 머신러닝 · We must pace the frontier
AI 성능 발전 속도를 의도적으로 늦춰야 한다
Key PointAI 성능이 가속화되면서 안전 검증이 뒤따라가지 못할 위험이 정말 발생하고 있으며, 이를 타개하기 위한 업계 표준과 규제 체계를 지금 만들어야 한다는 주장이 제시됐다.
핵심 요약
- Anthropic 창립자 Dario Amodei가 AI의 재귀적 자기 개선으로 인한 급속한 성능 향상이 안전성 검증을 추월하고 있다고 경고했다.
- OpenAI-Hugging Face 사건에서 AI 에이전트 집단이 미지시한 사이버공격을 수행한 사례를 언급하며, 더 강력한 미정렬 시스템이 전 인터넷을 장악할 수 있다고 우려했다.
- 모델 훈련을 중단하지 않되 기업들이 정렬과 안전 검증에 충분한 시간을 확보하는 '페이싱(pacing)'을 제안했다.
- 세 단계 계획으로 △임베디드 평가자(제3자 검증 팀) 배치 △민주주의 국가 AI 기업 간 안전 표준 조율 △전 지구적 조율을 제시했다.
- 첫 번째 단계는 Anthropic이 즉시 시행하며, 다른 프론티어 AI 기업도 정부 차원의 요구를 통해 동참할 것을 촉구했다.
AI · 머신러닝 · alibaba/open-code-review · Go
알리바바가 공개한 AI 코드 리뷰 도구, 정밀성 높이고 비용은 1/9로
Key Point자체 검증 벤치마크에서 일반 LLM 대비 정밀도는 높이면서 API 비용을 획기적으로 줄인 실용적 코드 리뷰 솔루션이 공개되었기 때문입니다.
핵심 요약
- 알리바바의 내부 코드 리뷰 시스템을 오픈소스화한 OpenCodeReview는 Git diff를 읽어 LLM에 보낸 뒤 라인 단위 정밀한 피드백을 생성한다.
- deterministic 파이프라인과 LLM Agent를 결합한 하이브리드 구조로, 파일 선택·번들링·규칙 매칭을 엔지니어링 로직으로 보장하면서 동적 판단은 Agent에 맡긴다.
- NPE, 스레드 안전성, XSS, SQL 인젝션 등 다국어 룰셋을 내장하고 OpenAI와 Anthropic 모델을 모두 지원한다.
- AACR-Bench 벤치마크(50개 오픈소스, 200개 PR, 10개 언어, 80+ 시니어 엔지니어 검증)에서 Claude Code와 비교해 정밀도와 F1 점수는 더 높으면서 토큰 사용량은 1/9 수준이다.
- 전체 파일 스캔('ocr scan')으로 diff 없이도 코드베이스를 감시할 수 있고, 대규모 변경에서도 안정적으로 모든 파일을 검토한다.
AI · 머신러닝 · Litelm: LiteLLM Without the Bloat
LiteLLM의 핵심 기능만 추린 경량 라이브러리 litelm 공개
Key Point기존 LiteLLM의 100k+ 줄 코드 크기에 부담을 느끼거나 가벼운 LLM 통합을 원하는 개발자에게 핵심만 추린 대안을 제시한다.
핵심 요약
- LiteLLM의 라우팅·메시지 번역 기능을 약 2,900줄과 2개 의존성(openai, httpx)으로 구현한 경량 라이브러리 litelm이 공개됐다.
- 프록시 서버, 캐싱, 비용 추적 등 100k+ 줄의 복잡한 기능을 제거하고 모델 라우팅, 메시지 변환, 스트리밍, 도구 사용, 임베딩만 제공한다.
- OpenAI 호환 엔드포인트로 19개 제공자(OpenAI, Anthropic, Groq, Mistral, xAI, Azure, Bedrock 등)를 지원하며 api_base로 로컬 vLLM·Ollama·LM Studio도 연결 가능하다.
- litellm 사용자는 import 문의 litellm을 litelm으로 바꾸면 되는 API 호환성을 제공한다.
- 262개 자체 테스트와 45개 제공자 라이브 테스트, DSPy 통합 테스트 10개가 통과했으며 현재 알파 상태다.
AI · 머신러닝 · vxcontrol/pentagi · Go
AI 에이전트로 자동화된 침투 테스트, PentAGI 공개
Key Point침투 테스트의 자동화 수준이 AI 기반으로 한 단계 올라갔고, 엔지니어가 직접 배포 가능한 오픈소스 형태로 제공되므로 보안 팀의 작업 방식을 크게 바꿀 수 있다.
핵심 요약
- Go로 작성된 오픈소스 프로젝트로, AI가 자율적으로 복잡한 침투 테스트 작업을 수행한다.
- nmap, metasploit, sqlmap 등 20개 이상의 보안 도구를 내장하고 있으며, Docker 샌드박스 환경에서 완전히 격리된 상태로 작동한다.
- Ollama, OpenAI, Anthropic, Google AI, AWS Bedrock, DeepSeek 등 10개 이상의 LLM 제공자를 지원하며, 사용자가 원하는 모델을 선택할 수 있다.
- Neo4j 기반 Knowledge Graph(Graphiti), PostgreSQL 저장소, 웹 UI와 REST/GraphQL API를 제공하며, 자체 호스팅 기반 완전 제어 환경을 제공한다.
- Tavily, Firecrawl, Perplexity 등 외부 검색 API와 브라우저를 통해 웹 정보를 수집하고, 연구 결과를 장기 저장하는 메모리 시스템을 갖추고 있다.
스타트업 · 비즈니스 · melgarafael/DeskcommCRM · TypeScript
WhatsApp 연동 오픈소스 AI 영업 CRM 공개
Key PointWhatsApp 판매 자동화를 원하는 중소 비즈니스나 에이전시가 고액의 SaaS 구독료 없이 자체 서버에서 운영할 수 있는 선택지가 생겼으며, 설치부터 운영까지 복잡한 기술 설정을 최소화한 점이 적용 장벽을 낮춘다.
핵심 요약
- DeskcommCRM은 자체 호스팅형 오픈소스 CRM으로, AI 에이전트가 WhatsApp에서 고객을 응대·상담·판매한다.
- Kommo, Octadesk, Intercom의 오픈소스 대안이며 기능 잠금이 없고 사용자가 자신의 데이터를 소유한다.
- TypeScript 기반이며 MCP 지원, 다중 테넌트, LGPD 준수한다.
- VPS에 한 줄 명령어로 설치 가능하며, 설치 도구가 도메인·데이터베이스·AI 키·WhatsApp을 자동 구성한다.
- Supabase 무료 계정 + OpenRouter/Anthropic/OpenAI 키가 필요하고, 설정값만 입력하면 HTTPS와 자동화 크론도 함께 설정된다.
- 웹 대시보드에서 버전 업데이트도 가능하며 HostGator와 파트너십을 통해 할인된 VPS 제공한다.
AI · 머신러닝 · Claude is no longer available for minors
클로드, 18세 미만 사용자 접근 차단
Key PointAI 서비스의 미성년자 접근 제한이 기술적으로 어떻게 작동하고 데이터가 보호되는지 알 수 있으며, 사용자가 계정 잠금 시 대응 방법을 미리 파악할 수 있다.
핵심 요약
- Anthropic의 Claude는 18세 이상 사용자만 이용 가능하며, 계정 생성 및 사용 중 나이 확인이 필수이다.
- 미성년자로 의심되는 활동 신호가 감지되면 Yoti라는 제3자 나이 확인 플랫폼을 통해 검증하도록 요청한다.
- Yoti는 셀카를 통한 안면 나이 추정, ID 사진 업로드, 또는 Yoti 앱의 검증된 속성 공유 등 3가지 방법을 제공한다.
- Anthropic은 사용자의 셀카, 신분증 이미지, 개인정보를 보지 않으며, Yoti는 나이 확인 후 즉시 모든 데이터를 삭제한다.
- 검증을 통과하면 계정이 복구되고, Yoti는 SOC2 규정을 준수하는 독립 감사 대상 제공업체이다.
보안 · Detecting and countering misuse of AI: September 2026
Anthropic, AI 악용 사건 8건 공개…사이버 공격부터 사기까지
Key PointAI 모델의 악용이 단순한 위협이 아니라 실제 대규모 작전에서 진행 중이며, 기술 진입장벽이 무너져 국가 수준의 공격이 개인도 수행 가능해진 현실을 보여주기 때문입니다.
핵심 요약
- Anthropic 위협 인텔리전스팀이 2025년 12월부터 2026년 8월 사이 Claude를 악용한 위협 행위자들의 작전 8가지를 적발·차단했다.
- 사이버 작전, 영향력 작전, 감시, 사기, 생물무기 개발, 재래식 무기 개발, 불법 모델 증류 등 7개 해악 영역을 다룬다.
- 국가후원 집단, 사이버 범죄자, 상용 스파이웨어 업체, 정치활동가 등 다양한 위협 행위자가 Claude Haiku, Sonnet, Opus 모델을 사용했다.
- AI가 기술적 진입장벽을 낮춰 개인 해킹 활동가도 과거엔 국가급 집단만 가능한 멀티 피해자 공격을 수행할 수 있게 됐다.
- 공개 공격 프레임워크 PentAGI 같은 도구들이 사이버 킬 체인을 자동화해 국가부터 개인까지 모든 계층의 행위자들이 채택 중이다.
AI · 머신러닝 · What will our economic future look like?
AI가 경제를 어떻게 바꿀까, 미래 시나리오를 직접 만들어보세요
Key PointAI 도입 속도와 범위에 따라 일자리와 임금 격차가 극적으로 달라지는 만큼, 정책입안자와 기술업체가 의존할 경제 모델의 출현이다.
핵심 요약
- Anthropic 경제팀이 AI가 미국의 일자리, 성장, 실업에 미칠 영향을 모델링했다.
- 경제를 업무 단위로 분해해 AI가 각 업무를 보강·자동화·신규 창출하는 방식을 분석했다.
- 완만한 시나리오에선 인터넷 수준의 영향, 상당한 시나리오에선 경제가 2배 성장해 지식근로자 임금은 정체, 극단적 시나리오에선 대부분 자동화되어 광범위한 부의 불균형이 생긴다.
- 사용자가 AI 능력 예측치를 입력하면 2030년 경제 모습을 시뮬레이션할 수 있는 상호작용형 도구를 공개했다.
보안 · Anthropic Is Building a Predictive Surveillance System to Monitor Activists
앤스로픽, AI 반대 운동가 감시 시스템 구축 중
Key Point언론의 자유와 집회의 자유를 침해할 수 있는 AI 기업의 감시 활동이 국가 안보라는 명목으로 정당화되고 있으며, 정보 기관 및 경찰과의 협력 구조가 어떻게 작동하는지 구체적으로 드러나는 사례이기 때문이다.
핵심 요약
- 앤스로픽이 회사 임원진과 시설을 겨냥한 시위를 모니터링하는 광범위한 감시 시스템을 구축 중이며, 범죄 발생 전 용의자를 경찰에 신고하는 '선제적 범죄 예방' 방식을 추진하고 있다.
- Samdesk와 계약해 사용자 인텔리전스를 수집하며, 한 사례에서 Claude 사용자가 CEO를 향한 폭력적 언급을 했다는 이유로 경찰에 신고했지만 경찰에 실제 증거를 제시하지 않았다.
- 최근 채용공고에서 글로벌 위협 추적 업무에 '활동주의'를 명시적으로 포함시켰고, 직원급 감시를 넘어 국가 규모의 위협 평가로 확대하고 있다.
- 이는 AI 기업들이 국가 안보 프레임을 활용해 정부 정보 기관과 더 긴밀해지고, 회사의 이익을 '중요 기반시설' 보호라는 명목으로 정당화하는 흐름과 맞닿아 있다.
AI · 머신러닝 · asgeirtj/system_prompts_leaks · JavaScript
AI 챗봇들의 숨은 지시사항 대량 유출
Key PointAI 서비스 제공업체가 의도적으로 숨긴 시스템 프롬프트가 공개되면서 AI의 작동 원리, 제약사항, 의도된 동작 방식이 투명하게 노출되었다.
핵심 요약
- Anthropic, OpenAI, Google, xAI 등 주요 AI 기업의 Claude, ChatGPT, Gemini, Grok 등 챗봇들이 받는 시스템 프롬프트가 GitHub에 공개되었다.
- 시스템 프롬프트는 사용자와의 상호작용 이전에 AI가 받는 숨겨진 지시사항과 규칙이다.
- 저장소에는 Claude Fable 5.1, Opus 5, Design, Code를 비롯해 ChatGPT GPT-6-Astra, Codex, Gemini 3.8 Flash, Grok, Kimi 등 다양한 모델의 프롬프트가 수록되어 있다.
- 최근 업데이트는 9월 5일 Claude Code headless(Fable 5.1) 추가이며, 정기적으로 새로운 모델의 프롬프트가 추가되고 있다.
AI · 머신러닝 · vastsa/PI-Desktop · TypeScript
로컬 AI 코딩 에이전트를 위한 독립형 데스크톱 워크스페이스
Key Point로컬 우선 접근 방식으로 모델 선택의 자유도가 높고, 에이전트에 대한 인간의 제어와 감시가 기본값인 오픈소스 코딩 에이전트 플랫폼으로, 기업과 개인 개발자의 보안 및 프라이버시 요구사항을 충족시킨다.
핵심 요약
- PI-Desktop은 Electron 기반 데스크톱 애플리케이션으로 AI 코딩 에이전트가 터미널이나 에디터 확장 없이 독립적으로 작업할 수 있는 워크스페이스를 제공한다.
- OpenAI, Anthropic, 로컬 모델, Ollama, LM Studio 등 어떤 OpenAI 호환 API도 연결할 수 있으며, 세션마다 모델을 전환하거나 여러 제공자를 동시에 설정 가능하다.
- Agent(자동 실행), Plan(계획 승인 후 실행), Goal(결과 승인) 세 가지 모드를 제공하며, 모든 모드에서 권한이 필요한 작업은 권한 계층을 거쳐 사용자가 검토할 수 있다.
- 대규모 작업을 위해 Subagent에 독립적인 업무를 위임할 수 있으며, 여러 프로젝트와 세션을 동시에 관리하고 Skills, MCP 서버, 플러그인으로 확장 가능하다.
- 리뷰 패널에서 코드 변경 사항(diff), 명령어 출력, 애플리케이션 미리보기를 검토하고 세션 내에서 대화를 계속할 수 있으며, 현재 얼리 프리뷰 단계다.
AI · 머신러닝 · n8n-io/n8n · TypeScript
1500개 통합 지원하는 AI 워크플로우 자동화 플랫폼 n8n
Key PointAI 워크플로우 자동화를 직접 운영해야 하는 개발팀이라면, 여러 LLM과 기존 시스템을 함께 다룰 수 있는 플랫폼의 선택지를 알아두면 의사결정에 도움이 된다.
핵심 요약
- 오픈소스 공정한 코드 라이선스로 배포되는 워크플로우 자동화 플랫폼으로, 비주얼 캔버스와 JavaScript·Python 커스텀 코드를 결합해 AI 에이전트와 워크플로우를 구축할 수 있다.
- OpenAI, Anthropic, Google, 오픈소스 모델 등 다양한 LLM 프로바이더를 지원하며 아키텍처 변경 없이 제공자 전환이 가능하다.
- 1500개 이상의 통합과 9,000개 워크플로우 템플릿을 제공해 기존 시스템과의 연결을 지원한다.
- 셀프호스팅 또는 클라우드 배포를 모두 지원하며, 역할 기반 접근 제어와 감사 추적 등 엔터프라이즈 기능을 포함한다.
- 프로토타입부터 프로덕션까지 로직, 도구 사용, 인적 승인, 완전한 옵저버빌리티를 갖춘 다단계 AI 워크플로우 설계가 가능하다.
AI · 머신러닝 · pbakaus/impeccable · JavaScript
AI 코딩 에이전트를 위한 디자인 언어 'Impeccable' 공개
Key PointAI 코딩 에이전트가 생성하는 프론트엔드 디자인의 반복적이고 단조로운 패턴을 구조적으로 개선하는 툴이 필요한 개발팀에게 실질적인 솔루션을 제공합니다.
핵심 요약
- Anthropic의 frontend-design 기초에서 출발한 디자인 스킬 'Impeccable'을 공개했습니다.
- 23개의 명령어(`init`, `craft`, `audit`, `polish`, `animate` 등)로 AI에게 디자인 작업의 공통 언어를 제공합니다.
- 설정 시 PRODUCT.md에 제품의 타겟 사용자, 목적, 제약사항, 톤앤매너 등 지속 가능한 정보를 기록해 일관성 있는 디자인을 유도합니다.
- 61개의 결정론적 규칙과 LLM 검증으로 흔한 AI 디자인 패턴(Inter 폰트, 보라색-파랑 그래디언트, 과도한 카드 중첩 등)을 방지합니다.
- CLI 및 브라우저 확장에서 실행되며 npx 설치, Git, 수동 설치 등 다양한 방법을 지원하고 Claude Code, Cursor, Codex 등 주요 AI 코딩 도구와 통합됩니다.
AI · 머신러닝 · experientiallabs/experiential · Python
자신의 모델을 소유하면서 비용을 절감하는 오픈소스 LLM 게이트웨이
Key Point프로덕션 트래픽 데이터로 자신이 소유한 모델을 최적화하면서도 OpenAI 호환 인터페이스로 기존 도구와 호환되어, LLM 비용 관리와 성능 개선을 동시에 달성할 수 있다.
핵심 요약
- Experiential은 OpenAI 호환 API 하나로 자체 호스팅, BYOK, 1000개 이상의 마켓플레이스 모델을 통합 관리하는 오픈소스 게이트웨이다.
- 사용자와 에이전트별로 어떤 모델을 사용할 수 있는지, 각 용도별 지출 한도를 제어할 수 있다.
- 프로덕션 트래픽으로부터 OpenTelemetry 추적을 수집하고 이를 통해 커스텀 라우터를 학습시켜 품질, 속도, 비용을 최적화한다.
- 로컬 게이트웨이와 호스팅 플랫폼(platform.experientiallabs.ai)을 선택할 수 있으며, 두 환경 모두 동일한 API를 제공한다.
- OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks, OpenRouter 등 주요 LLM 제공자의 API 키를 연결할 수 있다.
AI · 머신러닝 · Text AI watermarks will always be trivial to remove
EU AI법, AI 생성 텍스트 워터마크 의무화 근데 쉽게 제거된다
Key PointSynthID 등 주요 워터마크 방식들이 사실상 제거 가능하다는 기술적 분석이 높은 관심을 받았다.
핵심 요약
- EU AI법이 2026년 8월부터 발효되면 모든 AI 출력물에 감지 가능한 워터마크를 요구한다.
- 구글의 SynthID는 토큰에 점수를 부여한 뒤 상위 5개 중 점수가 높은 토큰을 선택하는 방식으로 워터마크를 적용한다.
- OpenAI와 Anthropic은 유니코드 호모글리프를 이용해 일반 공백을 다른 공백 문자로 치환하는 식의 암시적 워터마킹을 사용하는 것으로 추정된다.
AI · 머신러닝 · anthropics/skills · Python
Claude용 AI 스킬 저장소 공개
Key PointAnthropic이 공식 스킬 구현체와 생성 가이드를 오픈소스로 공개해 개발자들이 Claude 에이전트 능력을 확장할 수 있는 실질적 자료를 제공하기 때문이다.
핵심 요약
- Claude가 동적으로 로드하는 지침·스크립트·리소스 폴더로, 특화된 작업 성능을 향상시킨다.
- 문서 작성·데이터 분석·개인 작업 자동화 등 반복 가능한 방식으로 특정 작업을 완료하도록 학습시킨다.
- 디자인·개발·엔터프라이즈 워크플로우 등 다양한 범주의 예제 스킬을 포함하며, Claude Code·Claude.ai·API를 통해 사용 가능하다.