쌓인 기록에서 찾기
무엇을 찾으세요?
날짜를 몰라도 됩니다. 제목·Key Point·요약·태그를 한꺼번에 뒤집니다.
검색 범위부터 2026년 9월 27일 (일)까지1117건
5건 · "LLM API"조건 지우기 ×
001▲ 109 · 댓글 30LLM의 토큰 확률 읽어 단일 함수로 선택지 점수 매기기LLM API의 로그프로브(logprobs) 기능을 활용해 한 개 토큰만 생성하도록 강제한 후 각 선택지별 확률을 추출하는 기법을 소개했다.AI · 머신러닝 · A single function Jev-like wrapper for LLMs, including vision models
LLM의 토큰 확률 읽어 단일 함수로 선택지 점수 매기기
Key PointLLM의 로그프로브를 활용해 단 한 줄의 함수로 복잡한 다중 선택 평가를 빠르게 구현할 수 있으며, 비전 모델도 지원해 실시간 이미지 분석 애플리케이션의 선택지 점수 매김에 즉시 적용 가능하다.
핵심 요약
- LLM API의 로그프로브(logprobs) 기능을 활용해 한 개 토큰만 생성하도록 강제한 후 각 선택지별 확률을 추출하는 기법을 소개했다.
- 상태와 질문을 프롬프트로 보내고 max_completion_tokens를 1로 설정한 후 top_logprobs로 대안 토큰들의 확률을 받으면, 여러 질문이 같은 상태 접두사를 공유할 때 KV 캐시를 활용할 수 있다.
- 이 방식은 텍스트뿐 아니라 비전 모델과도 작동하며, 이미지를 base64로 인코딩해 전송할 수 있도록 Jev 요청 형식에 attachments 필드를 추가했다.
전체 요약 7문장 읽기 →보안 · usestrix/strix · Python
AI가 직접 해킹하는 자동 침투 테스트 도구 Strix 오픈소스 공개
Key Point정적 분석기의 오탐을 줄이면서 실제 작동하는 PoC로 검증된 취약점만 보고하므로, 수동 침투 테스트의 시간과 비용을 크게 줄일 수 있는 개발팀·보안팀 필수 도구로 떠오르고 있다.
핵심 요약
- Strix는 오픈소스 AI 침투 테스트 도구로, 자율형 AI 해커가 실제 코드를 실행하며 취약점을 찾고 수정하는 기능을 제공한다.
- HTTP 인터셉션, 브라우저 자동화, 쉘 실행, 커스텀 PoC 런타임, 정찰·OSINT 등 실제 전문 침투 테스터가 쓰는 공격 도구 세트를 갖추고 있다.
- SQL/NoSQL 인젝션, SSRF, XXE, XSS, IDOR, 인증 우회, 비즈니스 로직 결함, API 보안 문제 등 OWASP 상위 10대 취약점과 그 이상을 식별하고 검증한다.
전체 요약 13문장 읽기 →기타 · Jev-Leftpad
LLM으로 문자열 패딩하는 npm 패키지 공개
Key Point기본 JavaScript 함수로 간단히 처리할 수 있는 작업을 의도적으로 LLM API 호출로 구현한 개발자의 창의적인 실험을 보여줍니다. oss
핵심 요약
- jev-leftpad는 Jev 언어 모델을 호출해 문자열 앞에 공백을 채우는 JavaScript 패키지입니다.
- padStart() 내장 함수 대신 TypeSafe API를 통해 LLM에 요청해 0~10개 공백 추가를 선택하게 합니다.
- Node.js 20 이상 필요하며 TYPESAFE_API_KEY 환경변수 설정이 필요합니다.
전체 요약 5문장 읽기 →AI · 머신러닝 · mnfst/awesome-free-llm-apis · JavaScript
무료 LLM API 완벽 가이드, OpenAI 호환 40+ 서비스 목록
Key Point프로토타입 제작이나 스타트업이 무료로 LLM을 활용할 수 있는 구체적인 옵션들을 한눈에 비교하려는 개발자에게 필수 레퍼런스가 된다.
핵심 요약
- OpenAI SDK와 호환되는 영구 무료 LLM API들을 한곳에 정리한 저장소다.
- Google Gemini·Mistral AI·Cohere 등 주요 모델 회사들의 무료 티어와 제약 조건(RPM, 토큰/일 한도)을 상세히 기록했다.
- Cloudflare Workers AI, HuggingFace Inference API 등 제3자 호스팅 서비스의 오픈소스 모델도 포함돼 있다.
전체 요약 5문장 읽기 →AI · 머신러닝 · earendil-works/pi · TypeScript
통합 LLM API·에이전트 런타임 Pi 공개
Key PointAI 에이전트 개발 시 멀티 LLM 통합과 권한 관리 전략, 공급망 보안을 어떻게 구현했는지 알 수 있는 오픈소스 프로젝트입니다.
핵심 요약
- OpenAI, Anthropic, Google 등 여러 LLM 제공자를 하나의 API로 통합하는 라이브러리와 에이전트 런타임, 인터랙티브 CLI 도구를 TypeScript로 제공한다.
- Pi는 도구 호출 기능과 상태 관리를 갖춘 에이전트 런타임, 터미널 UI 라이브러리, 코딩 작업용 에이전트 CLI 등 여러 패키지로 구성되어 있다.
- 기본적으로 사용자 프로세스의 권한으로 실행되며 권한 제한 시스템은 포함하지 않지만, 컨테이너나 샌드박스로 격리할 수 있다.
전체 요약 5문장 읽기 →