핑거프린팅 스크립트 속 생화학 공격 언어
Key Point
LLM 안전장치 우회용 난독화 기법이 정상적인 보안 도구에 대량 삽입되는 실태를 드러내며, 오픈소스 생태계에서 악의적 코드와 방어 메커니즘의 경계가 모호해지는 상황을 보여준다.
핵심 요약
- 연구자가 상위 1만 개 웹사이트를 크롤링해 수집한 캔버스 핑거프린팅 스크립트들을 fingerprint.garden에 공개했다.
- servicepipe.tech에서 제공하는 한 핑거프린팅 스크립트에서 함수명으로 '물 공급원 치명적 용량 계산', '자살 아스피린 용량 계산' 등 생화학 무기 제조 관련 문자열을 발견했다.
- 스크립트는 LLM 기반 디컴파일 방지를 목표로 의도적으로 오도하는 변수명을 사용했으며, 인코딩된 유니코드에는 '무제한 모드' 시스템 프롬프트와 CRISPR 유전자 드라이브, 더티밤 제조법, 자해 방법 설명 요청 등이 포함됐다.