NVIDIA/auto-ontology
NVIDIA Auto-Ontology, 데이터 위에 의미 기반 추론층 구축
원제 NVIDIA/auto-ontology
스타 4,111당일 +2,053Python
Key Point
LLM 에이전트의 쿼리 정확성이 속도보다 중요한 엔터프라이즈 데이터 환경에서, 잘못된 답변을 줄이기 위해 비즈니스 개념을 명시적으로 정의하고 검증하는 새로운 아키텍처 패턴을 제시합니다.
핵심 요약
- NVIDIA가 오픈소스 프레임워크 Auto-Ontology를 공개했으며, 이는 데이터 위에 시맨틱·그래프 기반 추론층을 만들어 에이전트가 더 정확한 답변을 제공할 수 있게 한다.
- 에이전트가 쿼리하기 전에 데이터의 위치, 의미, 사용 방법, 출처, 유사 데이터를 파악해야 신뢰할 수 있는 쿼리를 생성할 수 있다는 점이 핵심이다.
- 데이터베이스 메타데이터에서 온톨로지를 자동 생성하고, 비즈니스 용어를 컬럼에 매핑하며, 테이블 간 관계와 검수된 SQL을 저장한다.
- Discover(온톨로지 자동 생성), Ground(비즈니스 개념 정의 통일), Certify(웹 UI와 API를 통한 검수), Validate(쿼리 답변 가능 여부 사전 확인), Expose(MCP, REST API, 에이전트 스킬을 통한 제공) 다섯 단계로 작동한다.
- 기존 방식과 달리 온톨로지 도구를 사용하면 컨텍스트 윈도우 토큰을 줄이고, 컬럼 이름 대신 비즈니스 용어와 SQL을 제공하며, 관계와 집계를 미리 정의해 에러를 감소시킨다.
- 생성 단계에서 소스 데이터베이스를 읽어 스키마·컬럼 프로필·샘플 값을 추출하고, 테이블별로 용어를 추출해 컬럼에 매핑하며, 키와 데이터에서 조인을 추론한다.
- 검증 단계에서 Chat에서 실제 질문으로 테스트하거나, 온톨로지 용어와 SQL을 정제하고 검수한다.
- 답변 단계에서 에이전트가 질문 의도 분류, 용어·컬럼·SQL 속성 검색, SQL 작성, 필터값 검증, 쿼리 실행을 거쳐 SQL과 단계별 설명을 함께 반환한다.
- PostgreSQL, MySQL, Databricks, Snowflake, ClickHouse, Trino, Apache Kyuubi, HeavyDB, DuckDB, SQLite 10개 데이터 소스를 지원한다.
- 기본값으로 NVIDIA의 NIM 모델들(Nemotron 3.5 Lightning, Embed, Rerank)을 사용하지만, 자체 호스팅 NIM이나 OpenAI 호환 엔드포인트도 설정할 수 있다.
- 설정 시 FastAPI, Next.js, Postgres+pgvector, MCP 서버, 선택적 Vault를 포함한 스택을 Docker Compose로 배포할 수 있고, Kubernetes Helm도 지원한다.
- Apache OSSie 표준으로 기존 시맨틱 모델을 임포트·익스포트할 수 있다.
- BIRD, BEAVER, FDABench-Lite, Wide World Importers 벤치마크에서 온톨로지가 스키마 프롬프트만 사용하는 경우보다 정확도를 향상시키는지 평가한다.
저장소 보기 ↗github.com