JYP Garden

think on graph

Properties1
tagsknowledge

7 min read

type: source status: seedling title: Think-on-Graph: Deep and Responsible Reasoning of LLM with KG tags: [rag, knowledge-graph, trustworthy-ai, reasoning, transparency] created: 2026-05-05 modified: 2025-12-18 date: 2025-12-18 url: https://www.youtube.com/watch?v=s-0F7LrrIMI channel: AI인터시스브랜드 source_file: raw/youtube/think-on-graph.md

Summary

LLM의 유창함과 지식그래프의 정확성을 결합하여 신뢰할 수 있고 투명한 AI 추론을 실현. Think-on-Graph(ToG)는 AI가 마치 유능한 탐정처럼 지식그래프 위에서 증거 경로를 추적하며 답변하도록 하여, 6개 벤치마크에서 기존 기록을 갈아치우고 투명하고 책임감 있는 AI의 새 시대를 연다.

Key Claims

  • AI 환각의 본질: AI가 방대한 데이터 속에서 사실과 허구를 완벽히 구분하지 못해 확신감 있게 거짓말을 함
  • LLM vs KG의 차이: LLM은 확률적으로 그럴듯한 답 창조, KG는 검증된 사실을 점과 선으로 연결한 “GPS 같은 진실 지도”
  • Think-on-Graph의 혁신: LLM의 유창함 + KG의 정확성 결합으로 완전히 새로운 추론 방식 구현
  • 작동 원리: 질문 → 지식그래프에서 여러 탐색 경로 시뮬레이션 → 가장 탄탄한 사실로 뒷받침된 경로 선택 → 논리적으로 검증된 최종 답변
  • 4가지 핵심 장점: 깊이 있는 추론 가능, 투명성 보장(증거 경로 추적), 유연성(모든 모델 호환), 효율성(작은 모델도 최고 성능)
  • 벤치마크 성과: 6개 테스트에서 기존 최고 기록 경신
  • 작은 모델의 해방: 대규모 모델 없이도 최첨단 성능 달성 가능 → 소규모 기업/연구자 진입 장벽 낮춤
  • AI의 진화 방향: “가능한가?”에서 “신뢰할 수 있는가?”로 전환 → 지식 추적성(Knowledge Traceability) + 지식 수정성(Knowledge Modifiability)

Core Architecture

문제: AI 환각 (Hallucination)

본질:

AI가 데이터 속에서
→ 사실과 허구 완벽 구분 불가
→ 확신감 있게 거짓말
= 신뢰 위기

기존 접근의 한계

LLM (Large Language Model):

- 방식: 확률적 생성
- 특징: 유창하지만 정확성 낮음
- 문제: 환각 발생 가능

Knowledge Graph:

- 방식: 검증된 사실 연결
- 특징: 정확하지만 유연성 낮음
- 문제: 복잡한 추론 제한적

해결책: Think-on-Graph (ToG)

원리: LLM + KG 결합

복잡한 질문
  ↓
지식그래프에서 여러 탐색 경로 시뮬레이션
  ↓
가장 탄탄한 사실로 뒷받침된 경로 선택
  ↓
그 경로를 따라 논리적 검증된 답변
  ↓
증거 경로까지 함께 제시

Think-on-Graph의 4대 장점

1. 깊이 있는 추론

단순 사실 검색을 넘어
→ 다단계 논리적 추론
→ 복잡한 관계 이해

2. 완전한 투명성

"왜 이 답을 찾았나?"
→ 증거 경로 모두 투명하게 공개
→ 신뢰 강화

3. 유연한 호환성

특정 모델 의존 없음
→ 어떤 AI나 지식그래프에 적용 가능
→ 범용 방식

4. 효율적 성능

거대하고 비싼 모델 불필요
→ 작은 모델도 최고 수준 성능
→ 기업/연구자 접근성 향상

Benchmark Results

성과

  • 6개 테스트에서 기존 최고 기록 경신
  • 확실한 우월성 입증

Knowledge Traceability & Modifiability

핵심 개념

Knowledge Traceability (지식 추적성):

"이 답이 어디서 나왔나?"
→ 증거 경로 전부 추적 가능

Knowledge Modifiability (지식 수정성):

"틀렸다면?"
→ 해당 지식 수정 가능
→ 자동으로 미래 답변 개선

의미

우리가 답을 이해하고
혹시 틀렸을 때 바로 잡을 수 있음
= 진정으로 믿고 쓸 수 있는 AI

Real-World Significance

"가능한가?" → "신뢰할 수 있는가?"

단순한 능력 향상이 아닌
AI의 근본적 신뢰성 향상

Key Concepts Created

Impact

Immediate Effects

  • 6개 벤치마크 신기록
  • 소규모 모델로도 최고 성능

Systemic Transformation

  • AI 신뢰성 구조적 개선
  • 수정 가능한 AI 시스템
  • 투명한 의사결정

출처: AI인터시스브랜드 채널 (2025-12-18) 영상: “15 Think-on-Graph: Deep and Responsible Reasoning of LLM with KG” 길이: 약 340초 (약 6분) 핵심: LLM과 지식그래프의 결합으로 신뢰할 수 있고 투명한 AI 추론 실현

관련 노트

그래프 뷰