Trustworthy AI

정의

**신뢰 가능한 AI (Trustworthy AI)**는 사용자가 AI의 결정과 추천을 안심하고 의존할 수 있는 시스템을 의미한다. 정확성뿐만 아니라 설명 가능성, 공정성, 안전성을 모두 갖춘 AI.

신뢰의 4가지 기둥

1. 정확성 (Accuracy)

질문: "결과가 맞는가?"

전통적 평가:
├─ 정확도 99%
└─ → 신뢰 가능?

실제로는:
├─ 99%는 학습 데이터에서
├─ 실제 데이터에서는?
└─ → 신뢰도 떨어짐

2. 설명 가능성 (Explainability)

질문: "왜 그렇게 결정했는가?"

LLM:
├─ "패턴으로부터 학습했습니다"
├─ "왜냐하면... (불명확)"
└─ 신뢰도: 낮음 ❌

OG-RAG:
├─ "규칙 X에 따라..."
├─ "왜냐하면... (명확한 논리)"
└─ 신뢰도: 높음 ✅

3. 공정성 (Fairness)

질문: "모든 사람에게 공평한가?"

위험:
├─ 학습 데이터의 편향
├─ 특정 그룹에 불리한 결정
└─ 신뢰 상실

OG-RAG의 장점:
├─ 규칙은 투명하고 수정 가능
├─ 편향된 규칙 제거 용이
└─ 공정성 감시 용이

4. 안전성 (Safety)

질문: "해로운 결정은 없는가?"

예: 의료 진단
├─ 환자 A: 약 X 처방
├─ 환자 B: 약 X 금기 (알레르기)
├─ 규칙 없으면: LLM이 무시할 수 있음
└─ 규칙 있으면: 자동으로 방지됨

OG-RAG가 신뢰성을 높이는 방식

Before (LLM only):
├─ 정확도: 좋음
├─ 설명 가능성: 나쁨
├─ 공정성: 불명확
└─ 안전성: 위험

After (OG-RAG):
├─ 정확도: 더 좋음 (+4.3%)
├─ 설명 가능성: 좋음 (규칙 기반)
├─ 공정성: 검증 가능
└─ 안전성: 보장됨 (제약 강제)

도메인별 신뢰성 요구사항

도메인	최우선순위	OG-RAG 적합성
의료	안전성	⭐⭐⭐⭐⭐
법률	공정성	⭐⭐⭐⭐⭐
금융	설명 가능성	⭐⭐⭐⭐⭐
자동차	안전성	⭐⭐⭐⭐⭐
교육	공정성	⭐⭐⭐⭐

관련 개념

• OG-RAG — 신뢰성 강화 기법
• Logical Reasoning — 설명 가능성의 기초
• Ontology — 규칙 표현
• Explainability in AI — 투명성

---

핵심: 신뢰 가능한 AI는 “설득력 있는 설명과 함께 오는 정확성”이다.