AI 시스템이 생성한 답변과 의사결정을 사용자가 신뢰할 수 있도록 하기 위한 원칙과 방법론. 단순한 성능 개선을 넘어 AI가 어떻게 결정을 내렸는지 명확히 보여주고, 그 근거를 검증할 수 있어야 함.
핵심 이슈:
- LLM의 환각으로 인한 신뢰도 하락
- 구식 지식으로 인한 부정확성
- 추론 과정의 투명성 부족
해결책:
- 그래프 기반 검증
- 증거 기반 추론
- 해석 가능한 의사결정 경로
관련: Hallucination, Responsible-AI,
AI 시스템이 생성한 답변과 의사결정을 사용자가 신뢰할 수 있도록 하기 위한 원칙과 방법론. 단순한 성능 개선을 넘어 AI가 어떻게 결정을 내렸는지 명확히 보여주고, 그 근거를 검증할 수 있어야 함.
핵심 이슈:
해결책:
관련: Hallucination, Responsible-AI,