Responsible AI — 책임감 있는 AI
정의
AI 시스템이 자신의 행동과 결정에 대해 설명 가능하고, 오류 시 수정 가능하며, 투명성을 갖춘 신뢰할 수 있는 AI. 단순한 성능보다 신뢰성, 투명성, 설명 가능성을 우선하는 AI 철학.
핵심 요소
3가지 기둥
| 요소 | 설명 |
|---|---|
| 투명성 (Transparency) | 결정 과정 공개 |
| 설명 가능성 (Explainability) | 왜 그런 결정을 했는가 |
| 수정 가능성 (Modifiability) | 오류 시 개선 가능 |
Think-on-Graph의 역할
Think-on-Graph 구현
→ 모든 결정이 추적 가능
→ 모든 오류가 수정 가능
→ Responsible AI 실현
패러다임 전환
기존 AI
"얼마나 강한가?"
→ 성능만 중요
→ 검은 상자
Responsible AI
"얼마나 신뢰할 수 있는가?"
→ 신뢰성 중요
→ 투명한 상자
출처: AI인터시스브랜드 Video 20 의의: AI의 미래 방향 제시