Catastrophic Forgetting — 파국적 망각
정의
AI 모델이 새로운 정보를 학습할 때 기존에 학습했던 정보를 완전히 잊어버리는 근본적 문제. 칠판에 새로운 내용을 쓰기 위해 기존 내용을 싹 다 지워버리는 것과 같은 현상.
현상
AI의 경우
대화 1: 사용자와 중요한 정보 교환
↓
대화 2: 직전 대화 내용을 까맣게 잊어버림
↓
결과: 연속성 있는 지능적 협업 불가능
심각성
- 근본적 한계: 단순한 버그가 아닌 신경망의 기본 특성
- 한계의 벽: AI가 아무리 똑똑해져도 극복 불가능
- 현실적 불편: 개인화된 상호작용 불가능
인간과의 비교
| 구분 | 인간 | AI (기존) |
|---|---|---|
| 어릴적 기억 | 유지 | 삭제됨 |
| 새 지식 | 추가 | 기존 덮어씀 |
| 기억의 누적 | 가능 | 불가능 |
해결책
HippoRAG의 접근
- 신피질 (지식그래프): 모든 정보를 계속 유지
- 해마 (색인 알고리즘): 정보 간 연결만 업데이트
- 결과: 망각 문제 해결
현실적 영향
- 진정한 AI 비서 구현 불가
- 장기 학습 기반 AI 불가
- 개인화 수준의 한계
출처: AI인터시스브랜드 Video 18 대비: HippoRAG의 해결 방안