JYP Garden

Decision Making

Properties1
tagsagentic-ai, reasoning, choice, strategy, planning, knowledge

6 min read

Decision Making (의사결정)

정의

**Decision Making (의사결정)**은 에이전트가 여러 선택지 중에서 목표 달성을 위해 최적의 행동을 선택하는 과정입니다.

의사결정의 3가지 수준

1. 전략 수준 (Strategic)

질문: "큰 방향을 어떻게 할 것인가?"
예: "이 환자는 외과 수술이 필요한가?"
특징: 장기적, 영향력 큼, 불확실성 높음

2. 전술 수준 (Tactical)

질문: "어떤 단계를 거칠 것인가?"
예: "먼저 MRI, 그 다음 CT?"
특징: 중기적, 여러 선택지, 제약 있음

3. 운영 수준 (Operational)

질문: "지금 바로 무엇을 할 것인가?"
예: "검사 기계 A를 사용할 것인가, B를 사용할 것인가?"
특징: 단기적, 즉각적, 규칙 기반

의사결정의 4가지 패턴

1. 규칙 기반 (Rule-based)

온톨로지의 IF-THEN 규칙을 직접 적용

예:
  IF 발열 AND (기침 OR 인후통) THEN 감기 의심
  IF 감기 의심 THEN 독감 검사 우선

장점: 빠름, 예측 가능, 해석 쉬움
단점: 유연성 없음, 새로운 상황 대응 불가

2. 확률 기반 (Probabilistic)

온톨로지의 확률로 다음 행동 결정

예:
  P(독감 | 증상) = 0.8 → 독감 검사 우선
  P(감기 | 증상) = 0.15 → 감기 검사 나중
  
선택: P가 가장 높은 옵션 선택

장점: 불확실성 처리, 유연함
단점: 계산 복잡, 확률 계산 필요

3. 목표 기반 (Goal-oriented)

"목표에 가장 잘 가는 경로를 찾아라"

예:
  목표: 환자 진단
  선택지: 
    경로 A: 검사 3개 → 확실함 (비용 높음)
    경로 B: 검사 1개 → 빠름 (확실성 낮음)
  
선택: 목표와 제약(비용, 시간)을 고려해 최적 경로 선택

장점: 유연함, 맥락 고려
단점: 계산 복잡, LLM 필요

4. 강화학습 기반 (Reinforcement Learning)

과거 경험에서 보상을 얻었던 행동 반복

예:
  경험 1: 환자 A에게 검사 A, B → 성공 (+10점)
  경험 2: 환자 B에게 검사 A만 → 실패 (-5점)
  
학습: "앞으로는 먼저 검사 B를 하자"

장점: 자동 개선, 경험 활용
단점: 초기에는 성능 낮음, 데이터 필요

온톨로지를 활용한 의사결정

의사결정 프로세스:

1. 상황 인식 (Perception)
   └─ 온톨로지: "이 상황은 어떤 클래스인가?"
   
2. 선택지 생성 (Generation)
   └─ 온톨로지: "이런 상황에서 할 수 있는 행동들은?"
   
3. 평가 (Evaluation)
   └─ 온톨로지 규칙: "각 선택의 결과는?"
   └─ 확률/비용: "어느 것이 최적?"
   
4. 선택 (Selection)
   └─ 최고 점수 행동 선택
   
5. 실행 (Execution)
   └─ 도구 실행
   
6. 피드백 (Feedback)
   └─ 온톨로지 갱신: "다음에는 이렇게"

의사결정의 오류와 편향

인지 편향

앵커링 편향:
  첫 정보에 과도하게 의존
  예: 초기 진단이 정답이라고 가정 → 다른 가능성 무시
  
가용성 편향:
  최근/자주 본 정보에 의존
  예: 최근 유행병이 항상 첫 의심
  
확인 편향:
  자신의 가설을 증명하는 정보만 찾음
  예: 감기라고 생각 → 감기 증거만 찾음

해결 방법

1. 온톨로지 활용
   └─ 체계적 규칙으로 편향 감소
   
2. 다중 증거
   └─ 여러 검사/정보로 확인
   
3. 정기적 재평가
   └─ 새 정보 입수 시 결정 다시 검토
   
4. 인간 검증 (HITL)
   └─ 중요 결정은 사람이 검증

의사결정 최적화

성능 지표:

1. 정확도 (Accuracy)
   └─ 올바른 결정의 비율
   
2. 속도 (Speed)
   └─ 의사결정 소요 시간
   
3. 비용 (Cost)
   └─ 의사결정 실행 비용
   
4. 확신도 (Confidence)
   └─ 결정의 신뢰도

트레이드오프:
  정확도 ↑ = 속도 ↓, 비용 ↑
  속도 ↑ = 정확도 ↓
  → 도메인에 따라 최적 균형 설정

관련 개념

관련 영상: Fundamentals of Building Autonomous LLM Agents (Video 4)

그래프 뷰

백링크