JYP Garden

Autonomous Agent

Properties1
tagsagentic-ai, autonomy, agents, goal-oriented, decision-making, knowledge

6 min read

Autonomous Agent (자율 에이전트)

정의

**Autonomous Agent (자율 에이전트)**는 외부 직접 제어 없이 스스로 목표를 설정하거나 추구하며, 환경과 상호작용하고 피드백을 통해 행동을 조정하는 지능형 시스템입니다.

에이전트의 4가지 핵심 특성

특성설명
자율성외부 명령 없이 독립적으로 행동
반응성환경 변화를 감지하고 즉시 대응
목표지향성명확한 목표를 향해 행동
상태저장이전 상태와 결과를 기억하며 학습

에이전트 vs. 챗봇 vs. 자동화 스크립트

측면스크립트챗봇에이전트
자율성없음 (고정 로직)낮음 (사용자 의존)높음 (독립 행동)
목표외부 지정대화 응답자체 설정/추구
환경 반응미리 정의된 응답만프롬프트 기반동적 적응
피드백없음제한적활발한 학습 루프
예시배치 처리, cron jobChatGPT, 고객 지원 봇자율 주행차, 의료 진단 에이전트

LLM 기반 에이전트의 구조

┌─────────────────────────────┐
│  목표 (Goal)                │
│  "환자 증상을 진단하고     │
│   치료 계획을 수립하라"    │
└────────┬────────────────────┘
         ↓
┌─────────────────────────────┐
│  지식 (Knowledge)            │
│  - 온톨로지 (의료 도메인)    │
│  - 벡터 임베딩 (의료 개념)   │
│  - 규칙 & 휴리스틱           │
└────────┬────────────────────┘
         ↓
┌─────────────────────────────┐
│  도구 (Tools)                │
│  - 진단 검사 실행            │
│  - 의료 데이터베이스 조회    │
│  - 치료 지침 검색            │
└────────┬────────────────────┘
         ↓
┌─────────────────────────────┐
│  PRAL 루프                   │
│  Perception → Reasoning →   │
│  Action → Learning          │
└────────┬────────────────────┘
         ↓
    [의료 진단 결과]

에이전트의 자율성 수준

레벨 1: 반응형 (Reactive)

규칙: IF 증상 THEN 검사
예: 발열 감지 → 즉시 온도계로 측정
장점: 빠름, 구현 쉬움
단점: 유연성 없음, 새 상황 대응 불가

레벨 2: 계획형 (Deliberative)

계획: 목표 → 여러 액션 계획 → 우선순위 결정
예: 진단 → 여러 검사 중 최적 선택 → 순서대로 실행
장점: 유연함, 복잡한 상황 처리
단점: 느림, LLM 의존도 높음

레벨 3: 적응형 (Adaptive)

학습: 경험 → 지식 갱신 → 전략 개선
예: 100건의 진단 → 성공/실패 분석 → 다음 진단 개선
장점: 자동 개선, 새로운 도메인 적응 빠름
단점: 복잡, 비용 높음, 예측 불가능성

온톨로지와 자율 에이전트

온톨로지의 역할:

1. 지식 구조화
   └─ 에이전트의 추론 공간 정의
   
2. 제약 설정
   └─ "이 에이전트는 이런 경우만 행동하라"
   
3. 신뢰도 증진
   └─ 에이전트의 결정을 해석 가능하게 함
   
4. 학습 방향 설정
   └─ 피드백이 어디로 반영될지 정의

실무 예시

의료 진단 에이전트

목표: 환자 증상 → 질병 진단 → 치료 계획

온톨로지: 질병, 증상, 검사, 약물의 관계
도구: 의료 DB, 검사 명령, 약물 추천 시스템

PRAL 루프:
  증상 입력 (Perception)
  → 가능한 질병 추론 (Reasoning)
  → 검사 실행 (Action)
  → 결과로 진단 확정 및 치료 (Learning)

고객 지원 에이전트

목표: 고객 문제 → 자동 해결 또는 담당자 연결

온톨로지: 문제 분류, 해결 절차, 우선순위
도구: FAQ DB, 결제 시스템, 티켓팅

PRAL 루프:
  문제 인식 (Perception)
  → 문제 분류 및 해결법 검색 (Reasoning)
  → 해결책 제시 (Action)
  → 고객 만족도 피드백 (Learning)

안전성과 제약

LLM 기반 에이전트의 위험:

위험 시나리오:
  "환자에게 검증되지 않은 치료법 추천"
  
제약 메커니즘:
  1. 온톨로지 기반 화이트리스트 (승인된 약물만)
  2. HITL (Human-In-The-Loop): 중요 결정은 사람 승인
  3. Ejection: 불안정 상황에서 에이전트 중단

관련 개념

관련 영상: Fundamentals of Building Autonomous LLM Agents (Video 4)

그래프 뷰

백링크