Few-shot Learning
정의
**Few-shot Learning (소량 샘플 학습)**은 매우 적은 수의 예제(보통 2~10개)만으로 LLM이 새로운 작업을 수행하도록 학습하는 기법입니다.
대비: 학습 패러다임
| 패러다임 | 샘플 수 | 학습 시간 | 비용 | 정확도 |
|---|---|---|---|---|
| Zero-shot | 0 | 즉시 | 무료 | 낮음 |
| Few-shot | 2~10 | 즉시 | 무료 (인컨텍스트) | 중상 |
| Fine-tuning | 1000+ | 수시간 | 고비용 | 높음 |
Few-shot Learning의 구조
프롬프트 =
[전체 지시문]
+
[예제 1: 입력 → 출력]
+
[예제 2: 입력 → 출력]
+
[예제 3: 입력 → 출력]
+
[실제 입력]
예시: 감정 분석
지시문: “다음 텍스트의 감정을 분석하세요. 결과는 긍정/부정/중립으로 분류하세요.”
예제 1: “이 영화는 정말 훌륭했어요!” → 긍정 예제 2: “너무 지루한 책이었다.” → 부정 예제 3: “그냥 평범한 날씨네요.” → 중립
실제 입력: “이 제품은 기대했던 것보다 나았어요.” LLM 출력: 긍정
온톨로지 생성에서의 Few-shot Learning
Video 2의 핵심 활용:
지시문: "다음 의료 텍스트로부터 온톨로지 구조를 JSON으로 추출하세요"
예제 1:
입력: "환자 Alice는 2023년 1월에 고혈압으로 진료받았습니다."
출력: {
"classes": [
{"name": "Patient", "attributes": ["name"]},
{"name": "Diagnosis", "attributes": ["type", "date"]}
],
"relationships": [
{"from": "Patient", "to": "Diagnosis", "type": "HAS"}
]
}
예제 2: [유사한 예제 제시]
실제 입력: "의사 Bob은 Seoul Hospital에서 환자들을 진료합니다."
LLM 출력: [올바른 온톨로지 구조 생성]Few-shot vs. Fine-tuning
| 측면 | Few-shot | Fine-tuning |
|---|---|---|
| 준비 시간 | 수분 | 수시간 |
| 비용 | 저 | 고 |
| 정확도 | 중상 (70~80%) | 높음 (90%+) |
| 유연성 | 높음 (즉시 변경) | 낮음 (재학습 필요) |
| 사용 시점 | 빠른 프로토타입 | 프로덕션 시스템 |
관련 개념
- Prompt Engineering — Few-shot 프롬프트 설계
- Generative AI — LLM의 맥락 학습 능력
- Ontology — Few-shot로 자동 생성되는 대상
관련 영상: Ontology Generation using Large Language Models (Video 2)