LLM 모델 추상화 레이어 (Model Abstraction Layer)
AI 애플리케이션을 특정 LLM 공급자에 종속되지 않도록 설계하는 아키텍처 원칙.
필요성
단일 공급자에 직접 의존하면:
- 요금 정책 변경 시 즉각 영향 (예: 프로그래메틱-크레딧 사태)
- 모델 성능 저하 시 전환 비용 과다
- 공급자의 서비스 정책에 따른 기능 제약
구현 패턴
애플리케이션 코드
↓
[모델 추상화 레이어] ← provider-agnostic interface
↓ ↓
Anthropic OpenAI (+ 기타 공급자)
Claude GPT/Codex
- LiteLLM, LangChain 등 멀티공급자 SDK 활용
- 모델 호출 인터페이스를 내부 추상 클래스로 격리
- 환경변수로 공급자 전환 가능하게 설계