인프라/배포입문
Context Window
컨텍스트 윈도우 · Context Window
LLM이 한 번에 처리할 수 있는 최대 토큰 수
상세 설명
Context Window (컨텍스트 윈도우)
LLM이 한 번의 대화에서 고려할 수 있는 정보의 양을 결정합니다.
모델별 비교
- GPT-4: 128K 토큰
- Claude: 200K 토큰
- Gemini: 1M+ 토큰
중요성
- 긴 문서 처리 가능 여부
- 대화 기록 유지 범위
- RAG 효율성에 영향
태그
#LLM#토큰#성능