인프라/배포입문
Context Window
컨텍스트 윈도우 · Context Window
LLM이 한 번에 처리할 수 있는 최대 토큰 수
#LLM#토큰#성능
AI 관련 용어를 쉽게 이해할 수 있도록 정리했습니다.
컨텍스트 윈도우 · Context Window
LLM이 한 번에 처리할 수 있는 최대 토큰 수
대조 학습 · Contrastive Learning
유사한 데이터는 가까이, 다른 데이터는 멀리 배치하도록 학습하는 자기지도학습 기법
코파일럿 · Copilot
AI가 사용자의 작업을 돕는 조수 역할을 하는 도구
교차 검증 · Cross-validation
데이터를 여러 부분으로 나누어 모델의 일반화 성능을 평가하는 방법
직접 선호도 최적화 · Direct Preference Optimization
RLHF를 단순화하여 인간 선호도를 직접 반영하는 학습 방법
데이터 증강 · Data Augmentation
기존 데이터를 변형하여 학습 데이터의 양과 다양성을 인위적으로 늘리는 기법
데이터셋 · Dataset
AI 모델을 학습시키거나 평가하기 위해 구조화된 데이터의 집합
딥러닝 · Deep Learning
여러 층의 신경망을 사용해 데이터에서 복잡한 패턴을 자동으로 학습하는 머신러닝의 하위 분야
딥페이크 · Deepfake
딥러닝을 이용해 사람의 얼굴, 음성 등을 합성하거나 조작하는 기술
확산 모델 · Diffusion Model
노이즈에서 시작해 점진적으로 깨끗한 데이터를 생성하는 모델
지식 증류 · Knowledge Distillation
큰 모델의 지식을 작은 모델로 전이해 성능을 유지하면서 크기를 줄이는 기법
드롭아웃 · Dropout
학습 중 신경망의 일부 뉴런을 무작위로 비활성화하여 과적합을 방지하는 정규화 기법