모델/아키텍처중급
RNN
순환 신경망 · Recurrent Neural Network
이전 출력을 다음 입력에 반영하여 순차적 데이터를 처리하는 신경망
관리자|
상세 설명
RNN (순환 신경망)
시간 순서가 있는 데이터를 처리하기 위한 신경망입니다.
원리
이전 단계의 출력(은닉 상태)을 기억해서 다음 단계에 활용
→ "기억력"이 있는 신경망
변형
- LSTM: 장기 의존성 학습 가능 (게이트 메커니즘)
- GRU: LSTM의 간소화 버전
- Bidirectional RNN: 양방향 처리
한계
- 긴 시퀀스에서 기억 소실
- 병렬 처리 불가 (순차적)
현재
Transformer에 의해 대부분 대체되었지만, 실시간 처리 등 일부 영역에서 여전히 사용
태그
#시퀀스#딥러닝#NLP