순환 신경망 (Recurrent Neural Network, RNN)

<aside>

순환 신경망(RNN)은 순차적 데이터를 처리하기 위해 설계된 인공 신경망의 한 종류 기존의 일반 신경망과 달리 RNN은 '메모리'를 가지고 있어 이전 정보를 기억하고 현재 처리에 활용할 수 있다

</aside>

RNN의 특징: 순환적 구조

RNN의 가장 큰 특징은 '순환적 구조'입니다.

• 이전 시점의 정보를 현재 시점에 전달할 수 있다
• 시퀀스(순차) 데이터에서 문맥을 파악할 수 있다
• 가변 길이의 입력과 출력을 처리할 수 있다

<aside>

🌟일반 신경망과 순환 신경망의 차이점🌟

✅ 일반 신경망 (FNN) ✅

• 입력과 출력이 독립적
• 고정된 크기의 입력만 처리 가능
• 이전 입력에 대한 "기억"이 없음
• 순차 데이터 처리에 한계가 있음

✅ 순환 신경망 (RNN) ✅

• 이전 계산 결과가 현재 계산에 영향을 미침
• 가변 길이의 시퀀스 데이터 처리 가능
• 내부 상태(hidden state)를 통해 "기억" 유지
• 문맥을 고려한 처리 가능 </aside>

RNN이 대화형 인공지능(챗봇)에 사용되는 이유

대화는 본질적으로 순차적 데이터, 대화의 맥락을 이해하려면 이전 대화 내용을 기억하고 이를 바탕으로 현재 입력을 해석해야 한다

• 문맥 유지: RNN은 대화의 흐름을 기억하여 맥락에 맞는 응답 생성 가능
• 시간적 의존성 처리: 이전 대화가 현재와 미래 대화에 영향을 미치는 특성 반영
• 가변 길이 처리: 다양한 길이의 문장과 대화를 자연스럽게 처리

<aside>

✅ RNN의 장점 ✅

한 단어만 바뀌어도 문장의 의미가 완전히 달라질 수 있는 자연어의 특성을 반영할 수 있습니다. 예를 들어 "나는 그것이 좋아"와 "나는 그것이 싫어"는 한 단어만 다르지만 의미는 정반대입니다. RNN은 이런 미묘한

</aside>

RNN의 구조와 작동 원리

RNN은 입력 층, 은닉 층, 출력 층으로 구성되어 있으며, 은닉 층에서 순환(recurrent) 연결이 발생

• 예시 코드

RNN의 변형 모델

기본 RNN은 장기 의존성 문제(vanishing gradient problem)가 있어, 이를 해결하기 위한 다양한 변형 모델이 개발 되었다

• LSTM (Long Short-Term Memory)

  장기 기억과 단기 기억을 모두 관리할 수 있는 게이트 메커니즘을 가진 RNN의 변형입니다. 셀 상태, 입력 게이트, 망각 게이트, 출력 게이트를 통해 정보를 선택적으로 저장하고 전달