LLM (대규모 언어 모델)
LLM의 주요 특징
- 광범위한 데이터 학슴
- 다양한 작업 수행 가능
- 질문에 답변 제공, 문서 요약 및 번역, 창의적인 글쓰기 프로그래밍 코드 생성
- 콘텍스트(Context) 이해
- 단순한 언어 연결이 아니라, 문장과 문맥을 고려해 더 자연스럽고 유의미한 응답을 생성한다.
콘텍스트란 무엇인가요?
- 사람과 사람이 대화를 나눌 때를 생각해보면, 언제나 특정 문맥적인 상황을 기반으로 이야기하듯이 사람과 봇 사이에서도 대화를 나눌 때 이와 유사하게 문맥적 상황 공유를 할 수 있습니다.
- 챗 봇 관리자센터안에서는 바로 콘텍스트 라는 기능을 통해서 봇 작업자가, 블록 안에서 직접 해당 컨텍스트를 정의하고 블록간 연결 및 관리를 수행할 수 있습니다.
- 콘텍스트가 잘 정의되어 있다면, 봇은 사용자에게 보다 똑똑하고 매끄러운 대화를 경험할 수 있게 해줍니다.
- 콘텍스트는 상황을 말하며, 네트워크로 인해 방대한 정보 네트워크에서 유용한 서비스 및 정보 검색을 위해 필요한 ‘상황정보’ 또는 ‘정보의 정보’라고 표현횐다.
- 사전적 의미로 콘텍스트는 상황, 맥락, 문맥상의 의미이며, 텍스트와 같은 단순 정보에 의한 해석이 아닌, 곧바로 인지되는 특정 상황을 말한다.
- 컴퓨팅…
LLM동작 원리
- 입력된 문장을 받으면 이를 벡터로 변환한다.
- 학습된 매개변수를 활용해 입력된 문장의 다음 언어를 예측한다.
- 수백만개…