1. LLM 대화형 코칭 학습관리 시스템

한 줄 요약: ChatGPT와 같은 대화형 AI를 통해 개인화된 학습 경험을 제공하고, 학습 과정을 관리하는 시스템

구분 기술 역할
백엔드 JAVA REST API, 사용자 인증, 데이터 관리
LLM 연동 LangChain, OpenAI SDK 프롬프트 엔지니어링, LLM API 호출, 응답 스트리밍
데이터베이스 Redis, MongoDB 사용자 정보, 학습 데이터, 대화 캐싱
인프라 AWS EC2, Nginx 서버 배포 및 관리
프론트엔드 React 채팅 UI, 학습 대시보드

주 기능:

  1. 사용자의 질문에 맞춰 LLM이 답변하고, 학습 수준에 맞는 추가 질문이나 자료를 제공
  2. 사용자의 학습 내용, 대화 기록, 성취도 등을 데이터베이스에 저장하고 시각화
  3. AI와 사용자가 대화하는 채팅 인터페이스를 구축

생각

생성형 AI 이용이 장점이라고 생각합니다. 하지만 AI API를 이용한 경험이 없으며 API 비용도 꽤 나간다. 또한 성능은 프롬프트의 품질에 크게 좌우하는데 프롬프트의 작성법도 숙지해야한다. 만들어도 LLM의 성능이 제대로 구현이 될지 모르겠다.(AI 할루시, 메모리 기억 문제)

요약: AI 성능이 좀 더 좋아지면 괜찮을 거 같다? 상관 없다면 API만 잘 구현하면 될 거 같다

2. 생성형 AI 글로벌 쇼핑몰 및 고객센터 구축

한 줄 요약: 다국어를 지원하는 글로벌 쇼핑몰에 AI 챗봇을 도입하여 상품 추천 및 고객 문의를 자동화하는 시스템

구분 기술 역할
백엔드 Java (Spring Boot) 안정적인 대규모 트래픽 처리, MSA 구조
AI 챗봇 Google Dialogflow,
LangChain, ?? 자연어 처리, 다국어 지원, 상담 시나리오 관리
데이터베이스 MySQL 주문, 상품, 고객 데이터 관리
결제 연동 Stripe, PayPal, ?? 글로벌 결제 처리
인프라 AWS EC2, S3, RDS, Nginx 서버, 이미지 저장, 데이터베이스 관리