[2026.01.01] 업데이트

• 사용 예정 모델 : mistralai/Mistral-7B-Instruct-v0.3

  • ministral-8B-Instruct-2410을 사용하려 했으나, 라이선스 문제로 7B로 변경.
  • 라이선스
    • 8B = mrl(개인 연구 및 테스트 용, 상업용 X)
    • 7B = Apache-2.0(라이선스 고지 필수, 출처 표시)
  • 양자화
    • 고려 중
    • 양자화란? = AI 모델을 “가볍게 압축해서” 쓰는 방법, 경량화
    • 성능은 거의 그대로, 메모리 및 비용은 크게 감소
    • 방법은 어렵지 않다고 한다. 다만, 처음 시도해보는 것이라 테스트 필요.
  • 1월 3~4일 모델 테스트 예정.

• 할 일 정리

  • [x] 모델 확정(Mistral-7B-Instruct-v0.3)
  • [ ] 모델 받기(Hugging Face에서 모델 다운로드)
  • [ ] 양자화해서 모델 띄우기(라이브러리 설치, 8bit 양자화 옵션으로 모델 로딩)
  • [ ] 뉴스 데이터 준비(뉴스 크롤링 파이프라인 구축 전, 자체 데이터 준비 및 사용하여 모델 테스트)
  • [ ] 요약 프롬프트 만들기(사실 위주, 몇 줄로 요약할 것인지, 의견 및 추측 금지)
  • [ ] 요약 실행(뉴스 → 모델 → 결과)
  • [ ] 테스트 결과 정리(결과 괜찮을 시 플랫폼 적용 과정 정리)

[2025.초안]

[ 뉴스 요약 모델 선정 ] ✔ 사용 기술 LLM 기반 생성 요약

✔ LLM 후보 GPT 계열 요약 품질 우수 외부 API 의존, 비용 부담

LLaMA 계열 범용 성능 안정적 GPU 요구 높음

Mistral 계열 (오픈소스) 경량·고속 내부 서버 배포 가능

✔ 최종 선택 Mistral 계열 LLM

✔ 선택 이유 / 특징 AWS GPU 환경에 내부 배포 가능 뉴스 원문 외부 전송 없음 추론 속도 빠름 비용 효율적 뉴스 요약 품질 충분히 확보