1. 프로젝스 개요
- 프로젝트명 : 실시간 주식 알림 시스템 구축
- 도입 배경 :
- 주식 시장은 실시간으로 변화하며 단기간에도 대량의 정보 발생
- 기존 증권사 앱의 알림 기능은 한정적이며 장기 데이터 분석 어려움
- 프로젝트 목표
- 실시간 데이터 수집 및 조건 기반 알림 시스템 구축
- 사용자가 원하는 종목과 조건에 맞는 알림과 일일 보고서 제공, 효율적 투자 의사결정 지원
2. 목표 및 KPI
-
목표
- 선정한 종목의 가격 데이터를 실시간 수집하여 가격 변동에 따른 알림 발송 프로세스 구축
- 일별 데이터를 분석하여 지정 시간에 일일 리포트를 자동 발송
- 수집한 데이터 축적하여 장기 분석에 활용
-
KPI
| 지표명 |
측정 기준 |
목표 |
| 데이터 수집 안정성 |
누락 데이터 비율 |
99% 이상 수집 |
| 알림 전달 성공률 |
조건 충족 시 알림 발송 비율 |
99% 이상 발송 |
| 알림 정확도 |
잘못된 알림 비율 |
1% 미만 발송 |
| 보고서 자동화 |
일일 보고서 자동 발송 여부 |
지정 시간에 발송 |
| 보고서 데이터 완전성 |
포함 종목 및 지표 누락 여부 |
누락 없음 |
| 장기 데이터 축적 |
수집된 모든 데이터 보관 여부 |
99% 이상 보관 |
3. 아키텍쳐
- 작업 흐름
- 데이터는 Yahoo Finance API → Kafka → Spark/DB → Slack 알림으로 흐르며, Airflow가 전체 파이프라인의 스케줄링을 관리한다.
-
- 데이터 수집기
-
- Kafka Consumer와 가격 알림 처리기
-
- 알림 모듈 구현
-
- Apache Spark 배치 처리기
-
- Airflow 워크 플로우 구현
- 구조도
4. 구현 내용
-
- 데이터 수집기
-
- 가격 알림 처리기
-
- 배치 분석기
-
- 워크플로우 오케스트레이션
- 사용 기술 요약 표
5. 성과 및 개선점