🧩 CIFAR-100 Long-Tail Classification Project

🎯 연구 주제

• 과제 요구사항: CIFAR-100을 long-tail 분포로 변형한 데이터셋에서 분류 모델 설계 및 성능 개선

• 내 접근법:

  👉 Superclass 단위로 feature space를 클러스터링하고

  👉 LDAM Loss로 margin을 조정하여

  👉 Head ~ Tail 전체 100개 클래스의 균형 성능 향상을 달성

🔑 핵심 아이디어

1️⃣ Hierarchical Representation Learning

• CIFAR-100의 100개 클래스를 20개 Superclass로 묶음
• Stage 1: L_class + α·L_superclass 손실로 학습
• 효과: 의미적으로 구조화된 feature 공간 → Tail 클래스도 head와 함께 학습되어 representation robustness 확보

2️⃣ Classifier Re-training with LDAM

• Stage 2: backbone freeze 후 classifier만 재학습
• 클래스 균형 리샘플링 + LDAM Loss 적용
• 효과:

  • Head 클래스 → tighter boundary

  • Tail 클래스 → looser boundary

    → Superclass 내부 세부 클래스 간 margin 확보, Tail 변별력 강화

🧪 실험 결과

✅ Tail 클래스 정확도를 36.6% → 70.3% (2배 향상)

✅ Head 성능도 유지하면서 전체 Acc. 75%+ 달성