Intro

<aside> 🔥

컴퓨터 내에서 real world의 소수를 표현하는 방법에 대해서 알아봅니다. (2025년 7월 18일)

</aside>

실제 세상에서의 소수점은 10진법입니다. 반대로 컴퓨터는 2진법 입니다. 이로 인해서 overflow 문제가 발생하기도 합니다.

딥러닝에서는 이러한 소수점에 모든 정보가 담겨져 있기 때문에 overflow 현상을 딥러닝에서 성능 저하를 가져옵니다. 반대로 정보를 없앰으로써 모델을 가볍게 만들기도 합니다. 이러한 양자화(quantization) 개념을 이해하기 위해서는 소수점에 대한 개념을 이해해야 하기 때문에 알아봅시다!

Body

Conclusion

소수점 표현은 매우 중요하기 때문에 꼭 알아갑시다.


⬅️ 이전 페이지

허깅페이스 잘 사용하기

➡️ 다음 페이지

모델 추론 메모리 측정하기

Reference

https://devocean.sk.com/blog/techBoardDetail.do?ID=165270

<aside>

Topics

왜 Chat-gpt는 재현이 안될까?

Gemini API 사용법

허깅페이스 잘 사용하기

컴퓨터의 소수점 표현

모델 추론 메모리 측정하기

성능과 추론 time

GPU 효율적인 학습

프롬프트 엔지니어링

AI 스쿼드 팀 만들기

</aside>