<aside> 🔥
컴퓨터 내에서 real world의 소수를 표현하는 방법에 대해서 알아봅니다. (2025년 7월 18일)
</aside>
실제 세상에서의 소수점은 10진법입니다. 반대로 컴퓨터는 2진법 입니다. 이로 인해서 overflow 문제가 발생하기도 합니다.
딥러닝에서는 이러한 소수점에 모든 정보가 담겨져 있기 때문에 overflow 현상을 딥러닝에서 성능 저하를 가져옵니다. 반대로 정보를 없앰으로써 모델을 가볍게 만들기도 합니다. 이러한 양자화(quantization) 개념을 이해하기 위해서는 소수점에 대한 개념을 이해해야 하기 때문에 알아봅시다!
소수점 표현은 매우 중요하기 때문에 꼭 알아갑시다.
⬅️ 이전 페이지
➡️ 다음 페이지
https://devocean.sk.com/blog/techBoardDetail.do?ID=165270
<aside>
</aside>