부동소수점의 동일성을 비교해도 괜찮다 | Hacker News
It's OK to compare floating-points for equality | Hacker News
TL;DR AI
1분핵심 요약
Hacker News 댓글에서는 `f64::EPSILON`을 모든 부동소수점 비교의 공통 임계값으로 쓰는 것은 대체로 잘못됐다고 지적했다.
epsilon은 1.0 근처의 간격을 뜻하므로, 값의 크기가 달라지면 잘 맞지 않는다.
정확한 비교에는 정확히 같은지 확인하는 방식을 쓰고, 절대·상대·거리 기반 허용오차는 별도 API로 나눠야 한다는 의견이 나왔다.
이 문제는 assertion 라이브러리와 계산 기하처럼, 규모를 고려한 오차 처리가 중요한 영역에서 특히 중요하다.
같은 주제
