목록고정 소수점 (1)

EveryDay.DevUp

[Unity] 컴퓨터의 수 표현 ( 정수, 실수 [ 고정 소수점, 부동 소수점 ] )

컴퓨터에서 처리하는 수의 표현을 알지 못하면, 실무에서 의도치 않은 실수를 할 때가 있다. 가령 공격력을 계산할 때 여러가지 float의 합과 곱으로 처리할 경우 실제 의도했던 결과 값과 다른 값을 받을 수도 있으며, if 문으로 실수 비교를 할때 true 일 것이라고 생각했던 값이 false로 나오는 경우도 있다. private void Start() { float testValue = 0.0f; for( int i = 0; i < 10; i++ ) { testValue += 0.3f; } Debug.Log( "result float: " + testValue ); Debug.Log( "result double: " + (double)testValue ); Debug.Log( "result int: "..
R&D 2020. 5. 29. 22:05
이전 Prev 1 Next 다음