Chat:Ru/2021-11-13

From CG community
Jump to navigation Jump to search

Bezukh: Коллеги, привет

Bezukh: Подскажите, пожалуйста, как в этом случае ведёт себя машинное слово в переменной типа float: https://imgur.com/a/Oc4VwhM

Bezukh: Речь о строке, где происходит -0.0625f / 9.9999990510468705906532704830169677734375e-09f

Bezukh: Почему оно превращается в -6250000.5

Uljahn: потому что делишь на очень маленькое число, e-09f означает *10**(-9)

Uljahn: или я вопрос не понимаю

Uljahn: проверил в калькуляторе - примерно так и получается

Bezukh: Спасибо, старый друг, совсем не обратил внимания на знак минус! :innocent:

Bezukh: Думал, что делю на ~10 * 10^9