(diff) ← Older revision | Latest revision (diff) | Newer revision → (diff)
Bezukh: Коллеги, привет
Bezukh: Подскажите, пожалуйста, как в этом случае ведёт себя машинное слово в переменной типа float: https://imgur.com/a/Oc4VwhM
Bezukh: Речь о строке, где происходит -0.0625f / 9.9999990510468705906532704830169677734375e-09f
Bezukh: Почему оно превращается в -6250000.5
Uljahn: потому что делишь на очень маленькое число, e-09f означает *10**(-9)
Uljahn: или я вопрос не понимаю
Uljahn: проверил в калькуляторе - примерно так и получается
Bezukh: Спасибо, старый друг, совсем не обратил внимания на знак минус! :innocent:
Bezukh: Думал, что делю на ~10 * 10^9
