Difference between revisions of "Chat:Ru/2021-11-13"
Jump to navigation
Jump to search
(Created page with "<img src=/a/54307689925450> Bezukh: Коллеги, привет <img src=/a/54307689925450> Bezukh: Подскажите, пожалуйста, как в этом случа...") |
(No difference)
|
Latest revision as of 05:29, 14 November 2021
Bezukh: Коллеги, привет
Bezukh: Подскажите, пожалуйста, как в этом случае ведёт себя машинное слово в переменной типа float: https://imgur.com/a/Oc4VwhM
Bezukh: Речь о строке, где происходит -0.0625f / 9.9999990510468705906532704830169677734375e-09f
Bezukh: Почему оно превращается в -6250000.5
Uljahn: потому что делишь на очень маленькое число, e-09f означает *10**(-9)
Uljahn: или я вопрос не понимаю
Uljahn: проверил в калькуляторе - примерно так и получается
Bezukh: Спасибо, старый друг, совсем не обратил внимания на знак минус! :innocent:
Bezukh: Думал, что делю на ~10 * 10^9