-Поиск по дневнику

Поиск сообщений в rss_forum_sources_ru

 -Подписка по e-mail

 

 -Постоянные читатели

 -Статистика

Статистика LiveInternet.ru: показано количество хитов и посетителей
Создан: 29.07.2007
Записей:
Комментариев:
Написано: 80


Разница в вычислениях при использовании х86 и 64х

Суббота, 13 Февраля 2021 г. 17:15 + в цитатник
MBo: >на каждом шаге вычислений всегда получается рациональное число.
Вещественные точно представляют только некоторые рациональные числа

>если бы Float или Extended не мог точно хранить число 0.005
Дык не может...
https://www.h-schmidt.net/FloatConverter/IEEE754.html
Value actually stored in float: 0.004999999888241291046142578125

В данном случае поможет Round вместо Trunc (если логика подходит)

Вот почитать:
http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
https://docs.oracle.com/cd/E19957-01/806-35...g_goldberg.html

https://forum.sources.ru/index.php?showtopic=421187&view=findpost&p=3844722

Метки:  

 

Добавить комментарий:
Текст комментария: смайлики

Проверка орфографии: (найти ошибки)

Прикрепить картинку:

 Переводить URL в ссылку
 Подписаться на комментарии
 Подписать картинку