Поддержка
Вид
LiveInternet
LiveInternet
Аватар
сменить
x
Друзья
В дневник
Написать
Комментарии
ЛС
Настройки
Регистрация
Вход
Рейтинги
Авось
из (+ сутки) дневников
Записи
Друзья
Комментарии
rss forum sources ru
rss forum sources ru
Аватар rss_forum_sources_ru
-
Поиск по дневнику
в этом дневнике
-
Подписка по e-mail
-
Постоянные читатели
Все (3)
YalanLife
livemask2
spiegel1
-
Статистика
Создан: 29.07.2007
Записей:
Комментариев:
Написано: 80
Отчеты:
Посетители
Поисковые фразы
Разница в вычислениях при использовании х86 и 64х
Суббота, 13 Февраля 2021 г. 17:15
+ в цитатник
MBo: >на каждом шаге вычислений всегда получается рациональное число.
Вещественные точно представляют только некоторые рациональные числа
>если бы Float или Extended не мог точно хранить число 0.005
Дык не может...
https://www.h-schmidt.net/FloatConverter/IEEE754.html
Value actually stored in float: 0.004999999888241291046142578125
В данном случае поможет Round вместо Trunc (если логика подходит)
Вот почитать:
http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374
https://docs.oracle.com/cd/E19957-01/806-35...g_goldberg.html
https://forum.sources.ru/index.php?showtopic=421187&view=findpost&p=3844722
Метки:
Delphi:
Общие вопросы
Нравится
Поделиться
0
Нравится
Запись понравилась
0
Процитировали
0
Сохранили
0
Добавить в цитатник
0
Сохранить в ссылки
Понравилось
0
<a href="https://www.liveinternet.ru/users/rss_forum_sources_ru/post480853574/">Разница в вычислениях при использовании х86 и 64х</a><br/>MBo: >на каждом шаге вычислений всегда получается рациональное число. Вещественные точно представляют только некоторые рациональные числа >если бы Float или Extended не мог точно хранить число 0.005 Дык не может... https://www.h-schmidt.net/FloatConverter/IEEE754.html Value actually stored in float: 0.004999999888241291046142578125 В данном случае поможет Round вместо Trunc (если логика подходит) Вот почитать: http://www.delphikingdom.com/asp/viewitem.asp?catalogid=374 https://docs.oracle.com/cd/E19957-01/806-35...g_goldberg.html https://forum.sources.ru/index.php?showtopic=421187&view=... <a href="https://www.liveinternet.ru/users/rss_forum_sources_ru/post480853574/">Читать далее...</a>
Комментировать
« Пред. запись
—
К дневнику
—
След. запись »
Страницы:
[1] [
Новые
]
Добавить комментарий:
Текст комментария:
смайлики
Проверка орфографии: (найти ошибки)
Прикрепить картинку:
Переводить URL в ссылку
Подписаться на комментарии
Подписать картинку
LiveInternet
О проекте
Версия для PDA
Контакты
Разместить рекламу
Сменить
Логин
Пароль
Выйти