-Поиск по дневнику

Поиск сообщений в rss_forum_sources_ru

 -Подписка по e-mail

 

 -Постоянные читатели

 -Статистика

Статистика LiveInternet.ru: показано количество хитов и посетителей
Создан: 29.07.2007
Записей:
Комментариев:
Написано: 80


Разница в вычислениях при использовании х86 и 64х

Суббота, 13 Февраля 2021 г. 17:54 + в цитатник
Lem0nti: Поэкспериментировал с Round и Trunc и всё стало на свои места...
Если подробно, возможный теоретический худший вариант, когда все компоненты при расчётах являются приближениями:
99.(9)/19999.(9)*1525.(9)*99.(9) = 762.(9)
Trunc и Round тут предсказуемо дадут разный результат. Но по хорошему, скорей всего, приближением представляется только тот результат расчётов, который без явной типизации.

Спасибо за подсказку, пошёл правильно исправлять :).

https://forum.sources.ru/index.php?showtopic=421187&view=findpost&p=3844723

Метки:  

 

Добавить комментарий:
Текст комментария: смайлики

Проверка орфографии: (найти ошибки)

Прикрепить картинку:

 Переводить URL в ссылку
 Подписаться на комментарии
 Подписать картинку