-Подписка по e-mail

 

 -Поиск по дневнику

Поиск сообщений в Видение

 -Статистика

Статистика LiveInternet.ru: показано количество хитов и посетителей
Создан: 07.04.2004
Записей:
Комментариев:
Написано: 10754


Почему?

+ в цитатник

Cообщение скрыто для удобства комментирования.
Прочитать сообщение


Вера_ХохА   обратиться по имени Понедельник, 23 Апреля 2007 г. 13:59 (ссылка)
получилось -0,14.... а если вместо 3,7 вставить 3,3, то получается вместо нуля 1,15463Е-14......воть
Ответить С цитатой В цитатник
Вера_ХохА   обратиться по имени Понедельник, 23 Апреля 2007 г. 14:00 (ссылка)
упс.....я опечаталась....вместо 0,14 надо читать -0,4
Ответить С цитатой В цитатник
Заметки_и_мысли   обратиться по имени Понедельник, 23 Апреля 2007 г. 14:49 (ссылка)
А там и не ноль получается... а -0,4... посмотри формат ячеек, который выбран...
Ответить С цитатой В цитатник
Видение   обратиться по имени Понедельник, 23 Апреля 2007 г. 15:12 (ссылка)
Это я очепяталась, в A2: 504,0
Ответить С цитатой В цитатник
Ryjiy   обратиться по имени Понедельник, 23 Апреля 2007 г. 15:29 (ссылка)
потомушто бил гейЦ даже не получил высшего образования! мелкомягкий маст дай!
Ответить С цитатой В цитатник
Заметки_и_мысли   обратиться по имени Вторник, 24 Апреля 2007 г. 12:30 (ссылка)
Исходное сообщение Видение
Это я очепяталась, в A2: 504,0


Все равно это стандартная ситуация для любого языка программирования. Число там хранится в экспоненциальном формате, и разница между двумя разными числами может дать 1e-48. Т.е. 1*10^-48. В ячейку же согласно ее формату будет записан 0, т.е. результат ДЛЯ ОТОБРАЖЕНИЯ будет округлен. А хранится реальный. Если изменить формат ячейки, то увидишь, что там на самом деле.
Ответить С цитатой В цитатник
Ryjiy   обратиться по имени Вторник, 24 Апреля 2007 г. 13:25 (ссылка)
замени условие сравниения с нулем на меньше по модулю чем 1е-10
Ответить С цитатой В цитатник
Видение   обратиться по имени Суббота, 28 Апреля 2007 г. 08:15 (ссылка)
Заметки_и_мысли, Ryjiy, все это понятно, но почему при аналогичных условиях с другими числами ноль не минусовой? Что здесь срабатывает не так?
Ответить С цитатой В цитатник
Заметки_и_мысли   обратиться по имени Суббота, 28 Апреля 2007 г. 12:38 (ссылка)
Видение, да не, все получается... по-разному получается :) и в другие клетки можно вбивать... Получится +0 или -0 заранее не сказать :) смотря как он записывает число...
вот другой пример:
506,6
506,0
0,6
Та же формула даст +0, или 2,27596Е-14
а тут получается -1,15463E-14
Ну вот так записываются числа... что поделать :)
Ответить С цитатой В цитатник
Комментировать К дневнику Страницы: [1] [Новые]
 

Добавить комментарий:
Текст комментария: смайлики

Проверка орфографии: (найти ошибки)

Прикрепить картинку:

 Переводить URL в ссылку
 Подписаться на комментарии
 Подписать картинку