Куда уходит.. куда, сука, девается, а?!

+ в цитатник

Cообщение скрыто для удобства комментирования.
Прочитать сообщение

Комментировать

« Пред. запись — К дневнику — След. запись »

Страницы: [1] [Новые]

nepal обратиться по имени Четверг, 01 Мая 2014 г. 18:17 (ссылка)

-"терять сотую, даже не стотысячную - это бесит!!"
-"вместо красивых 37.8 какие-то уёбищные 37.79?"

не понял, не округляется и результат 37.7?

зы: на чем програмишь?

Ответить С цитатой В цитатник

Четверг, 01 Мая 2014 г. 20:05ссылка

XoID

Да там вообще пиздец и ад. Передаешь в функцию 37.8, а функция получает 37.79. Соответственно, там тоже может произойти пиздец и ад. И выходит тупо: я через функцию от 37.9 отнимаю 0.1, мне возвращается 37.79. Еще раз отнимаю, может приползти 37.68... Ну это жеж пиздец.

Я хуй его знаю на чем )) не в курсе как эта байда называется. Для arduino язык какой-то.

Ответить С цитатой В цитатник Обратиться по имени

nepal обратиться по имени Четверг, 01 Мая 2014 г. 21:59 (ссылка)

ну как то все туманно... мало "входных данных"...
функцию сам писал, или "встроенная? и каков диапазон допустимых для передачи ей значений?
я к тому что, косяки идут только с дробной частью? при работе с целыми косяков нет? значения со знаком, или нет?

Ответить С цитатой В цитатник

Четверг, 01 Мая 2014 г. 22:09ссылка

XoID

я ценю твои переживания, но, поверь, это не мои косяки ))
Вот, к примеру, конструкция типа:
byte INTT = byte(T_Mtemp);
byte DECI = (T_Mtemp-INTT)*100;
при T_MTemp (тип float) =37.8 выдает:
INTT = 37
DECI= 79

Не в курсе за твой опыт, но я еще в СССР успел программером поработать, так что шарю малость ))

Буду колдовать с конвертацией типов и проверкой всякой.

Ответить С цитатой В цитатник Обратиться по имени

nepal обратиться по имени Четверг, 01 Мая 2014 г. 22:20 (ссылка)

Да я как бы не сильно переживаю, просто стало интересно..))
рою инет на предмет возможностей языка. когда то давно ассемблерил.
зы: что в твоем коде выполняет ф-ция byte(T_Mtemp)?
и какова размерность самой переменной T_Mtemp?

Ответить С цитатой В цитатник

Четверг, 01 Мая 2014 г. 22:30ссылка

XoID

"Floating-point numbers can be as large as 3.4028235E+38 and as low as -3.4028235E+38. "
Функция byte(A) тупо переводит в тип байт 0..255. Это стандартная фигня. Грубо говоря, берет целую часть. С этим нормально. А вот потом, из флоат типа вычитается верно полученная целая часть, остаток множится на 100 и преобразуется опять же в целое. И.. Вуаля.. Целое меньше на 1. Т.е. потерялась изначально 0.01. Куда - ниибу.

Ответить С цитатой В цитатник Обратиться по имени

Четверг, 01 Мая 2014 г. 22:34ссылка

XoID

объясню нахуя я это делаю. Память у контроллера хавает только тип Байт. Всего 512 адресов. Следовательно, что бы залупить в память (физическую) дробное число, мне надо сделать из него 2 целых, состоящих из целой части и дробной части.

Сейчас у меня получается: выставляешь температуру инкубации, нажимаешь сохранить настройки (на случай обесточивания и последующей активации), и.. вуа ля.. у меня настройки на 1 сотую в минусе. Если повезет.
Не смертельно, но очень некрасиво )) Датчики один хуй по десятым пашут. Но, эстетики нет..
Да и всякие условия уже будут тупить. Там много чего завязано на эту переменную.

Ответить С цитатой В цитатник Обратиться по имени

nepal обратиться по имени Четверг, 01 Мая 2014 г. 22:59 (ссылка)

По ходу дела твое ворчание на тип флоат оправдано:
"Примечание: Числа с плавающей точкой не точные, и могут выдавать странные результаты при сравнении. Вычисления с плавающей точкой медленнее, чем вычисления целых при выполнении расчтов, так что, без нужды, их следует избегать"
http://malmon.ru/radioehlektronika/skhemy-robotov/...duino-granicy-peremennykh.html

А если самому отслеживать целую и дробную часть в 2-х целых_байтовых переменных?
Понятно, что муторнее, но... кстати и код может отказаться меньше.

Ответить С цитатой В цитатник

LiveInternetLiveInternet

-Рубрики

-Метки

-Подписка по e-mail

-Поиск по дневнику

-Статистика

Куда уходит.. куда, сука, девается, а?!