Большие числа: точность расчёта
|
|
Вторник, 09 Февраля 2021 г. 08:23
+ в цитатник
BlackSun: Необходимо вычислить 97^4464/98^4464. Чтобы избежать переполнения, делаю так:
Dim Res As Double, iI2 as Integer
Res = 1
For iI2 = 1 To 4464
Res = Res * (97 / 98)
Next
Debug.Print Res
Res = 1
For iI2 = 1 To 4464 / 48 Step 48
Res = Res * (97 ^ 48 / 98 ^ 48)
Next
Debug.Print Res
Результаты сильно разнятся. Где точнее рез-т?
https://forum.sources.ru/index.php?showtopic=421177&view=findpost&p=3844547
Метки:
Visual Basic:
Общие вопросы
-
Запись понравилась
-
0
Процитировали
-
0
Сохранили
-