h1 and h2 - float
h1=2.38
h2=32
h1+h2=34.380001
Как мне избегать эту погрешность?

Сообщение отредактировано: X.XaM_MaX.X -
1. Заголовок или название темы должно быть информативным !
2. Все тексты фрагментов программ должны помещаться в теги [code] ... [/code] или [code=pas] ... [/code].
3. Прежде чем задавать вопрос, см. "FAQ" и используйте ПОИСК !
4. НЕ используйте форум для личного общения!
5. Самое главное - это раздел теоретический, т.е. никаких задач и программ (за исключением небольших фрагментов) - для этого есть отдельный раздел!
![]() ![]() |
![]() |
X.XaM_MaX.X |
![]() ![]()
Сообщение
#1
|
Новичок ![]() Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: ![]() ![]() ![]() |
Я делаю калькулятор, но в моём распоряжение только тип float(real использовать нет возможности) и я заметил что в некоторых случаях у него появляется погрешность типа такого:
h1 and h2 - float h1=2.38 h2=32 h1+h2=34.380001 Как мне избегать эту погрешность? ![]() Сообщение отредактировано: X.XaM_MaX.X - |
volvo |
![]()
Сообщение
#2
|
Гость ![]() |
Типа Float в Паскале нет... Или ты что-то недоговариваешь, или ошибся разделом...
|
X.XaM_MaX.X |
![]()
Сообщение
#3
|
Новичок ![]() Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: ![]() ![]() ![]() |
Блин ошибся
![]() ![]() Сообщение отредактировано: X.XaM_MaX.X - |
Malice |
![]()
Сообщение
#4
|
![]() Профи ![]() ![]() ![]() ![]() Группа: Пользователи Сообщений: 705 Пол: Мужской Репутация: ![]() ![]() ![]() |
Не float а single может быть? А вообще - никак. Т.к. для калькулятора особо скорость не нужна, сделай лучше числа в строках, и допиши функции для +-*/. Тогда в твоем распоряжении будет 255 знаков, огромная точность, почти никаких потерь.
|
X.XaM_MaX.X |
![]()
Сообщение
#5
|
Новичок ![]() Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: ![]() ![]() ![]() |
Ээ..перегонять их в строки потом перегонять в float(single) считать и опять перегонять в строки? Нет я точно чего-то не понял ( Можно по подробней...если не сложно...
|
Malice |
![]()
Сообщение
#6
|
![]() Профи ![]() ![]() ![]() ![]() Группа: Пользователи Сообщений: 705 Пол: Мужской Репутация: ![]() ![]() ![]() |
Не надо перегонять. Хранить числа в строках. Операции производить тоже со строками. Немножго геморойно по началу, но зато какая точность !
![]() |
X.XaM_MaX.X |
![]()
Сообщение
#7
|
Новичок ![]() Группа: Пользователи Сообщений: 33 Пол: Мужской Репутация: ![]() ![]() ![]() |
Значит надо самому процедуры писать свои для этого?
|
arhimag |
![]()
Сообщение
#8
|
![]() Знаток ![]() ![]() ![]() ![]() Группа: Пользователи Сообщений: 424 Пол: Мужской Репутация: ![]() ![]() ![]() |
смотри у тебя длина первого хвоста дроби 2 у второго 1 тогда выведи все с точностью до 2ого символа
Добавлено: или проблема в чем-то другом? также можно и с результатом, обрезаем дробь до максималоьной длины хвоста и заново присваиваем для этого придется написать процедуру перевода строки в реал -------------------- Чего хочет женщина – того хочет Бог
|
klem4 |
![]()
Сообщение
#9
|
![]() Perl. Just code it! ![]() ![]() ![]() ![]() ![]() ![]() Группа: Пользователи Сообщений: 4 100 Пол: Мужской Реальное имя: Андрей Репутация: ![]() ![]() ![]() |
Цитата придется написать процедуру перевода строки в реал Str уже не устраивает ? -------------------- perl -e 'print for (map{chr(hex)}("4861707079204E6577205965617221"=~/(.{2})/g)), "\n";'
|
![]() ![]() |
![]() |
Текстовая версия | 1.06.2023 22:46 |