Помощь - Поиск - Пользователи - Календарь
Полная версия: Погрешность типа Float
Форум «Всё о Паскале» > Pascal, Object Pascal > Теоретические вопросы
X.XaM_MaX.X
Я делаю калькулятор, но в моём распоряжение только тип float(real использовать нет возможности) и я заметил что в некоторых случаях у него появляется погрешность типа такого:
h1 and h2 - float
h1=2.38
h2=32
h1+h2=34.380001
Как мне избегать эту погрешность? unsure.gif
volvo
Типа Float в Паскале нет... Или ты что-то недоговариваешь, или ошибся разделом...
X.XaM_MaX.X
Блин ошибся mega_chok.gif Я был уверен что он там есть wacko.gif Я вообще на другом я языке пишу, но когда у меня чего-то не получается начинаю сначала писать на паскале вот и спросил, а надо было сначало проверить если там такой тип (простите меня дурака) =( А вообще здесь мне с этим типом помогут где-нибудь? В какой раздел мне идти?
Malice
Не float а single может быть? А вообще - никак. Т.к. для калькулятора особо скорость не нужна, сделай лучше числа в строках, и допиши функции для +-*/. Тогда в твоем распоряжении будет 255 знаков, огромная точность, почти никаких потерь.
X.XaM_MaX.X
Ээ..перегонять их в строки потом перегонять в float(single) считать и опять перегонять в строки? Нет я точно чего-то не понял ( Можно по подробней...если не сложно...
Malice
Не надо перегонять. Хранить числа в строках. Операции производить тоже со строками. Немножго геморойно по началу, но зато какая точность ! smile.gif
X.XaM_MaX.X
Значит надо самому процедуры писать свои для этого?
arhimag
смотри у тебя длина первого хвоста дроби 2 у второго 1 тогда выведи все с точностью до 2ого символа

Добавлено:
или проблема в чем-то другом?
также можно и с результатом, обрезаем дробь до максималоьной длины хвоста и заново присваиваем
для этого придется написать процедуру перевода строки в реал
klem4
Цитата
придется написать процедуру перевода строки в реал


Str уже не устраивает ?
Это текстовая версия — только основной контент. Для просмотра полной версии этой страницы, пожалуйста, нажмите сюда.