Ошибка в вычислениях с плавающей точкой

Простейшие вопросы в области инженерной разработки
Ответить
Nikol
beginner
beginner
Сообщения: 42
Зарегистрирован: 02 ноя 2016, 16:40
Версия LabVIEW: 15
Контактная информация:

Ошибка в вычислениях с плавающей точкой

Сообщение Nikol »

Объясните поподробнее(на сколько возможно) пожалуйста с чем связана неточность вычислений при работе с плавающей точкой, на выходе программы должно быть 10,01 а на самом деле 10,09999999983 есть предположение что это связано с преобразованием данных, как итог в голове полная неразбериха. Подскажите, если не трудно
Вложения
Программа
Программа
Аватара пользователя
dadreamer

Activity Professionalism Автор
professor
professor
Сообщения: 3926
Зарегистрирован: 17 фев 2013, 16:33
Награды: 4
Версия LabVIEW: 2.5 — 2022
Благодарил (а): 11 раз
Поблагодарили: 126 раз
Контактная информация:

Re: Ошибка в вычислениях с плавающей точкой

Сообщение dadreamer »

Ответить
  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение

Вернуться в «Для чайников»