Точность при чтении чисел из строки

Простейшие вопросы в области инженерной разработки
Ответить
spialv
interested
interested
Сообщения: 7
Зарегистрирован: 12 ноя 2013, 17:07
Версия LabVIEW: 12
Контактная информация:

Точность при чтении чисел из строки

Сообщение spialv »

Здравствуйте, подскажите пожалуйста - в строке есть число, с n цифрами после запятой, при чтении числа инструментами Scan from String и Spreadsheet String to Array цифры после "запятой" отбрасываются (т.е. вместо -1.99 получаем -1). Формат указываю %3.3f - как я понял это значит 3 цифры до и 3 после запятой. в отображении результата также указано 6 цифр после запятой. В чем проблема, что я делаю не так? Заранее спасибо. На всякий случай картинку прикрепил.
Вложения

[Расширение tif было запрещено, вложение больше недоступно.]

alex3f
beginner
beginner
Сообщения: 26
Зарегистрирован: 23 авг 2016, 09:16
Версия LabVIEW: 2016
Контактная информация:

Re: Точность при чтении чисел из строки

Сообщение alex3f »

Вложения
Str2Num.png
Str2Num.png (12.69 КБ) 3334 просмотра
Аватара пользователя
Jakob Brontfeyn

Activity Gold Silver Black
expert
expert
Сообщения: 1729
Зарегистрирован: 28 фев 2008, 11:01
Награды: 6
Благодарил (а): 1 раз
Контактная информация:

Re: Точность при чтении чисел из строки

Сообщение Jakob Brontfeyn »

Дело не в точности, проверьте на любом контроле или индикаторе,
что в Вашей операционной системе является разделителем целой и
дробной части числа,
или измените в текстовой строке, или в настройках операционной системы.
Для разделения в строке лучше применять символ пробела или ТАБ, не
мешайте в кучу точки и запятые. Если делаете на заказ, Вам нужно ввести
систему проверок и перенастроек, чтобы программа работала независимо
от того, что является разделителем целой и дробной части на компе заказчика.
Вложения
punkt_koma_miKser.txt
(29 байт) 148 скачиваний
punkt_koma_forum.vi
(27.46 КБ) 144 скачивания
Blackman

Activity
leader
leader
Сообщения: 932
Зарегистрирован: 17 янв 2016, 15:02
Награды: 1
Версия LabVIEW: 6.1,8.5,20

Re: Точность при чтении чисел из строки

Сообщение Blackman »

Формат для приведенной на рис строки: %.;%6.3f
spialv
interested
interested
Сообщения: 7
Зарегистрирован: 12 ноя 2013, 17:07
Версия LabVIEW: 12
Контактная информация:

Re: Точность при чтении чисел из строки

Сообщение spialv »

Jakob Brontfeyn, К сожалению, не могу применять в качестве разделителя пробел или ТАБ, так как я просто обрабатываю массив который формируется в измерительном приборе, только ему известным способом. Большое спасибо, про системный разделитель без Вас бы не догадался!
Blackman, Спасибо!
Ответить
  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение

Вернуться в «Для чайников»