Точность при чтении чисел из строки
-
- interested
- Сообщения: 7
- Зарегистрирован: 12 ноя 2013, 17:07
- Версия LabVIEW: 12
- Контактная информация:
Точность при чтении чисел из строки
Здравствуйте, подскажите пожалуйста - в строке есть число, с n цифрами после запятой, при чтении числа инструментами Scan from String и Spreadsheet String to Array цифры после "запятой" отбрасываются (т.е. вместо -1.99 получаем -1). Формат указываю %3.3f - как я понял это значит 3 цифры до и 3 после запятой. в отображении результата также указано 6 цифр после запятой. В чем проблема, что я делаю не так? Заранее спасибо. На всякий случай картинку прикрепил.
- Вложения
-
[Расширение tif было запрещено, вложение больше недоступно.]
-
- beginner
- Сообщения: 26
- Зарегистрирован: 23 авг 2016, 09:16
- Версия LabVIEW: 2016
- Контактная информация:
Re: Точность при чтении чисел из строки
Всё есть в справке http://zone.ni.com/reference/en-XX/help ... er_syntax/
- Вложения
-
- Str2Num.png (12.69 КБ) 3334 просмотра
-
Jakob Brontfeyn
- expert
- Сообщения: 1729
- Зарегистрирован: 28 фев 2008, 11:01
- Награды: 6
- Благодарил (а): 1 раз
- Контактная информация:
Re: Точность при чтении чисел из строки
Дело не в точности, проверьте на любом контроле или индикаторе,
что в Вашей операционной системе является разделителем целой и
дробной части числа,
или измените в текстовой строке, или в настройках операционной системы.
Для разделения в строке лучше применять символ пробела или ТАБ, не
мешайте в кучу точки и запятые. Если делаете на заказ, Вам нужно ввести
систему проверок и перенастроек, чтобы программа работала независимо
от того, что является разделителем целой и дробной части на компе заказчика.
что в Вашей операционной системе является разделителем целой и
дробной части числа,
или измените в текстовой строке, или в настройках операционной системы.
Для разделения в строке лучше применять символ пробела или ТАБ, не
мешайте в кучу точки и запятые. Если делаете на заказ, Вам нужно ввести
систему проверок и перенастроек, чтобы программа работала независимо
от того, что является разделителем целой и дробной части на компе заказчика.
- Вложения
-
- punkt_koma_miKser.txt
- (29 байт) 148 скачиваний
-
- punkt_koma_forum.vi
- (27.46 КБ) 144 скачивания
-
- interested
- Сообщения: 7
- Зарегистрирован: 12 ноя 2013, 17:07
- Версия LabVIEW: 12
- Контактная информация:
Re: Точность при чтении чисел из строки
Jakob Brontfeyn, К сожалению, не могу применять в качестве разделителя пробел или ТАБ, так как я просто обрабатываю массив который формируется в измерительном приборе, только ему известным способом. Большое спасибо, про системный разделитель без Вас бы не догадался!
Blackman, Спасибо!
Blackman, Спасибо!
-
- Похожие темы
- Ответы
- Просмотры
- Последнее сообщение
-
- 3 Ответы
- 4131 Просмотры
-
Последнее сообщение rsv
-
- 38 Ответы
- 13215 Просмотры
-
Последнее сообщение AndreyDmitriev
-
- 19 Ответы
- 5179 Просмотры
-
Последнее сообщение jane_wild
-
- 23 Ответы
- 4574 Просмотры
-
Последнее сообщение maxim_MA
-
- 6 Ответы
- 1618 Просмотры
-
Последнее сообщение ladik