LabVIEW浮点型和双精度数据类型之间的精度差异是什么 为什么 在LabVIEW 中, 浮点 数 会 失去 精度?
创始人
2024-02-24 03:37:35

LabVIEW浮点型和双精度数据类型之间的精度差异是什么 为什么 在LabVIEW 中, 浮点 数 会 失去 精度?

程序中使用浮点数据类型或双精度数据类型。这些数据类型之间有什么区别?

浮点型的变量只有 7 位精度,而双精度类型的变量有 15 位精度。如果需要更好的精度,请使用双精度而不是浮点数。

使用浮点数据类型时,将看到数值的舍入,如下所示:

为什么 在LabVIEW 中, 浮点 数 会 失去 精度?

在编程环境中使用浮点数或双精度数,注意到该数字的值略有变化。例如,我输入 2.4,现在看到 2.39999999999999999。为什么浮点数不太准确?

浮点不准确有两个主要原因:

1.十进制数的二进制表示可能不精确

特定的浮点数或双精度数字不能完全按预期表示的情况并不罕见。由于 CPU 表示浮点数据的方式,浮点十进制值通常没有精确的二进制表示形式。因此,可能会遇到精度损失,并且某些浮点运算可能会产生意外的结果。在上面提到的情况下,2.4 的二进制表示可能不完全是 2.4。相反,最接近的二进制表示形式是 2.3999999999999999。原因是浮点数由指数和尾数两部分组成。浮点数的值实际上是使用特定的数学公式计算的。

看到的精度损失将发生在任何操作系统和任何编程环境中。

注意:使用二进制编码十进制 (BCD) 库来保持精度。BCD 是一种对数字进行编码的方法,其中每个十进制数字单独编码。

有关为什么会发生这种精度损失的更多信息,可能需要阅读IEEE/ANSI 标准 754-1985,该标准记录了二进制浮点运算标准。

2.类型不匹配

可能已经混合了浮点型和双精度型。请确保在数字之间进行算术运算时,每个数字的类型相同。

注意:float类型的变量只有大约 7 位精度,而双精度类型的变量有大约 15 位精度。

需要说明的是,上述的例程和文档,都是可以下载的,双击即可打开,其中压缩文件是可以采用粘贴复制的方式,拷贝到硬盘上。这不是图片,各位小伙伴看到后尝试一下,这个问题就不用加微信咨询了。有关LabVIEW编程、LabVIEW开发等相关项目,可联系们。

 

相关内容

热门资讯

埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
世界上最漂亮的人 世界上最漂亮... 此前在某网上,选出了全球265万颜值姣好的女性。从这些数量庞大的女性群体中,人们投票选出了心目中最美...
长白山自助游攻略 吉林长白山游... 昨天介绍了西坡的景点详细请看链接:一个人的旅行,据说能看到长白山天池全凭运气,您的运气如何?今日介绍...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
demo什么意思 demo版本... 618快到了,各位的小金库大概也在准备开闸放水了吧。没有小金库的,也该向老婆撒娇卖萌服个软了,一切只...
猫咪吃了塑料袋怎么办 猫咪误食... 你知道吗?塑料袋放久了会长猫哦!要说猫咪对塑料袋的喜爱程度完完全全可以媲美纸箱家里只要一有塑料袋的响...
埃菲尔铁塔在哪 中国仿建埃菲尔... 2019年4月26日,广西南宁市,街头惊现一座巨型山寨版埃菲尔铁塔,高约20米,白色塔身,造型逼真,...
苗族的传统节日 贵州苗族节日有... 【岜沙苗族芦笙节】岜沙,苗语叫“分送”,距从江县城7.5公里,是世界上最崇拜树木并以树为神的枪手部落...
北京的名胜古迹 北京最著名的景... 北京从元代开始,逐渐走上帝国首都的道路,先是成为大辽朝五大首都之一的南京城,随着金灭辽,金代从海陵王...
应用未安装解决办法 平板应用未... ---IT小技术,每天Get一个小技能!一、前言描述苹果IPad2居然不能安装怎么办?与此IPad不...
脚上的穴位图 脚面经络图对应的... 人体穴位作用图解大全更清晰直观的标注了各个人体穴位的作用,包括头部穴位图、胸部穴位图、背部穴位图、胳...