NI LabVIEW,CVI,数据采集等产品讨论区

取消
显示结果 
搜索替代 
您的意思是: 

数值比较逻辑

软件版本: 2015 专业开发版, 2018专业开发版均试过。 哪位大神试下是怎么回事?

 

 

1.jpg2.jpg

0 项奖励
1 条消息(共 2 条)
1,042 次查看

这是最基础的计算机数据存储知识. 无论何种编程语言.

只要是浮点的数据 (float, double), 你输入是 1.95, 实际上被记住的是 1.95 ± ϵ

ϵ 很小, 例如 10E-19

所以对浮点数据来说, "等于"是没意义的.

一般用:

| A - B | > 一个自定义的常数, 来判定二者是否足够接近.

 

 

 

George Zou
0 项奖励
2 条消息(共 2 条)
1,003 次查看