标题：[求助] ReportData.NewPrice 的数据数型问题

1楼

internethhhh 发表于：2012/12/12 17:29:22

请问老师：

NewPrice1 = ReportData.NewPrice'显示NewPrice1为：2653.60

Price2 = NewPrice1-0.2'结果Price2显示为：2653.39873432443

当最新价为2653.40时，如何写才能让 if NewPrice1=Price2 then中的条件为True?

2楼

admin 发表于：2012/12/12 17:49:35

这是浮点计算导致，这是任何CPU都存在的问题，对浮点数的等于判断不要直接用＝这样来做，而是应该这样

if abs(NewPrice1-Price2) < 0.01 then

这样就没问题了

3楼

internethhhh 发表于：2012/12/12 17:59:36

谢谢！

共3 条记录, 每页显示 10 条, 页签: [1]