Rss & SiteMap

金字塔客服中心 - 专业程序化交易软件提供商 http://www.weistock.com/bbs/

专业程序化软件提供商
共5 条记录, 每页显示 10 条, 页签: [1]
[浏览完整版]

标题:input后台不准确

1楼
hebeihk 发表于:2012/10/12 11:00:28

input:账号(45700077,1,9999999999,1);

debugout('账号:%.0f',账号);

 

后台运行后显示:

2.10.12 11:00:01 IF10
运行结束
12.10.12 11:00:02 IF10
账号:45700076
12.10.12 11:00:02 IF10
运行结束
12.10.12 11:00:03 IF10
账号:45700076
12.10.12 11:00:03 IF10
运行结束

2楼
every 发表于:2012/10/12 11:29:16

7位以内可以正常显示.

 

这个可能是数据太长了,计算机在处理和转换后1-2位的时候,出现了误差

[此贴子已经被作者于2012-10-12 11:29:30编辑过]
3楼
hebeihk 发表于:2012/10/15 8:11:09
input 函数值大于7位后,后台运行自动会在尾数上加减1,值就不准确了,这是BUG吗
4楼
jinzhe 发表于:2012/10/15 8:43:21
 

您好,请稍等,技术人员正在核实处理中。处理完毕后会马上给您解答

5楼
rushtaotao 发表于:2012/10/15 8:55:19
您说的这种问题确实存在,可能是由于数据精度所造成的,目前解决的办法可能只能将数字先转换为字符串,使用的时候再转换成数字来保持数字精度来解决问题。
共5 条记录, 每页显示 10 条, 页签: [1]


Powered By Dvbbs Version 8.3.0
Processed in 0.01563 s, 2 queries.