Rss & SiteMap

金字塔客服中心 - 专业程序化交易软件提供商 http://www.weistock.com/bbs/

专业程序化软件提供商
共2 条记录, 每页显示 10 条, 页签: [1]
[浏览完整版]

标题:[原创]发现程序的一个BUG

1楼
yeyi 发表于:2013/5/13 20:24:40

我在后台编写一个程序时:

 

 

                         TNGWMWMJC=0.6                
 

 

                          TNWMWMJC=(TNSellPrice1-TNBuyPrice1)/TNBuyPrice1*100       // TNWMWMJC<0.6
                          TNWMWMJC=FormatNumber(TNWMWMJC,3,-1)
                          
                          
                          
                           IF TNWMWMJC>TNGWMWMJC  THEN          

                                   ''''输出

                           END IF

 

 

结果:

1、    如果对TNWMWMJC用FormatNumber格式一下,则无论TNWMWMJC数值多小(小于0.6),均条件为真。(这是错误的,BUG)

 

2、    如果对TNGWMWMJC(就是0.6)用FormatNumber格式一下,则程序正确(TNWMWMJC数值小于0.6,条件为真)。(正确)

 

3、 如果对TNGWMWMJC、TNWMWMJC均不用FormatNumber格式,则程序正确(TNWMWMJC数值小于0.6,条件为真)。(正确)

 

 

哪位大师剖析一下。FormatNumber 

 

 

 

 

 

[此贴子已经被作者于2013-5-13 20:25:55编辑过]
2楼
guotx2010 发表于:2013/5/14 9:40:11
使用cdbl进行数值转换,就不会有问题了
共2 条记录, 每页显示 10 条, 页签: [1]


Powered By Dvbbs Version 8.3.0
Processed in 0.05664 s, 2 queries.