Rss & SiteMap

金字塔客服中心 - 专业程序化交易软件提供商 http://www.weistock.com/bbs/

专业程序化软件提供商
共5 条记录, 每页显示 10 条, 页签: [1]
[浏览完整版]

标题:为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据

1楼
泰东使 发表于:2013/12/27 14:14:18
为什么 VBA中 读一分钟周期IF数据会出现 七八位小数点杂乱数据

比如一分钟的高 低之类的,数据很乱
2楼
lichenghu 发表于:2013/12/27 14:36:07
您好 ,这是对应的计算机浮点误差!
3楼
泰东使 发表于:2013/12/27 16:22:08
一定要用round限制小数位嘛

4楼
泰东使 发表于:2013/12/27 16:25:24
  Myh=round(myh,1)//高
  
       MYJ=round(MYJ,1)//开仓价
                                     

                                      myh-myj 后还是N位小数点,要疯了


5楼
王锋 发表于:2013/12/27 17:23:45

计算前不用做小数点处理,计算完毕后再处理即可。

通常情况下是不影响使用的,除非要用这个数字做精细对比时再考虑处理一下

共5 条记录, 每页显示 10 条, 页签: [1]


Powered By Dvbbs Version 8.3.0
Processed in 0.01367 s, 2 queries.