金字塔决策交易系统

 找回密码
 

微信登录

微信扫一扫,快速登录

搜索
查看: 3055|回复: 1

计算结果保留小数点后几位

[复制链接]

60

主题

114

帖子

124

积分

Rank: 4

等级: 专业版

注册:
2022-1-11
曾用名:
发表于 2022-7-29 21:53 | 显示全部楼层 |阅读模式
老师:请问在后台程序化中,下面语句计算结果保留小数点后几位?

AX:(DYNAINFO2(54,FU9)-DYNAINFO2(62,FU9))/DYNAINFO2(62,FU9);

RX:(DYNAINFO2(54,AU0)-DYNAINFO2(62,AU0))/DYNAINFO2(62,AU0);

IF RX>AX .........;

比较大小时,担心程序计算时保留几位小数,会影响上面比较大小。
比如AX:0.000123;RX:000124;如果保留小数点后4位的话,就比较不出大小了。
回复

使用道具 举报

1

主题

1070

帖子

1080

积分

Rank: 8Rank: 8

等级: 超级版主

注册:
2021-5-18
曾用名:
发表于 2022-7-29 23:40 | 显示全部楼层
内置得计算小数位是按照双精度浮点数来做得,精度可以达到128位,不必担心
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 微信登录

本版积分规则

手机版|小黑屋|上海金之塔信息技术有限公司 ( 沪ICP备13035422号 )

GMT+8, 2025-7-17 07:10 , Processed in 0.113454 second(s), 22 queries .

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表