两个相等的值逻辑计算错误

lcgs005

在30分钟周期上，下列公式当mmjcscj与LL值相等时，minn仍取得1
N:=10000;
mmjcscj:stkindiex('','gzyy.j',0,8,0,N),linethick0;
LL:ref(L,1),linethick0;
minn:LL<mmjcscj;


//gzyy公式如下：序列模式
DIFF:=EMA(C,12) - EMA(C,26);
DEA:=EMA(DIFF,9);
EM12:=EMA(C,12);
EM26:=EMA(C,26);
//
J:(13*27*DEA+13*25*EM26-27*11*EM12)/28,linethick0;

技术010

金字塔中的数值是浮点型的，后面会存在小数位数的，所以你看到的数值一样时，实际可能是不相等的。你可以使用函数rounds处理下小数位数，再进行判断大小。

lcgs005

技术010 发表于 2024-10-15 13:24
金字塔中的数值是浮点型的，后面会存在小数位数的，所以你看到的数值一样时，实际可能是不相等的。你可以使 ...

用rounds(mmjcscj,2),round(LL,2)处理后还是一样的问题，显示为整数，当两个值相等时逻辑小于值错误

技术010

处理成整数用round函数，本地未测到这种现象，截图看下你2个值的输出结果和代码情况下呢。如果处理成2为小数或者整数，那相等时，小于应该是不成立的啊。

lcgs005

技术010 发表于 2024-10-15 14:20
处理成整数用round函数，本地未测到这种现象，截图看下你2个值的输出结果和代码情况下呢。如果处理成2为小 ...

刚才测试了下，用round先处理，计算正确，若用rounds处理则仍不正确，

技术010

ROUNDS是四舍五入的，你处理完的数值化输出是多少呢。

lcgs005

技术010 发表于 2024-10-15 14:51
ROUNDS是四舍五入的，你处理完的数值化输出是多少呢。

取固定的值用rounds处理是没问题的，如果里面是个参数，在副图上显示的值就会有问题，
比如，就取HH:H,linethick0;以今天长江通信今天的30分钟k线为例，在K线上可以明显看出当根k的最高价为17.79，但副图上的HH显示为18，用rounds处理后仍显示为18，代码如下：
HH:H;
hh2:rounds(hh,2);
如果要取得真实值，是在哪里对小数位置有设置吗？还是每次比较前对所有数都要进行处理

admin

lcgs005

admin 发表于 2024-10-15 15:38

找到问题了，我这默认的小数位数变为0了，通过工具--选项--外观设置--系统界面--默认小数位数---那里修改为2后，重启，问题解决了