我设计了一套计算程序,计算出来的数据在gui界面显示,但是精度不够怎么设置

我设计了一套计算程序,计算出来的数据在gui界面显示,但是精度不够怎么设置,第1张

输出的时候用set(handles.xxx,'String',num2str(x,'%6.3f'))控制输出端精度

做范围判断之后,msgbox('你想显示的内容', '对话框标题')(即窗口提示)

set(handles.xxx,'String',‘ ’) ;(程序语句作用:清除数值)

把里面的变量定义为double 型试试看,不行的话printf("[%d]:(3*%d+1)/2=%d\n",count,(2*n-1)/3,n)

这里面的语句改成printf("[%d]:(3*%d+1)/2=%d\n",count,(double)(2*n-1)/(double)3,n)

强制转换下


欢迎分享,转载请注明来源:内存溢出

原文地址:https://www.54852.com/yw/11469894.html

(0)
打赏 微信扫一扫微信扫一扫 支付宝扫一扫支付宝扫一扫
上一篇 2023-05-16
下一篇2023-05-16

发表评论

登录后才能评论

评论列表(0条)

    保存