声振论坛

 找回密码
 我要加入

QQ登录

只需一步,快速开始

查看: 952|回复: 2

[编程技巧] 输出问题

[复制链接]
发表于 2008-12-13 19:49 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?我要加入

x
本来实际的值应是0,但程序却得出0.07e-16,它确实很接近0,但并不得0,这就给结果造成很大误差,因为我用的是
sign(x)符号函数,所以能不能在程序输出时保留几位有效小数。希望大家指点,谢谢。
回复
分享到:

使用道具 举报

发表于 2008-12-13 20:12 | 显示全部楼层
在计算中最小的数是eps= 2.2204e-016,比该数小的数都应认为是0。可以加一个条件语句:
if abs(x)<=eps
    x=0;
end

评分

1

查看全部评分

发表于 2008-12-13 22:08 | 显示全部楼层

回复 楼主 flyindast 的帖子

doc format
doc digits

评分

1

查看全部评分

您需要登录后才可以回帖 登录 | 我要加入

本版积分规则

QQ|小黑屋|Archiver|手机版|联系我们|声振论坛

GMT+8, 2024-11-19 14:26 , Processed in 0.052256 second(s), 18 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表