请教浮点数的精度

8527 · 发表于 2007-4-16 20:10

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？我要加入

x

例题如下：
>>a=0.33-0.5+0.17
a=
2.7756e-017
>>b=0.33+0.17-0.5
b=
0
>>c=0.17-0.5+0.33
c=
2.5511e-017

这些红色字段表示什么含义

再请问自然常数e在Matlab中如何表示

eight · 发表于 2007-4-16 20:16

原帖由 8527 于 2007-4-16 20:10 发表
例题如下：
>>a=0.33-0.5+0.17
a=
2.7756e-017
>>b=0.33+0.17-0.5
b=
0
>>c=0.17-0.5+0.33
c=
2.5511e-017

这些红色字段表示什么含义

再请问自然常数e在Matlab中 ...

1. 1e-005 = 0.00001

2. 自然常数e：exp(1)

hunter_009 · 发表于 2007-4-17 12:49

这个问题很正常,matlab用的是8字节64位双精度浮点数,它只能表示实轴上一部分的实数,而且是离散的,10e-17已经接近它的机器精度eps了,

账号		自动登录	找回密码
密码			我要加入

[编程技巧] 请教浮点数的精度

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。