8527 发表于 2007-4-16 20:10

请教浮点数的精度

例题如下：
>>a=0.33-0.5+0.17
a=
2.7756e-017
>>b=0.33+0.17-0.5
b=
    0
>>c=0.17-0.5+0.33
c=
   2.5511e-017

这些红色字段表示什么含义

再请问自然常数e在Matlab中如何表示

eight 发表于 2007-4-16 20:16

原帖由 8527 于 2007-4-16 20:10 发表
例题如下：
>>a=0.33-0.5+0.17
a=
   2.7756e-017
>>b=0.33+0.17-0.5
b=
    0
>>c=0.17-0.5+0.33
c=
   2.5511e-017

这些红色字段表示什么含义

再请问自然常数e在Matlab中 ...


1. 1e-005 = 0.00001

2. 自然常数e：exp(1)

hunter_009 发表于 2007-4-17 12:49

这个问题很正常,matlab用的是8字节64位双精度浮点数,它只能表示实轴上一部分的实数,而且是离散的,10e-17已经接近它的机器精度eps了,
页: [1]
查看完整版本: 请教浮点数的精度