vib 发表于 2007-11-16 12:28

矩阵内元素间数量级差别大时的精度的问题

比如这样的一个矩阵：a=
由于里面的元素的数量及差别较大，
输出结果
a =

1.0e+017 *

    3.0000    0.0000

就会把后面一项取值为0，该怎莫设置这个精度呢？谢谢

donkeyxu 发表于 2007-11-16 13:31

format short e
页: [1]
查看完整版本: 矩阵内元素间数量级差别大时的精度的问题