jjw888jjw 发表于 2009-3-17 14:30

pi的小数点后面怎么只能算到16位

pi的小数点后面怎么只能算到16位是因为什么原因?3.14159265358979310000
是因为16bit限制?s=0;
for n=0:1:16
    s=s+factorial(6*n)*(545140134*n+13591409)/factorial(n)^(3)/factorial(3*n)/(-640320)^(3*n)
end
a=426880*(10005)^(1/2)/s
fprintf('%6.20f\n',a);

friendchj 发表于 2009-3-17 17:01

help vpa
>> vpa(a,20)

ans =

3.1415926535897932385

jjw888jjw 发表于 2009-3-17 17:44

谢谢了,这个函数的极限是多少:@(
页: [1]
查看完整版本: pi的小数点后面怎么只能算到16位