MATLAB中的数据精度处理

a=1.23456789  b=vpa(a,7)  b = 1.234568  vpa(a,12)  ans = 1.23456789000  format:设置输出格式 对浮点性变量,缺省为format short. format并不影响matlab如何计算和存储变量的值。对浮点型变量的计算,即单精度或双精度,按合适的浮点精度进行,而不论变量是如何显示的。对整型变量采用整型数据。整型变量总是根据
相关文章
相关标签/搜索