数值计算day1-计算机中的浮点数;误差;数学基础

鉴于课堂笔记较为潦草,这里将为期两周的暑期学校学习内容整理到博客中,一来今后查阅起来比较方便,二来学过的东西如果不趁热整理很快就会忘记。 书籍:Numerical Methods for Engineers and Scientist--《工程科学中的数值计算》 课时:24小时 1. 计算机中浮点数的表示 1.1 十进制浮点表示 \[d.ddddd\times 10^p\] 其中\(0.ddddd
相关文章
相关标签/搜索