计算几何初步
Sevenki Lv3

浮点精度

double 的理论精度约为 1015

在实际使用时,假设值域为 w,那么其要求的精度误差至少为 w2

距离:分别过点 (109,1) 和 点 (109+1,1) 的正比例函数的斜率差值约为 1018,这时使用 double 进行大小比较无法保证正确性。

 评论
评论插件加载失败
正在加载评论插件
由 Hexo 驱动 & 主题 Keep
访客数 访问量