当前位置 博文首页 > 一个写湿的程序猿:0.1+0.2=0.3?为什么浮点数运算不精确?
一个写湿的程序猿:0.1+0.2=0.3?为什么浮点数运算不精确?
作者:[db:作者]
时间:2021-08-08 13:06
为什么浮点数运算不精确?
- 前言
- 1. 相关概念
- 2. 计算机中数据的表示方法
- 2.1 n 位二进制可以表示的信息量
- 2.2 定点数表示
- 2.3 浮点数表示
- 2.4 定点数 和 浮点数 的区别
- 2.5 计算机表示实数的步骤
- 2.5.1 转换为二进制数格式
- 2.5.2 转换为二进制科学计数法表示
- 2.5.3 转换为IEEE 754 标准格式
- 3. IEEE 754 标准的浮点数
- 3.1 一般格式
- 3.2 两种常用格式
- 3.3 特殊值
- 4. 总结
cs