js浮点数精度问题详解

站长

2023年09月28日 22:17 · 阅读数 17

引言

浮点数精度问题是指在计算机中使用二进制表示浮点数时，由于二进制无法精确表示某些十进制小数，导致计算结果可能存在舍入误差或不精确的情况。

这个问题主要源于浮点数的存储方式。在计算机中，浮点数通常使用IEEE 754标准来表示。该标准将浮点数分为符号位、指数位和尾数位，使用科学计数法来表示一个浮点数。

常见浮点数精度问题

示例一：浮点值运算结果

// 加法 
console.log(0.1 + 0.2); // 0.30000000000000004
console.log(0.7 + 0.1); // 0.7999999999999999
console.log(0.2 + 0.4); // 0.6000000000000001
console.log(2.22 + 0.1); // 2.3200000000000003
 
// 减法
console.log(1.5 - 1.2); // 0.30000000000000004
console.log(0.3 - 0.2); // 0.09999999999999998
 
// 乘法 
console.log(19.9 * 100); // 1989.9999999999998
console.log(19.9 * 10 * 10); // 1990
console.log(9.7 * 100); // 969.9999999999999
console.log(39.7 * 100); // 3970.0000000000005
 
// 除法 
console.log(0.3 / 0.1); // 2.9999999999999996
console.log(0.69 / 10); // 0.06899999999999999

示例二：小数乘以10的n次方取整（比如：元转分，米转厘米）

console.log(parseInt(0.58 * 100, 10)); // 57

在上面的例子中，我们得出的结果是 57，而不是预期结果 58。

示例三：四舍五入保留 n 位小数

例如我们会写出 (number).toFixed(2)，但是看下面的例子：

console.log((1.335).toFixed(2)); // 1.33

在上面的例子中，我们得出的结果是 1.33，而不是预期结果 1.34。

为什么会出现这样的结果

浮点数表示

在计算机中，浮点数通常使用IEEE 754标准来表示。该标准将浮点数分为符号位、指数位和尾数位，使用科学计数法来表示一个浮点数。

该规范定义了浮点数的格式，对于 64 位的浮点数在内存中的表示，最高的 1 位是符号位，接着的 11 位是指数，剩下的 52 位为有效数字，具体表示方式如下：

符号位 S：用于表示正负号。第 1 位是正负数符号位（sign），0 代表正数，1 代表负数。
指数位 E：用于表示浮点数的指数部分，以二进制补码形式存储。中间的 11 位存储指数（exponent），用来表示次方数。
尾数位 M：用于表示浮点数的有效数字部分，以二进制形式存储。最后的 52 位是尾数（mantissa），储存小数部分，超出的部分自动进一舍零。

即：浮点数最终在运算的时候实际上是一个符合该标准的二进制数

符号位决定了一个数的正负，指数部分决定了数值的大小，小数部分决定了数值的精度。

IEEE 754 规定，有效数字第一位默认总是 1，不保存在 64 位浮点数之中。也就是说，有效数字总是 1.xx…xx 的形式，其中 xx…xx 的部分保存在 64 位浮点数之中，最长可能为 52 位。因此，JavaScript 提供的有效数字最长为 53 个二进制位（64 位浮点的后 52 位 + 有效数字第一位的 1）。

既然限定位数，必然有截断的可能。

举例说明

示例一

console.log(0.1 + 0.2); // 0.30000000000000004

为了验证该例子，我们得先知道怎么将浮点数转换为二进制，整数我们可以用除 2 取余的方式，小数我们则可以用乘 2 取整的方式。

*0.1* 转换为二进制

0.1 * 2，值为 0.2，小数部分 0.2，整数部分 0

0.2 * 2，值为 0.4，小数部分 0.4，整数部分 0

0.4 * 2，值为 0.8，小数部分 0.8，整数部分 0

0.8 * 2，值为 1.6，小数部分 0.6，整数部分 1

0.6 * 2，值为 1.2，小数部分 0.2，整数部分 1

0.2 * 2，值为 0.4，小数部分 0.4，整数部分 0

从 0.2 开始循环

*0.2* 转换为二进制

可以直接参考上述，肯定最后也是一个循环的情况

所以最终我们能得到两个循环的二进制数：

0.1：0.0001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1001 1100 ...

0.2：0.0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 0011 ...

这两个的和的二进制就是：

sum：0.0100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 1100 ...

最终我们只能得到和的近似值（按照 IEEE 754 标准保留 52 位，按 0 舍 1 入来取值），然后转换为十进制数变成：

sum ≈ 0.30000000000000004

示例二

console.log((1.335).toFixed(2)); // 1.33

因为 1.335 其实是 1.33499999999999996447286321199，toFixed 虽然是四舍五入，但是是对 1.33499999999999996447286321199 进行四五入，所以得出 1.33。

示例三

在 Javascript 中，整数精度同样存在问题，先来看看问题：

console.log(19571992547450991) // 19571992547450990
console.log(19571992547450991 === 19571992547450992) // true

同样的原因，在 JavaScript 中 number 类型统一按浮点数处理，整数是按最大 54 位来算。

最大( 253 - 1，Number.MAX_SAFE_INTEGER、9007199254740991)
最小( -(253 - 1)，Number.MIN_SAFE_INTEGER、-9007199254740991)

在浮点数计算中，有一些特定的小数情况可以避免舍入误差。这是因为这些特定的小数可以精确地表示为二进制分数，而不会导致舍入误差。以下是一些常见的特定情况：

小数部分是2的负整数次幂：例如，0.5、0.25、0.125等。这些小数在二进制中可以精确表示，因此计算时不会出现舍入误差。
小数部分是10的负整数次幂：例如，0.1、0.01、0.001等。尽管在十进制中无法精确表示，但在二进制中可以通过有限位数进行近似表示，并且通常不会引起明显的舍入误差。

前端数学库

Math.js、Decimal.js和Big.js都是用于处理精确计算的JavaScript库。它们提供了更高精度的数学运算功能，解决了JavaScript中浮点数精度问题。

Math.js

Math.js是一个功能强大的数学库，提供了丰富的数学函数和运算符，以及矩阵、统计、线性代数等功能。它支持高精度计算，并提供了大整数和有理数的支持。Math.js还具有表达式解析和求值功能，可以处理复杂的数学表达式。

Decimal.js

Decimal.js是一个专门用于高精度浮点数计算的JavaScript库。它通过使用字符串来表示数字，避免了浮点数舍入误差。Decimal.js支持基本的四则运算、比较、取模等操作，并提供了各种格式化选项和精度控制。

Big.js

Big.js是另一个用于高精度计算的JavaScript库。它也使用字符串来表示数字，并提供了大整数和大浮点数的支持。Big.js支持基本运算符、比较操作、取模运算等，并具有可配置的舍入模式和格式化选项。

这些库都可以帮助开发人员在需要进行精确计算或处理大数字时避免浮点数精度问题。根据具体需求，可以选择适合自己项目的库来进行高精度计算。

需要注意的是，使用这些库可能会带来一些性能上的开销，因为高精度计算需要更多的计算资源。因此，在实际应用中，需要根据具体情况权衡精度和性能之间的平衡。

总结

浮点数精度问题是计算机科学中一个常见的问题，由于二进制无法精确表示某些十进制小数，进行浮点数运算时可能会出现舍入误差。为了解决这个问题，可以使用整数进行计算、使用专门的库或者比较时使用误差范围。了解浮点数精度问题对于开发人员在处理浮点数运算时具有重要意义。