likes
comments
collection
share

简单小问题,哪种方式会输出0.00?

作者站长头像
站长
· 阅读数 32

看完这篇文章,你将在程序员的生涯中又少走一个坑。

哪种方式会输出0.00?

今天在认真敲代码的时候,钉钉的图标突然跳动了起来。

肯定是哪个不长眼的同事来找我尬聊?没看到我在努力码字么?不知道我是个认真工作的人么?

我心里如是想着。

当我点开的时候,就更有兴趣了。

简单小问题,哪种方式会输出0.00?

原来是我们的组长在我们小组群里提出了个小问题。作为下午甜点?

然后我就踊跃的发言了:第二个!

当时没有多想,就是觉得两行代码总归比一行代码靠谱^v^

那么我的猜测对不对呢?写个demo验证下

// 哪个BigDecimal对象会打印出来0.00?
BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN);
BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);

System.out.println("a ---> " + a);
System.out.println("b ---> " + b);

然后,结果是显而易见的,我的回答是错误的,应该是方式1,难受。

简单小问题,哪种方式会输出0.00?

为什么是第一种方式输出0.00!

知道结果去推测出现结果的原因永远比不知道结果去推测结果靠谱

那我们就来分析一下为什么?

有两个出发点去分析

  • 直接去看源码,看看setScale方法到底做了啥
  • 分析这两种方式有啥不同

看源码

果断点进setScale方法看起了源码,首先映入眼帘的是他的返回值,竟然是BigDecimal。所以这个方法返回的是原来的对象还是一个新的对象呢?带着这个疑问我继续往下看。

简单小问题,哪种方式会输出0.00?

这时,一行代码瞬间消除了我的疑问!原来当新设置的小数位大于原来的小数位会重新创建一个BigDecimal并返回

简单小问题,哪种方式会输出0.00?

越来越接近答案了,源码看完了,我们接着来分析下两种方式的不同。

两种方式有啥不同

首先两种方式分别对应着两个临时变量a和b,再结合上面分析的源码分析一下两种方式的不同之处。

临时变量a

BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN)
  • 先是创建了"0"的BigDecimal对象,假设为A1;

  • 然后对A1对象通过setScale方法设置小数保留位,这是产生了新的对象,假设为A2;

  • 最后是将A2对象赋值给临时变量a。

临时变量b

BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);
  • 先是创建了"0"的BigDecimal对象,假设为B1;

  • 然后是将B1对象赋值给临时变量b;

  • 接着对B1对象通过setScale方法设置小数保留位,这是产生了新的对象,假设为B2;

  • 但是临时变量b依旧指向的是B1对象,B2对象没有被任何临时变量接收。

综上所述,实际上打印的对象是不一样的,输出0.00的原因是,临时变量指向的是设置小数点保留位数后新生成的BigDecimal对象。

结语

虽然这是一个很简单的问题,但平时的使用中还是很容易被忽视的。而这个问题如果忽略了,可能就是一个大坑。因为既然使用了BigDecimal对象,基本上都是进行一些精度较高的运算,而精度较高的运算很可能就涉及到金钱了,如果出问题就是很大的问题。

所以分享出来,愿大家远离bug,多多写出优雅的代码。