skywalkboy
V2EX  ›  问与答

java double 计算效率跟小数位多少有关吗?

  •  
  •   skywalkboy · Jun 23, 2016 · 1978 views
    This topic created in 3635 days ago, the information mentioned may be changed or developed.

    java 中 double 中的小数位跟计算效率有关吗,现在有个十多位小数的乘法运算,在 java 中用什么类型效率比较快

    1 replies    2016-06-24 00:06:44 +08:00
    SoloCompany
        1
    SoloCompany  
       Jun 24, 2016
    和小数位数没太大关系,和有效数字有关,当然如果你的数都是 0~1 之间的那么有效数字个数就大概等价于小数位了,这个也和 java 没有关系,请参考 IEEE 64bit 标准,双精度数是 52 有效数字位以及 11 个指数位
    52 * log(2) = 15.65
    也就是说换算成十进制大概可以有 15 ~ 16 个有效数字
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2806 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 15:10 · PVG 23:10 · LAX 08:10 · JFK 11:10
    ♥ Do have faith in what you're doing.