thelostsheep
V2EX  ›  问与答

各位数据库大佬 求解一个小数溢出的问题

  •  
  •   thelostsheep · Oct 22, 2020 · 1490 views
    This topic created in 2221 days ago, the information mentioned may be changed or developed.

    小白之前写 hql 代码很简单 两个表 union all 以后对某个字段进行 sum 语法已经跑通验证了没有问题 今天就直接造数测试 然后问题来了!!! 我对要 sum 的字段设了五个相同的值 345.78 sum 以后就应该是 1728.9 但是 sum 后值确是 1728.8999999999999 小数位溢出 我又测试了其他相同的小数 都没有这个问题 各位大佬看看 可能是什么情况呢 小白被这个问题搞了一天了 哭泣。。。。 提前感谢各位老师了!!!

    4 replies  •  2020-10-23 09:47:38 +08:00
    CloudnuY
    CloudnuY
    Oct 22, 2020 via iPhone
    1
    double 精度缺失问题
    lpts007
    lpts007
    Oct 22, 2020
    2
    这个问题百度不到吗
    thelostsheep
    thelostsheep
    OP
    Oct 23, 2020
    3
    所有的字段都是 string 类型
    thelostsheep
    thelostsheep
    OP
    Oct 23, 2020
    4
    就是百度不到 哭了 很神奇的问题 不知道问题出在哪里了
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1780 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 10:54 · PVG 18:54 · LAX 02:54 · JFK 05:54
    ♥ Do have faith in what you're doing.