Fxshiny
V2EX  ›  问与答

有没有懂 excel 的小伙伴?

  •  
  •   Fxshiny · Aug 17, 2023 · 1851 views
    This topic created in 1179 days ago, the information mentioned may be changed or developed.

    1692286411654.png

    很奇怪,这个是为什么

    3 replies  •  2023-08-18 06:33:51 +08:00
    geelaw
    geelaw
    Aug 17, 2023 via iPhone❤️2
    1
    D 列估计是公式计算的,有浮点误差。存储货币的时候请格式化单元格选择货币,然后计算货币的公式外面套一层 ROUND(…, 6) 保留六位小数,格式化的时候指定精度。
    akira
    akira
    Aug 18, 2023
    2
    不喜欢这种用法,比较喜欢就让他用两列来显示
    msg7086
    msg7086
    Aug 18, 2023
    3
    因为 36.89 和 35.99 都不是二进制下的有限小数。
    比如说在单精度 IEEE754 下,
    36.89 其实是 36.8899993896484375 ,
    35.99 其实是 35.990001678466796875 ,
    -0.9 其实是-0.89999997615814208984375 。

    如果要显示 0.9 ,需要四舍五入到一定的精度。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   880 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 17:02 · PVG 01:02 · LAX 09:02 · JFK 12:02
    ♥ Do have faith in what you're doing.