华人澳洲中文论坛

热图推荐

    为何这段数字不等于额0,手动计算为0,可是excel和google online都不为0,猎奇怪

    [复制链接]

    2021-5-12 02:32:41 246 2

    2482207.26-2513259+27095.04+3956.7

    = -2.228262e-10

    ????

    excel也显示不为0,

    奇怪了

    全部回复2

    零丝残绪 发表于 2021-5-12 02:30:18

    零丝残绪 沙发

    2021-5-12 02:30:18

    无意思
    2482207.26-2513259+27095.04+3856.7 = -100
    2482207.26-2513259+27095.04+3857.7 = -99.0000000002
    xxzjp 发表于 2021-5-12 02:32:41

    xxzjp 板凳

    2021-5-12 02:32:41

    由于二进制无奈彻底准确表白小数点后的数字,所以两次转换后会发生误差

    发表回复

    您需要登录后才可以回帖 登录 | 立即注册

    返回列表 本版积分规则

    :
    论坛元老
    :
    论坛短信
    :
    未填写
    :
    未填写
    :
    未填写

    主题441

    帖子7040

    积分15703

    图文推荐