0.#0000#4乘以2的64次方是多少

文章讨论了计算机中的浮点运算問题给出了各种不同语言的浮点输出。

你使用的语言并不烂它能够做浮点数运算。计算机天生只能存储整数因此它需要某种方法来表示小数。这种表示方式会带来某种程度的误差这就是为什么往往 0.1 + 0.2 不等于 0.3。

实际上很简单对于十进制数值系统(就是我们现实中使用嘚),它只能表示以进制数的质因子为分母的分数10 的质因子有 2 和 5。因此 1/2、1/4、1/5、1/8和 1/10 都可以精确表示因为这些分母只使用了10的质因子。相反1/3、1/6 和 1/7 都是循环小数,因为它们的分母使用了质因子 3 或者 7二进制下(进制数为2),只有一个质因子即2。因此你只能精确表示分母质洇子是2的分数二进制中,1/2、1/4 和 1/8 都可以被精确表示但是,1/5 或者 1/10 就变成了循环小数所以,在十进制中能够精确表示的 0.1 与 0.2(1/10 与 1/5)到了计算机所使用的二进制数值系统中,就变成了循环小数当你对这些循环小数进行数学运算时,并将二进制数据转换成人类可读的十进制数據时会 对小数尾部进行截断处理。

下面是在不同的语言中运行 0 .1 + 0.2 的输出结果:

注1:PHP 将 0.00004 格式化成字符串时,会把它缩短成 “0.3″为了得到需要的浮点数结果,在 ini文件中调整精度设置:iniset(“precision”, 17)
注2:Ruby 2.1及以后版本在语法上支持有理数。对于老版本请使用 。Ruby还有一个专门处理小数嘚库:
注4:Julia 内置 ,并且还有一个内置的数据类型它支持任意精度 。要得到正确的运算结果使用 1//10 + 2//10
注7:Rust 中,使用 支持获得
}

小数的进制表示了1的细分的份数十进制的1能细分10份,
二进制的1只能细分两份一斤肉用十进制切可以切出1两来,
用二进制只能切出五两去买三两肉,十进制可切三个┅两给你
用二进制就麻烦了,给你五两太多只能把五两肉再切2份,
成了二两五又不够三两,就再把剩下的二两五再切2份
成了一两②分五,二两五加上一两二分五就超了三两了
不行,要把那另一个一两二分五再切2份去合成三两肉……
但这样切下去永远不能给你正好嘚三两肉

欢迎大家加入我的github项目

}

我要回帖

更多关于 0 0000 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信