写点什么

浮点数

0 人感兴趣 · 7 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/1f/1f56e1e17c677b09d054eacfd57828a0.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

浮点, 让多少老司机折戟?

用户头像
2022-09-25

浮点值应该是我们比较熟悉的一种数据类型,工作中经常用到,会进行比较、计算、转换等等,这些数值操作往往隐藏着很多陷阱,有的可能对计算值产生微小偏差而被忽略,有的可能造成重大软件事故

https://static001.geekbang.org/infoq/00/005164c3479a1f00fa840e1fc88010db.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

探秘 JavaScript 世界的神秘数字 1.7976931348623157e+308

用户头像
清秋
2021-09-15

1.7976931348623157e+308,这个神秘数字是 JavaScript 能够表示的最大数字。今天我们从这个神秘数字出发,从 IEEE 754 标准推导这些神秘数字是如何计算的。今天出现的神秘数字有 1.7976931348623157e+308、5e-324、9007199254740991、2.220446049250313e-16

https://static001.geekbang.org/infoq/ad/ada5c23c69c7679349851b0a146fd6e8.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

Vue 进阶(幺玖肆):JavaScript 解决浮点数精度丢失问题

众所周知,JavaScript只有一种数字类型 Number,而且在Javascript中所有的数字都是以IEEE-754标准格式表示的。即所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00这样的浮点数的结果是 1 而非 1.00。

https://static001.geekbang.org/infoq/89/8904e2b7dfca60053abb787e4498ffe4.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

什么是浮点数?

用户头像
Kaito
2020-12-29

浮点数和小数究竟是什么关系?

浮点数的秘密

我们在学习 C 语言时,通常认为浮点数和小数是等价的,并没有严格区分它们的概念,这也并没有影响到我们的学习,原因就是浮点数和小数是绑定在一起的,只有小数才使用浮点格式来存储。

浮点数_浮点数技术文章_InfoQ写作社区