用两个小数位除以浮点数与用六个小数位除相同的浮点数
用两个小数位除以浮点数与用六个小数位除相同的浮点数
提问于 2016-08-04 04:03:17
我们有两个带6位小数的浮点数。我们正在对它们进行划分，并在我们的网页上显示结果。我们还在网页上显示了用于除法的2个数字。由于这两个数字非常长(有6位小数)，我们认为显示完整的数字可能不是一个好的用户体验。因此，我们决定仅显示最多2位小数。但这对于用户来说是令人困惑的，因为他们正在将这两个数字相除，并试图与不同的结果相匹配(使用完整的数字计算)。
示例-假设有两个数字: 0.289045和0.017457。如果我们将这些数字相除，结果是16.56，它与这两个数字一起显示给用户0.28和0.01。现在用户试图将0.28和0.01相除，得到的结果是28，这与我们显示的结果不匹配。
我们认为可能显示28 (即除以0.28和0.01)是正确的方法。但这对0.289045和0.001745这样的数字不起作用。在这里，0.28除以0.00不会得到任何结果。我们总是希望向用户展示积极的结果。
我想不出一个正确的方法来解决这个问题。什么才是正确的方式？
回答 1
Stack Overflow用户
发布于 2016-08-04 04:12:22
您可以用2位或3位有效数字来表示所有数字，而不是固定的小数位数。
例如：
0.28 / 0.017 = 16或
0.289 / 0.0174 = 16.6页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/38752646
复制相关文章
相似问题
腾讯云开发者
