这已经是第二次碰到了,以前自己写遇到过,知道怎么避坑。
这次分配给一个小朋友去写这段程序,就出问题了。
比方说:45/100=0.45,但是如果这个100是int类型,返回值就是0.
那么必须将分母根据实际需要转换为所需的精度类型,如decimal或float/double。
再次强调一遍:C# .NET中除法结果的精度是根据被除数来决定的!
本文分享自 作者个人站点/博客 前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。
本文参与 腾讯云自媒体同步曝光计划 ,欢迎热爱写作的你一起参与!