C#的String转换成float防止精度丢失问题的解决
作者:苍狼王unity学院
这篇文章主要介绍了C#的String转换成float防止精度丢失问题的解决方案,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
C#的String转换成float防止精度丢失
精度问题
float x = float.Parse(s);
在提交小数的时候会出现精度丢失问题,
举个例子:
unity中的Position中的x,y,z为2.073282,-1.106536,转换成float肯定会丢失值
float
:浮点型,含字节数为4,32bit,数值范围为-3.4E38~3.4E38(7个有效位)double
:双精度实型,含字节数为8,64bit数值范围-1.7E308~1.7E308(15个有效位)decimal
:数字型,128bit,28个有效位 float 与计算机中数值表示方法有关,不是准确数据. decimal 是准确数据,不会出现这个问题
解决办法
Unity C# String转Float
//方法1 float f1 = Convert.ToSingle(s); //方法2 float f2; if (!float.TryParse(s, out f2)) { Console.WriteLine("无法转换!"); }
总结
以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。