很多时候，大家都知道，浮点型这个东西，本身存储就是一个不确定的数值，你永远无法知道，它是0=0.00000000000000123还是0=0.00000000000999这样的东西。也许一开始使用的时候没有问题，但是有时候做统计的时候，就会看出端倪简单的举个例子，就知道统计的时候，有可能出现意外的效果，导致可能需要存储过程或者接收程序的代码左额外的取舍数位的处理，所以在此其实我是推荐使用Numeric来替代float进行一个替代使用，避免一个sum，然后明明明细看每一条数据都是正常的2,3位小数，一汇总就变成了8,9位的样子CREATETABLE#T(IDINTIDENTITY,VaFLOAT)CREATETABLE#T1(IDINTIDENTITY,VaNUMERIC(15,9))--分开执行-------------------------------------------------INSERTINTO#T(Va)VALUES(0.60000000)INSERTINTO#T1(Va)VALUES(0.60000000)GO100SELECTSUM(Va)FROM#TSELECT
很多时候，大家都知道，浮点型这个东西，本身存储就是一个不确定的数值，你永远无法知道，它是 0 = 0.00000000000000123 还是 0 = 0.00000000000999这样的东西。也许一开始使用的时候没有问题，但是有时候做统计的时候，就会看出端倪
简单的举个例子，就知道统计的时候，有可能出现意外的效果，导致可能需要存储过程或者接收程序的代码左额外的取舍数位的处理，所以在此其实我是推荐使用Numeric来替代float进行一个替代使用，避免一个sum ，然后明明明细看每一条数据都是正常的2,3位小数，一汇总就变成了8,9位的样子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))--分开执行-------------------------------------------------INSERT INTO #T ( Va )VALUES ( 0.60000000)INSERT INTO #T1 ( Va )VALUES ( 0.60000000)GO 100SELECT SUM(Va) FROM #TSELECT SUM(Va) FROM #T1----------------------60.0000000000001(1 行受影响)---------------------------------------60.000000000(1 行受影响)
总结
以上就是本文关于浅谈sqlserver下float的不确定性的全部内容，希望对大家有所帮助。感兴趣的朋友可以参阅本站：简述Redis和MySQL的区别、ORACLE SQL语句优化技术要点解析、MYSQL子查询和嵌套查询优化实例解析等，有什么问题可以随时留言，小编会及时回复大家。感谢各位对脚本之家的支持！
声明：本文内容来源自网络，文字、图片等素材版权属于原作者，平台转载素材出于传递更多信息，文章内容仅供参考与学习，切勿作为商业目的使用。如果侵害了您的合法权益，请您及时与我们联系，我们会在第一时间进行处理！我们尊重版权，也致力于保护版权，站搜网感谢您的分享！
