扫二维码与项目经理沟通
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
对于单精度浮点数Float: 当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的数据。
创新互联建站专业为企业提供通辽网站建设、通辽做网站、通辽网站设计、通辽网站制作等企业网站建设、网页设计与制作、通辽企业网站模板建站服务,10多年通辽做网站经验,不只是建网站,更提供有价值的思路和整体网络服务。
1.float类型
float列类型默认长度查不到结果,必须指定精度,
比如 num float, insert into table (num) values (0.12); select * from table where num=0.12的话,empty set。
单精度是小数点后有六位准确数值,双精度是小数点后有14位精确数值。
所谓的精度在c#表示浮点类型(也就是带小数点的)
单精度的数据类型是float
双精度的数据类型是double
单精度与双精度的区别是单精度的取值范围没有双精度的大
编译器默认的浮点类型是双精度
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流