ios开发 关于浮点数的运算处理---NSDecimalNumber

浮点数运算

两个浮点数直接运算可能产生的问题:

a.精度缺失问题

浮点数运算的最终解决方案( NSDecimalNumber)

NSString *decimalNumberMutiplyWithString(NSString *multiplierValue,NSString *multiplicandValue) { NSDecimalNumber *multiplierNumber = NSDecimalNumber decimalNumberWithString:multiplierValue; NSDecimalNumber *multiplicandNumber = NSDecimalNumber decimalNumberWithString:multiplicandValue; NSDecimalNumber *product = multiplicandNumber decimalNumberByMultiplyingBy:multiplierNumber; return product stringValue; }

NSLog(@"%@",decimalNumberMutiplyWithString(NSString stringWithFormat:@"%f",a, NSString stringWithFormat:@"%d",b));

//输出结果 999999.99

将float/double类型变量先转成NSDecimalNumber对象,然后进行各种加减乘除运算,除数不能为0,最后运算结果再取double的值,精度按自己需求取。

b.取小数点后几位会自动四舍五入的问题

解决方案(截取小数点后几位,并不四舍五入)

ini 复制代码
-(NSString *)notRounding:(float)price afterPoint:(int)position{
    NSDecimalNumberHandler* roundingBehavior = [NSDecimalNumberHandler decimalNumberHandlerWithRoundingMode:NSRoundDown scale:position raiseOnExactness:NO raiseOnOverflow:NO raiseOnUnderflow:NO raiseOnDivideByZero:NO];
    NSDecimalNumber *ouncesDecimal;
    NSDecimalNumber *roundedOunces;
    
    ouncesDecimal = [[NSDecimalNumber alloc] initWithFloat:price];
    roundedOunces = [ouncesDecimal decimalNumberByRoundingAccordingToBehavior:roundingBehavior];
    [ouncesDecimal release];
    return [NSString stringWithFormat:@"%@",roundedOunces];
}

参数介绍

price:需要处理的数字,

position:保留小数点第几位,

然后调用

ini 复制代码
float s =0.126;
NSString *sb = [self notRounding:s afterPoint:2];
NSLog(@"sb = %@",sb);

输出结果为:sb = 0.12

接下来介绍NSDecimalNumberHandler初始化时的关键参数:decimalNumberHandlerWithRoundingMode:NSRoundDown

NSRoundDown代表的就是 只舍不入。

scale的参数position代表保留小数点后几位。

相关推荐
HouWan7 小时前
SwiftUI 小技巧:如何读取 SwiftUI Font 的详细信息
ios·swiftui·apple
李游Leo7 小时前
HarmonyOS 7 实战开发 05:把页面做到可上线状态
ios·harmonyos
终端安全笔记12 小时前
描述文件、企业证书、MDM 不是三个名字,是三层
android·ios·智能手机
传奇开心果编程13 小时前
【SwiftUI入门练中学】第1课 从零开始
学习·ui·ios·swiftui·swift
丿Wayne19 小时前
iOS Token 刷新实战(Actor 避免并发重复刷新)
ios·swift·token·actor·swift并发
终端安全笔记2 天前
iOS 27 给了租赁一个新工具,但它只认受监督的设备
android·网络·安全·ios
大熊猫侯佩2 天前
独立 App 首发完成 iPhone Duo 展开态适配
ios·swiftui·swift
光影少年2 天前
setImmediate 和 setTimeout(0) 的区别
android·前端·react.js·ios·前端框架
2501_916008892 天前
SSE 和 gRPC 流式接口如何抓包,调试 SSE 与 gRPC 流式接口
网络协议·计算机网络·网络安全·ios·adb·https·udp
HouWan2 天前
Flutter: MediaQuery.of(context) 为什么可能拖慢页面?
android·flutter·ios