ios开发 关于浮点数的运算处理---NSDecimalNumber

浮点数运算

两个浮点数直接运算可能产生的问题:

a.精度缺失问题

浮点数运算的最终解决方案( NSDecimalNumber)

NSString *decimalNumberMutiplyWithString(NSString *multiplierValue,NSString *multiplicandValue) { NSDecimalNumber *multiplierNumber = [NSDecimalNumber decimalNumberWithString:multiplierValue]; NSDecimalNumber *multiplicandNumber = [NSDecimalNumber decimalNumberWithString:multiplicandValue]; NSDecimalNumber *product = [multiplicandNumber decimalNumberByMultiplyingBy:multiplierNumber]; return [product stringValue]; }

NSLog(@"%@",decimalNumberMutiplyWithString([NSString stringWithFormat:@"%f",a], [NSString stringWithFormat:@"%d",b]));

//输出结果 999999.99

将float/double类型变量先转成NSDecimalNumber对象,然后进行各种加减乘除运算,除数不能为0,最后运算结果再取double的值,精度按自己需求取。

b.取小数点后几位会自动四舍五入的问题

解决方案(截取小数点后几位,并不四舍五入)

ini 复制代码
-(NSString *)notRounding:(float)price afterPoint:(int)position{
    NSDecimalNumberHandler* roundingBehavior = [NSDecimalNumberHandler decimalNumberHandlerWithRoundingMode:NSRoundDown scale:position raiseOnExactness:NO raiseOnOverflow:NO raiseOnUnderflow:NO raiseOnDivideByZero:NO];
    NSDecimalNumber *ouncesDecimal;
    NSDecimalNumber *roundedOunces;
    
    ouncesDecimal = [[NSDecimalNumber alloc] initWithFloat:price];
    roundedOunces = [ouncesDecimal decimalNumberByRoundingAccordingToBehavior:roundingBehavior];
    [ouncesDecimal release];
    return [NSString stringWithFormat:@"%@",roundedOunces];
}

参数介绍

price:需要处理的数字,

position:保留小数点第几位,

然后调用

ini 复制代码
float s =0.126;
NSString *sb = [self notRounding:s afterPoint:2];
NSLog(@"sb = %@",sb);

输出结果为:sb = 0.12

接下来介绍NSDecimalNumberHandler初始化时的关键参数:decimalNumberHandlerWithRoundingMode:NSRoundDown

NSRoundDown代表的就是 只舍不入。

scale的参数position代表保留小数点后几位。

相关推荐
专业开发者1 天前
调试 iOS 蓝牙应用的新方法
物联网·macos·ios·cocoa
tangbin5830851 天前
iOS Swift 可选值(Optional)详解
前端·ios
卷心菜加农炮2 天前
基于Python的FastAPI后端开发框架如何使用PyInstaller 进行打包与部署
ios
北极象2 天前
千问大模型接入示例
ios·iphone·qwen
ipad协议开发2 天前
企业微信 iPad 协议应用机器人开发
ios·企业微信·ipad
QuantumLeap丶3 天前
《Flutter全栈开发实战指南:从零到高级》- 26 -持续集成与部署
android·flutter·ios
2501_915918413 天前
TCP 抓包分析在复杂网络问题中的作用,从连接和数据流层面理解系统异常行为
网络·网络协议·tcp/ip·ios·小程序·uni-app·iphone
二流小码农3 天前
鸿蒙开发:个人开发者如何使用华为账号登录
android·ios·harmonyos
wvy3 天前
Xcode 26还没有适配SceneDelegate的app建议尽早适配
ios
游戏开发爱好者84 天前
苹果 App 上架流程,结合 Xcode、CI 等常见工具
macos·ios·ci/cd·小程序·uni-app·iphone·xcode