ios开发 关于浮点数的运算处理---NSDecimalNumber

浮点数运算

两个浮点数直接运算可能产生的问题:

a.精度缺失问题

浮点数运算的最终解决方案( NSDecimalNumber)

NSString *decimalNumberMutiplyWithString(NSString *multiplierValue,NSString *multiplicandValue) { NSDecimalNumber *multiplierNumber = NSDecimalNumber decimalNumberWithString:multiplierValue; NSDecimalNumber *multiplicandNumber = NSDecimalNumber decimalNumberWithString:multiplicandValue; NSDecimalNumber *product = multiplicandNumber decimalNumberByMultiplyingBy:multiplierNumber; return product stringValue; }

NSLog(@"%@",decimalNumberMutiplyWithString(NSString stringWithFormat:@"%f",a, NSString stringWithFormat:@"%d",b));

//输出结果 999999.99

将float/double类型变量先转成NSDecimalNumber对象,然后进行各种加减乘除运算,除数不能为0,最后运算结果再取double的值,精度按自己需求取。

b.取小数点后几位会自动四舍五入的问题

解决方案(截取小数点后几位,并不四舍五入)

ini 复制代码
-(NSString *)notRounding:(float)price afterPoint:(int)position{
    NSDecimalNumberHandler* roundingBehavior = [NSDecimalNumberHandler decimalNumberHandlerWithRoundingMode:NSRoundDown scale:position raiseOnExactness:NO raiseOnOverflow:NO raiseOnUnderflow:NO raiseOnDivideByZero:NO];
    NSDecimalNumber *ouncesDecimal;
    NSDecimalNumber *roundedOunces;
    
    ouncesDecimal = [[NSDecimalNumber alloc] initWithFloat:price];
    roundedOunces = [ouncesDecimal decimalNumberByRoundingAccordingToBehavior:roundingBehavior];
    [ouncesDecimal release];
    return [NSString stringWithFormat:@"%@",roundedOunces];
}

参数介绍

price:需要处理的数字,

position:保留小数点第几位,

然后调用

ini 复制代码
float s =0.126;
NSString *sb = [self notRounding:s afterPoint:2];
NSLog(@"sb = %@",sb);

输出结果为:sb = 0.12

接下来介绍NSDecimalNumberHandler初始化时的关键参数:decimalNumberHandlerWithRoundingMode:NSRoundDown,

NSRoundDown代表的就是 只舍不入。

scale的参数position代表保留小数点后几位。

相关推荐
秋雨梧桐叶落莳8 小时前
【iOS】Block底层详解
macos·ios·cocoa
茶底世界之下9 小时前
舞台灯下的萨克斯:用 Awaking 让铜管从蓝幕前亮起来
ios·app·产品
传奇开心果编程10 小时前
【Flutter踩坑排雷】第28课:平台目录缺失与修复坑|`flutter create` 的“重建”与“覆盖”边界
android·flutter·ios·移动开发·跨平台·dart·声明式ui
30955666610 小时前
股票接口返回 404 与空数组的排查笔记:证书状态与级别参数
java·笔记·python·ios·iphone·股票数据api·股票数据接口
Geek-Chow1 天前
00 Apple Code Signing, In Depth — A Series
ios
传奇开心果编程2 天前
【Flutter踩坑排雷】第25课:ScrollController 误用坑|跳转失效、监听泄漏与“控制器未附加”
android·flutter·ios·移动开发·跨平台·dart·声明式ui
90后的晨仔2 天前
macOS 27 下两个 Xcode 坑:真机 DDI 错配与模拟器 App Translocation
ios
开心猴爷2 天前
iOS 上架 App 流程
后端·ios
奶油话梅糖2 天前
用 iPhone 扫一间房,AI 帮你在浏览器里 1:1 重建它:Wes Bos 的 scan-to-threejs 工作流
人工智能·ios·iphone
茶底世界之下2 天前
阴天窗边的柿子:用 Awaking 让暖色成为主角
ios·app·产品