技术栈
数值精度
贾伟康
19 天前
harmonyos
·
arkts
·
arkui
·
数值精度
·
单位换算
【天体运行模拟|08】HarmonyOS ArkTS 单位换算实战:处理天文尺度、科学计数与精度
单位换算的界面通常不复杂,数值语义却很容易出错。长度、质量、时间、力和速度可以通过比例因子换到基准单位,摄氏度、华氏度与开尔文却带有偏移量;普通生活尺度用固定小数很直观,天文尺度则可能因为数值太大或太小,需要科学计数法和有效数字策略。只要把这几类规则混在一个 factors 数组里,页面看似能算,边界结果却未必可信。
thesky123456
21 天前
大模型
·
amp
·
混合精度
·
fp8
·
bf16
·
数值精度
·
梯度缩放
27届大模型面试准备(六十二):大模型数值精度与混合精度工程——BF16/FP8、AMP、Loss Scale 与精度对齐
接(五十)训练稳定性里提到的 BF16 与 loss spike、(十九)量化。本文把"精度"作为工程主线串起来:训练为什么用 BF16、推理为什么上 FP8、混合精度怎么写才不炸、精度对齐怎么验。这是多模态大模型训练 / 推理岗绕不开的基础题,也是面试官判断你"踩过坑"还是"只会调 API"的分水岭。
我是有底线的