llmops` - llmops`技术,学习,经验文章

寻道码路

32 分钟前

大模型工程化实战（七）：JSON Schema 强约束——模型吐的 json 不合规？schema 校验不通过，重试、兜底、降级一条龙客服 AI 念身份证的事过去一周，脱敏闸挂上了，泄露是不泄露了。可上线第四周，数据组来拍桌子：模型把“金额”吐成字符串 “¥1,234”（schema 要的是 number），“是否退款”整个字段丢了，还自作主张加了个 schema 里根本没有的“运费”。下游 json.loads 直接崩，pandas 读出来一片 NaN。