c++如何读取和解析带BOM头的UTF-8与UTF-16文本流【详解】

根本原因是 std::ifstream 默认按字节流打开,不识别 BOM,将 UTF-8 或 UTF-16 BOM 当普通字符读入导致解析失败;需二进制模式打开、手动检测并跳过 BOM,再转码处理。读取时直接遇到乱码或空内容根本原因是 C++ 标准库的 std::ifstream 默认按字节流打开,不识别 BOM;遇到 UTF-8 BOM(0xEF 0xBB 0xBF)或 UTF-16 BOM(0xFF 0xFE 或 0xFE 0xFF)时,会把它们当普通字符读入,导致后续解析失败------比如 std::getline 读出首行含不可见字节,JSON 解析器直接报 invalid character。实操建议:立即学习"C++免费学习笔记(深入)";用二进制模式打开文件:std::ifstream f("file.txt", std::ios::binary),避免系统层面对换行符或编码的隐式转换手动读前 3 字节判断 UTF-8 BOM,前 2 字节判断 UTF-16 BOM;别依赖 std::codecvt_utf8(已弃用)或平台 API 做自动探测UTF-16 小端和大端 BOM 必须区分:读到 0xFF 0xFE 是 UTF-16LE,0xFE 0xFF 是 UTF-16BE;混用会导致每两个字节被颠倒解析std::wifstream 读 UTF-16 文件却只读出一半字符这是最典型的坑:Windows 下 std::wifstream 默认用本地宽字符编码(通常是 UTF-16LE),但若没显式指定 locale,它不会跳过 BOM,也不会按 UTF-16 单位解析------而是把每个字节当一个 wchar_t 处理,结果一个汉字变成两个乱码宽字符。实操建议:立即学习"C++免费学习笔记(深入)";必须在打开前设置 locale:f.imbue(std::locale(f.getloc(), new std::codecvt_utf16<char16_t std::little_endian>));</char16_t>改用 char16_t 流而非 wchar_t 流,避免 Windows 上 wchar_t 是 16 位但语义模糊的问题更稳妥的做法是:先用 std::ifstream 读原始字节,检测 BOM 后,用 std::mbrtoc16 或 std::from_bytes(C++20)转成 std::u16string跨平台读 UTF-8 文件时 BOM 导致 std::stoi 失败Linux/macOS 下很多工具生成的 UTF-8 文件带 BOM,而 std::stoi、std::stod 等函数遇到开头的 0xEF 0xBB 0xBF 会立即返回 0 并设 failbit,不是抛异常,容易被忽略。 文小言 百度旗下新搜索智能助手,有问题,问小言。

相关推荐
Carino_U1 天前
全面理解JVM虚拟机
jvm
2401_887724501 天前
CSS如何设置文字溢出显示省略号_利用text-overflowellipsis
jvm·数据库·python
m0_747854521 天前
golang如何实现应用启动耗时分析_golang应用启动耗时分析实现思路
jvm·数据库·python
雪碧聊技术1 天前
下午题_试题二
数据库
解救女汉子1 天前
如何截断SQL小数位数_使用TRUNCATE函数控制精度
jvm·数据库·python
2301_803875611 天前
如何用 objectStore.get 根据主键 ID 获取数据库单条数据
jvm·数据库·python
耿雨飞1 天前
Python 后端开发技术博客专栏 | 第 06 篇 描述符与属性管理 -- 理解 Python 属性访问的底层机制
开发语言·python
weixin_458580121 天前
如何修改AWR保留时间_将默认8天保留期延长至30天的设置
jvm·数据库·python
丶小鱼丶1 天前
Java虚拟机【JVM】
java·jvm
耿雨飞1 天前
Python 后端开发技术博客专栏 | 第 08 篇 上下文管理器与类型系统 -- 资源管理与代码健壮性
开发语言·python