Python爬网页,不确定网页的编码,不需要用第三方库

Python爬网页,不确定网页的编码,不需要用第三方库,自己写个判断,乱拳打死老师傅

detect试了,不好用

apparent_encoding试了,不好用

encoding试了,不好用

headers里get试了,不好用

最后用下面这个方法,反而是最好用的,也不是100%准确,但是在我用的过程中,这个是最好用的,反正也没有100%的,还不如用自己写的函数呢

python 复制代码
def detect_encoding(byte_text):  
    encodings_to_try = ['utf-8', 'gbk', 'gb2312', 'gb18030', 'ascii', 'latin1']  
    for encoding in encodings_to_try:  
        try:  
            return encoding  
        except UnicodeDecodeError:  
            continue  
    return None
相关推荐
欧叶冲冲冲7 分钟前
uv Python 环境管理笔记
笔记·python·uv
很楠爱上9 分钟前
从“AI 看合同”到可举证的合同决策链:CounterClause(对薄) 的架构设计与工程实践
人工智能·经验分享·python·学习·agent
这就是佬们吗9 分钟前
治幻觉,先治检索:RAG 系统防幻觉的完整工程指南
python·langchain·embedding
Java后端的Ai之路10 分钟前
02、Python普通工厂模式
开发语言·人工智能·python·设计模式·普通工厂模式
Dontla11 分钟前
VSCode Python扩展自动加载.env环境变量机制(Python插件)python.terminal.useEnvFile
ide·vscode·python
码云骑士21 分钟前
115-多模态大模型-GPT-4V-Gemini-Qwen-VL-能力全景
python
空堂与归25 分钟前
如何用Python实现深度学习?PyTorch框架核心与实践
pytorch·python·深度学习
韶博雅34 分钟前
开启补充日志
java·开发语言·sql
guwentian40 分钟前
从0到1手写 AI Agent Harness:为什么护城河不在模型,而在工程外壳
人工智能·python·安全·deepseek·harness
FYKJ_201043 分钟前
django学习成绩预警系统10905
java·javascript·spring boot·python·spark·django·php