初级爬虫的总结一

初级爬虫的总结一之百度网页爬虫

我遇到的问题:

1、没有找对网页sugrec,导致connect-type没有找对,以及一些小问题

2、url拼接时候出现乱码


一、寻找正确的sugrec

1、打开百度网址,看看进行搜索时候,该网页标签是否在进行变化

2、右键点开查找

3、点击网络,再点击下面的fetch/XHR

4、点击百度一下,请注意出现的这个sugrec,之后会用到的

5、输入你要查找的词汇,在网址栏中喜欢后面的删除,回车一下,将会得到,我们需要的sugrec

6、得到要用的sugrec

二、url拼接出问题,解决办法

当 response = requests.get(url=url,params=param,headers=headers) 中无法出现正确的地址时

采用:

复制代码
#!/usr/bin/env python
# -*- coding: utf-8 -*-
import requests
rom urllib.parse import urljoin, quote, urlencode

if __name__ =="__main__":
    headers={
        "User-Agent":"填你自己的"
    }
    base_url = "https://www.baidu.com/"
    # 拼接URL
    url = urljoin(base_url, 's?wd=')
   #检查URL是否拼接正确
    print(url)
    # 动态查询
    kw = input('enter a word:')
    url=url+kw
    # response = requests.get(url=url,params=param,headers=headers)
    response = requests.get(url=url, headers=headers)
    #print(response.status_code) #检查response是否查询成功 200(成果)
    page_text = response.text
    filename =kw+'.html'
    with open(filename,'w',encoding='utf-8') as fp:
        fp.write(page_text)
    print(filename,'over!')

一点点的拓展关于json:

不知道json代码哪里出问题了,可以采用以下的代码:

复制代码
    try:
        dic_obj = response.json()
        except json.JSONDecodeError:
        print('JSON解析错误,响应内容可能不是有效的JSON格式')
       except requests.exceptions.RequestException as e:
        print(f'请求发生错误:{e}')
    else:
        print(dic_obj)
        fileName=kw+'.json'
        fp = open('fileName','w',encoding='utf-8')
        json.dump(dic_obj,fp=fp,ensure_ascii=False)
        print('over!')
相关推荐
q5673152318 小时前
Selenium动态网页爬虫编写与解释
爬虫·selenium·测试工具
是小崔啊21 小时前
【爬虫】02 - 静态页面的抓取和解析
爬虫
捉鸭子2 天前
转转APP逆向
爬虫·python·网络安全·网络爬虫
华科云商xiao徐2 天前
使用aiohttp实现高并发爬虫
爬虫
华科云商xiao徐2 天前
Selenium动态网页爬虫编写与解释
爬虫
安替-AnTi2 天前
香港理工大学实验室定时预约
爬虫·python·post·实验室·预约·香港理工
爬点儿啥2 天前
[爬虫知识] 深入理解多进程/多线程/协程的异步逻辑
开发语言·爬虫·python·多线程·协程·异步·多进程
Haisheng2 天前
理解 Robots 协议:爬虫该遵守的“游戏规则”
爬虫
是小崔啊3 天前
【爬虫】- 爬虫原理及其入门
爬虫
datascome3 天前
文章发布易优CMS(Eyoucms)网站技巧
数据库·经验分享·爬虫·数据采集·eyoucms·易优cms