selenium 爬取今日头条

由于今日头条网页是动态渲染,再加上各种token再验证,因此直接通过API接口获取数据难度很大,本文使用selenium来实现新闻内容爬取。

selenium核心代码

知识点:

  • 代码中加了很多的异常处理,保证错误后重试,提高稳定性
  • EdgeChromiumDriverManager().install()自动下载浏览器驱动,避免浏览器更新后驱动版本不对的问题
  • 使用driver.refresh()driver.close()driver.quit()防止占用内存过多
  • 使用--disable-extensions禁用插件,避免插件可能带来的影响
  • 使用--inprivate打开无痕模式,这里遇到一个很烦的问题,用户登录同步问题,无痕模式可以避免
python 复制代码
from webdriver_manager.microsoft import EdgeChromiumDriverManager

def get_html_by_selenium(url):
    print("开始:", url)
    options = webdriver.EdgeOptions()
    # 启用'禁用浏览器正在被自动化程序控制的提示'启动参数
    options.add_experimental_option("excludeSwitches", ["enable-automation"])
    # 禁用插件
    options.add_argument("--disable-extensions")
    # 无痕模式
    options.add_argument('--inprivate')
    count = 0
    driver = None
    while count < 10:
        try:
            driver = webdriver.Edge(service=Service(executable_path=EdgeChromiumDriverManager().install()),
                                    options=options)
            # 最小化
            driver.minimize_window()
            time.sleep(1)
            driver.get(url)
            break
        except WebDriverException as e:
            print(e)
            count += 1
            time.sleep(3)
            continue
        except ConnectionError as e:
            print(e)
            count += 1
            time.sleep(3)
            continue
    if driver is None:
        return
    time.sleep(10)
    try:
        html = driver.page_source
        # 防止内存泄露
        driver.refresh()
        try:
            driver.close()
        except WebDriverException:
            pass
        driver.quit()

        return html
    except NoSuchWindowException:
        return

新闻列表解析代码

URL示例:

https://www.toutiao.com/c/user/token/MS4wLjABAAAA6Ftyf-tftfbjp1u_TEz6kpY77ZlPaYRV0UsfXkF2UsM/?tab=article

这里比较简单,拿到了新闻标题和url,HTML解析过程中可能遇到浏览器中渲染的html结构和真实请求到的html结构不一样,要以真实拿到的html内容为准

python 复制代码
url = f"https://www.toutiao.com/c/user/token/{USER_TOKEN}/?tab=article"
html = get_html_by_selenium(url)
soup = BeautifulSoup(html, "html.parser")

for article in soup.find_all("div", attrs={"class": "profile-article-card-wrapper"}):
    a = article.find("a")
    news_title = a["title"]
    url = a["href"]
    content, news_time = parse_and_save_news(url)

新闻内容解析代码

相对比较简单,忽略了图片的解析,最终获得新闻的内容和新闻时间

python 复制代码
def parse_and_save_news(url):
    html = get_html_by_selenium(url)
    if not html:
        return
    soup = BeautifulSoup(html, "html.parser")
    article_content = soup.find("div", attrs={"class": "article-content"})
    if article_content is None:
        return
    article_meta = soup.find("div", attrs={"class": "article-meta"})
    time_string = article_meta.find("span", attrs=None).text
    news_time = datetime.strptime(time_string, "%Y-%m-%d %H:%M")
    article = article_content.article
    new_soup = BeautifulSoup("<html><body></body></html>", "html.parser")
    body = new_soup.body
    for p in article.find_all("p"):
        body.append(BeautifulSoup(f"<p>{p.text}</p>", "html.parser"))

    content = new_soup.prettify()

    return content, news_time
相关推荐
傻啦嘿哟12 分钟前
如何使用 Python 开发一个简单的文本数据转换为 Excel 工具
开发语言·python·excel
B站计算机毕业设计超人18 分钟前
计算机毕业设计SparkStreaming+Kafka旅游推荐系统 旅游景点客流量预测 旅游可视化 旅游大数据 Hive数据仓库 机器学习 深度学习
大数据·数据仓库·hadoop·python·kafka·课程设计·数据可视化
IT古董42 分钟前
【人工智能】Python在机器学习与人工智能中的应用
开发语言·人工智能·python·机器学习
不做超级小白43 分钟前
工欲善其事,必先利其器;爬虫路上,我用抓包
爬虫
Smartdaili China1 小时前
如何在 Microsoft Edge 中设置代理: 快速而简单的方法
前端·爬虫·安全·microsoft·edge·社交·动态住宅代理
湫ccc1 小时前
《Python基础》之pip换国内镜像源
开发语言·python·pip
hakesashou1 小时前
Python中常用的函数介绍
java·网络·python
菜鸟的人工智能之路1 小时前
极坐标气泡图:医学数据分析的可视化新视角
python·数据分析·健康医疗
菜鸟学Python1 小时前
Python 数据分析核心库大全!
开发语言·python·数据挖掘·数据分析
小白不太白9501 小时前
设计模式之 责任链模式
python·设计模式·责任链模式