谷歌学术内容爬取

最近面临导师灵魂拷问:

"你怎么知道你提出的这个方法前人都没有提出过呢?"

"你相比于之前的方法,创新点究竟在哪里?"

好吧,为了彻底杜绝这样的问题,开始学习使用谷歌学术。先来学习下关键词检索



哈哈哈哈区区50000篇文章。。。。。。

我特么翻到何年何月呀!🙄

于是滋生了Python写爬虫的想法。


基本原理如下:

使用scholarly库。下面是一份简单、分步骤的指南:

  1. 安装scholarly:

    bash 复制代码
    pip install scholarly
  2. 编写Python脚本:

    python 复制代码
    from scholarly import scholarly
    
    # 搜索关键词
    搜索查询 = scholarly.search_pubs('你感兴趣的关键词')
    
    # 检索前5个结果
    for i in range(5):
        出版物 = next(搜索查询)
        标题 = 出版物['bib']['title']
        作者 = ', '.join(出版物['bib']['author'])
        摘要 = 出版物['bib'].get('abstract', '没有摘要可用')
    
        print(f"标题: {标题}")
        print(f"作者: {作者}")
        print(f"摘要: {摘要}\n")
  3. 运行脚本:

    bash 复制代码
    python 你的脚本.py

'你感兴趣的关键词'替换为你实际感兴趣的关键词。脚本将打印前5个相关文献项目的标题、作者和摘要。


之后对代码进行了一些改进,包括

  1. 运行前,评估文献总数
  2. 增加合适的睡眠时长(防止请求太频繁被ban掉)
  3. 一边请求,一遍将数据写入本地文件中。防止被ban掉之后,数据全没了

目前一切正常


导入excel并进行分列,似乎效果还行


点赞👍+关注⭐+私信,免费获取代码

支持 👉 快速下载地址

相关推荐
程序员一诺2 小时前
【爬虫开发】爬虫开发从0到1全知识教程第14篇:scrapy爬虫框架,介绍【附代码文档】
后端·爬虫·python·数据
数据采集1024 小时前
Python数据采集:从入门到实战,代码全解析!
爬虫
ONE_Gua5 小时前
chromium魔改——绕过无限debugger反调试
chrome·爬虫·浏览器
ONE_Gua21 小时前
chromium魔改——CDP(Chrome DevTools Protocol)检测01
前端·后端·爬虫
ONE_Gua1 天前
chromium魔改——navigator.webdriver 检测
前端·后端·爬虫
z_mazin1 天前
JavaScript逆向魔法:Chrome开发者工具探秘之旅
javascript·chrome·爬虫
攻城狮7号2 天前
Python爬虫第2节-网页基础和爬虫基本原理
爬虫·python爬虫
π2702 天前
爬虫:网络请求(通信)步骤,http和https协议
网络·爬虫
叫我王富贵i2 天前
0基础入门scrapy 框架,获取豆瓣top250存入mysql
爬虫·python·scrapy
小爬虫程序猿2 天前
利用 PHP 爬虫按关键字搜索淘宝商品
开发语言·爬虫·php