谷歌学术内容爬取

最近面临导师灵魂拷问:

"你怎么知道你提出的这个方法前人都没有提出过呢?"

"你相比于之前的方法,创新点究竟在哪里?"

好吧,为了彻底杜绝这样的问题,开始学习使用谷歌学术。先来学习下关键词检索



哈哈哈哈区区50000篇文章。。。。。。

我特么翻到何年何月呀!🙄

于是滋生了Python写爬虫的想法。


基本原理如下:

使用scholarly库。下面是一份简单、分步骤的指南:

  1. 安装scholarly:

    bash 复制代码
    pip install scholarly
  2. 编写Python脚本:

    python 复制代码
    from scholarly import scholarly
    
    # 搜索关键词
    搜索查询 = scholarly.search_pubs('你感兴趣的关键词')
    
    # 检索前5个结果
    for i in range(5):
        出版物 = next(搜索查询)
        标题 = 出版物['bib']['title']
        作者 = ', '.join(出版物['bib']['author'])
        摘要 = 出版物['bib'].get('abstract', '没有摘要可用')
    
        print(f"标题: {标题}")
        print(f"作者: {作者}")
        print(f"摘要: {摘要}\n")
  3. 运行脚本:

    bash 复制代码
    python 你的脚本.py

'你感兴趣的关键词'替换为你实际感兴趣的关键词。脚本将打印前5个相关文献项目的标题、作者和摘要。


之后对代码进行了一些改进,包括

  1. 运行前,评估文献总数
  2. 增加合适的睡眠时长(防止请求太频繁被ban掉)
  3. 一边请求,一遍将数据写入本地文件中。防止被ban掉之后,数据全没了

目前一切正常


导入excel并进行分列,似乎效果还行


点赞👍+关注⭐+私信,免费获取代码

支持 👉 快速下载地址

相关推荐
API快乐传递者6 小时前
淘宝反爬虫机制的主要手段有哪些?
爬虫·python
兜里有糖请分享16 小时前
Python中序列化/反序列化JSON格式的数据
爬虫·python
亿牛云爬虫专家1 天前
用Puppeteer点击与数据爬取:实现动态网页交互
javascript·爬虫·爬虫代理·puppeteer·数据·代理ip·16yun
API快乐传递者1 天前
利用Python 的爬虫技术淘宝天猫销量和库存
开发语言·爬虫·python
操练起来1 天前
【Python实战案例】爬虫项目实例(附赠源码)
数据库·爬虫·python
编码小袁1 天前
利用爬虫爬取网站信息
爬虫
孤寒者1 天前
【实战篇】requests库 - 有道云翻译爬虫 【附:代理IP的使用】
爬虫·代理ip·隧道代理·有道云翻译爬虫·青果代理ip
=(^.^)=哈哈哈1 天前
从安全角度看多线程(附Golang举例)
爬虫·python·golang
Python_trys1 天前
Python网络爬虫入门篇!
开发语言·爬虫·python
摇光~1 天前
7篇Python爬虫实例,直接代码可运行,全网最全,注释超详细(适合收藏)——2、爬取图片信息。
开发语言·爬虫·python