node.js 刷csdn博客访问量

app.js

javascript 复制代码
const express = require('express');
const csdn = require('./csdn.js');
 
const app = express();
 
app.use(csdn);
 
app.listen(3000, function() {
  console.log('running in http://127.0.0.1:3000');
});

csdn.js

javascript 复制代码
var express = require('express')
var router = express.Router()
const iconv = require('iconv-lite')
// 添加依赖
var request = require('request')
var cheerio = require('cheerio')
/* GET users listing. */

let intervalArticle = function (urls) {
  var count = 0 // 刷了多少次
  var len = urls.length // 需要刷的文章篇数
  var co = 0 // 为了循环刷新

  setInterval(function () {
    count = count + 1
    // 随机生成0~len的数字,可以按顺序刷,也可以随机刷
    // co = Math.floor(Math.random() * len)
    // 请求博客地址
    request(urls[co].url, function (error, response, body) {
      if (!error && response.statusCode === 200) {
        let buffer = iconv.encode(`seeEount: ${count} , title: ${urls[co].title} , loadTimes: ${parseInt((count + len) / len)}`, 'binary')
        let bufferStr = iconv.decode(buffer, 'cp936')
        console.log(bufferStr)
      }
    })
    ++co
    if (co === len) {
      co = 0
    }
  }, 1500)
}

// 当前页码,这个可以自定义也可以从页面抓取,这里我就不赘述了
let indexPage = 6
// 博客地址 + /article/list/ + 页码  表示当前网页
let url = 'https://blog.csdn.net/qq_43592064/article/list/' + indexPage
// 获取博客主页
router.get('/reptile', function (req, res, next) {
  request(url, (error, response, body) => {
    if (!error && response.statusCode === 200) {
      // 获取html文档
      let $ = cheerio.load(body)
      // 计算总页数
      let allCount = $('#blog_statistics li span').first().text() || 20
      let page = parseInt(allCount) / 20
      let pageStr = page.toString()
      // 不能被整除
      if (pageStr.indexOf('.') > 0) {
        page = parseInt(pageStr.split('.')[0]) + 1
      }
      // 返回的json数据
      let data = {}
      // 文章集合
      let articles = []
      data.allPages = page
      data.currentPage = parseInt(indexPage)
      // 博客主页列表网址存在 .article-list h4 a 标签中,这个随时可能变
      $('.article-list h4 a').each((ins, el) => {
        let article = {} // 每篇文章的字典
        $(el).find(".article-type").remove()
        // 获取文本去除空格以及回车换行
        let text = ($(el).text().replace(/\ +/g, "")).replace(/[\r\n]/g, "")
        // 获取博客网址
        let url = ($(el).attr('href').replace(/\ +/g, "")).replace(/[\r\n]/g, "")
        // title太长可以隐藏
        if (text.length > 20) {
          text = text.substring(0, 20).concat('...')
        }
        article.title = text
        article.url = url
        articles.push(article)
      })
      data.articles = articles
      // 执行函数,开启定时任务,请求博客
      intervalArticle(articles)
      res.set('Content-Type', 'text/html; charset=utf8')
      res.end(JSON.stringify(data))
    } else {
      // 返回的json数据
      let data = {}
      data.msg = '爬取失败'
    }
  })
})

module.exports = router

打开浏览器输入:http://localhost:3000/reptile

后续优化:获取所有的博客链接后拼接,刷新用户名下所有的博客文章

可参考链接:https://github.com/QiYuOr2/node-spider-csdn

相关推荐
nvvas14 分钟前
npm : 无法加载文件 D:\nvm\nodejs\npm.ps1,因为在此系统上禁止运行脚本问题解决
前端·npm·node.js
阿珊和她的猫2 小时前
Webpack Loader 和 Plugin 实现原理详解
前端·webpack·node.js
luckyzlb4 小时前
03-node.js & webpack
前端·webpack·node.js
濮水大叔7 小时前
VonaJS: 直观好用的分布式锁
typescript·node.js·nestjs
濮水大叔8 小时前
VonaJS: I18n如何支持Swagger多语言
typescript·node.js·nestjs
孟陬9 小时前
Bun Test 不支持时间快进?我用这招让单元测试提速 8 倍!
node.js·测试·bun
Less^_^10 小时前
使用 Node.js 开发 Telegram Bot 完整指南
ai·node.js
防火墙在线18 小时前
前后端通信加解密(Web Crypto API )
前端·vue.js·网络协议·node.js·express
水冗水孚1 天前
效能工具(九)之编写nodejs脚本使用get-video-duration批量读取视频时长,并生成sql语句修复数据库表字段值
sql·node.js
huangql5201 天前
Vite与Webpack完全指南:从零开始理解前端构建工具
前端·webpack·node.js