Java 爬虫 jvppeteer

开源地址https://gitee.com/fanyong920/jvppeteer

maven依赖:

复制代码
        <!-- java爬虫 -->
        <dependency>
            <groupId>io.github.fanyong920</groupId>
            <artifactId>jvppeteer</artifactId>
            <version>1.1.3</version>
        </dependency>

首次先下载Chrome启动器:

//自动下载,第一次下载后不会再下载

//BrowserFetcher.downloadIfNotExist(null);

如果失败按命令提示手动下载安装即可。

常用示例代码:

复制代码
package com.java.jvppeteer.controller;

import com.java.jvppeteer.service.CommonService;
import com.ruiyun.jvppeteer.core.Puppeteer;
import com.ruiyun.jvppeteer.core.browser.Browser;
import com.ruiyun.jvppeteer.core.page.Page;
import com.ruiyun.jvppeteer.options.*;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.HttpStatus;
import org.springframework.http.ResponseEntity;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

import java.util.ArrayList;

@RestController
@RequestMapping(value = "/common")
public class CommonController {

    @PostMapping("/hello")
    public ResponseEntity<?> sayHello() {
        String value = "hello world!";
        return new ResponseEntity<>(value, HttpStatus.OK);
    }

    /**
     * 启动浏览器
     */
    @GetMapping("/start")
    public void start() {
        try {
            //设置基本的启动配置,这里选择了'有头'模式启动
            ArrayList<String> argList = new ArrayList<>();
            //自动下载,第一次下载后不会再下载
            //BrowserFetcher.downloadIfNotExist(null);
            LaunchOptions options = new LaunchOptionsBuilder().withArgs(argList).withHeadless(false).build();
            argList.add("--no-sandbox");
            argList.add("--disable-setuid-sandbox");
            Puppeteer.launch(options);
        } catch (Exception e) {
            throw new RuntimeException(e);
        }
    }

    /**
     * 页面跳转
     * @param
     * @return void
     */
    @GetMapping("/go")
    public void go() {
        try {
            //自动下载,第一次下载后不会再下载
            //BrowserFetcher.downloadIfNotExist(null);
            ArrayList<String> argList = new ArrayList<>();
            // withHeadless 是否开启无头模式,无头模式不会显示浏览器
            LaunchOptions options = new LaunchOptionsBuilder().withArgs(argList).withHeadless(false).build();
            argList.add("--no-sandbox");
            argList.add("--disable-setuid-sandbox");
            Browser browser = Puppeteer.launch(options);

            Page page = browser.newPage();
            page.goTo("https://www.baidu.com/");
        } catch(Exception e){
            e.printStackTrace();
        }
    }

    /**
     * 生成pdf
     * @param
     * @return void
     */
    @GetMapping("/pdf")
    public void pdf() {
        try {
            ArrayList<String> arrayList = new ArrayList<>();
            //生成pdf必须在无头模式下才能生效
            LaunchOptions options = new LaunchOptionsBuilder().withArgs(arrayList).withHeadless(true).build();
            arrayList.add("--no-sandbox");
            arrayList.add("--disable-setuid-sandbox");
            Browser browser = Puppeteer.launch(options);
            Page page = browser.newPage();
            page.goTo("https://gitee.com/fanyong920/jvppeteer");
            PDFOptions pdfOptions = new PDFOptions();
            pdfOptions.setPath("/Users/mac/BOOTCAMP/jayce/jvppeteer/test.pdf");
            page.pdf(pdfOptions);
            page.close();
        } catch(Exception e){
            e.printStackTrace();
        }
    }

    /**
     * 性能分析
     * @param
     * @return void
     */
    @GetMapping("/tracing")
    public void tracing() {
        try {
            ArrayList<String> argList = new ArrayList<>();
            LaunchOptions options = new LaunchOptionsBuilder().withArgs(argList).withHeadless(true).build();
            argList.add("--no-sandbox");
            argList.add("--disable-setuid-sandbox");
            Browser browser = Puppeteer.launch(options);
            Page page = browser.newPage();
            //开启追踪
            page.tracing().start("/Users/mac/BOOTCAMP/jayce/jvppeteer/trace.json");
            page.goTo("https://www.baidu.com/?tn=98012088_10_dg&ch=3");
            page.tracing().stop();
        } catch(Exception e){
            e.printStackTrace();
        }
    }

    /**
     * 页面截图
     */
    @GetMapping("/screenshot")
    public void screenshot() {
        try {
            ArrayList<String> arrayList = new ArrayList<>();
            LaunchOptions options = new LaunchOptionsBuilder().withArgs(arrayList).withHeadless(true).build();
            arrayList.add("--no-sandbox");
            arrayList.add("--disable-setuid-sandbox");
            Browser browser = Puppeteer.launch(options);
            Page page = browser.newPage();
            page.goTo("https://www.baidu.com/?tn=98012088_10_dg&ch=3");
            ScreenshotOptions screenshotOptions = new ScreenshotOptions();
            //设置截图范围
            Clip clip = new Clip(1.0,1.56,400,400);
            screenshotOptions.setClip(clip);
            //设置存放的路径
            screenshotOptions.setPath("/Users/mac/BOOTCAMP/jayce/jvppeteer/test.png");
            page.screenshot(screenshotOptions);
        } catch(Exception e){
            e.printStackTrace();
        }
    }
}
相关推荐
心情好的小球藻8 分钟前
Python应用进阶DAY9--类型注解Type Hinting
开发语言·python
ldj202013 分钟前
SpringBoot为什么使用new RuntimeException() 来获取调用栈?
java·spring boot·后端
超龄超能程序猿14 分钟前
Spring 应用中 Swagger 2.0 迁移 OpenAPI 3.0 详解:配置、注解与实践
java·spring boot·后端·spring·spring cloud
惜.己20 分钟前
使用python读取json数据,简单的处理成元组数组
开发语言·python·测试工具·json
风象南26 分钟前
SpringBoot配置属性热更新的轻量级实现
java·spring boot·后端
洛阳泰山27 分钟前
Spring Boot 整合 Nacos 实战教程:服务注册发现与配置中心详解
java·spring boot·后端·nacos
Y40900127 分钟前
C语言转Java语言,相同与相异之处
java·c语言·开发语言·笔记
YuTaoShao28 分钟前
【LeetCode 热题 100】994. 腐烂的橘子——BFS
java·linux·算法·leetcode·宽度优先
布朗克16828 分钟前
java常见的jvm内存分析工具
java·jvm·数据库
都叫我大帅哥2 小时前
深入浅出 Resilience4j:Java 微服务的“免疫系统”实战指南
java·spring cloud