C#语言练手小功能

抓取网页上公开可见的图片。涉及知识点:

  1. 异步编程:async和await进行异步编程,将耗时的操作放在后台线程中进行,并使用await关键字等待操作完成,不阻塞主线程的执行。
  2. HttpClient:用来发送http请求,并获取响应。可以使用GetAsync发送Get请求,并使用ReadAsStringAsync方法将响应内容读取为字符串。
  3. HttpResponseMessage:http响应的消息,其中包含响应的状态码、头信息、内容等。使用IsSuccessStatusCode判断响应是否成功。
  4. HtmlAgilityPack库:用来解析HTML文档,使用LoadHtml方法从字符串中加载html内容,并创建HtmlDocument对象。使用Descendants方法获取指定标签元素。
  5. Linq查询:获取img元素进行筛选和转换,使用Select获取每个img元素的src属性值,并使用Where进行过滤。
  6. 图片下载:使用HttpClient.GetAsync方法下载图片,并使用ReadAsStreamAsync方法将下载的图片内容作为流进行处理。使用Path类获取图片文件名和指定保存路径,使用FileStream类创建文件流将图片保存到本地。
  7. 异常处理:try-catch
cs 复制代码
using HtmlAgilityPack;

public async void GetImagesFromWeb(string ip,string webPage)//ip,webPage:html网页 
        {
            string webUrl = ip+webPage;  //抓取图片的网页url
            string saveDir = "E:\\File_work\\files\\ResultSaveDir\\ImagesFromWeb";

            HttpClient httpClient = new HttpClient();

            try
            {
                //向指定url发送HttpGet请求,并返回一个表示http响应的httpResponseMessage对象
                HttpResponseMessage response =await httpClient.GetAsync(webUrl); //HttpResponseMessage包含了响应的状态码、头信息、内容等
                
                if (response.IsSuccessStatusCode)    //状态码为200-299,,则IsSuccessStatusCode属性为true
                {
                    string htmlContent=await response.Content.ReadAsStringAsync();//将http响应的内容作为字符串读取
                    //使用HtmlAgilityPack解析html文档
                    HtmlDocument doc = new HtmlDocument();
                    doc.LoadHtml(htmlContent);//从字符串中加载html内容,并创建HtmlDocument对象

                    //获取img元素中的src属性,html中的img元素用于向网页中插入图像,src属性制定了要显示的图片文件的url
                    var imageUrls = doc.DocumentNode.Descendants("img")  //从根节点开始获取所有的img标签
                        .Select(img => img.GetAttributeValue("src", null))//获取每个img的src属性值
                        .Where(src => !string.IsNullOrEmpty(src));
                    foreach(var imgUrl in imageUrls)
                    {
                        try
                        {
                            HttpResponseMessage imgResponse=await httpClient.GetAsync(ip+imgUrl);
                            if (imgResponse.IsSuccessStatusCode)
                            {
                                Stream imgStream=await imgResponse.Content.ReadAsStreamAsync();
                                //获取图片文件名
                                string imgName = Path.GetFileName(imgUrl);
                                //指定保存路径
                                string savePath = Path.Combine(saveDir, imgName);

                                FileStream fileStream = new FileStream(savePath,FileMode.Create);
                                await imgStream.CopyToAsync(fileStream);
                            }
                            else
                            {
                                Console.WriteLine($"图片下载失败: {imgUrl}. 状态码: {imgResponse.StatusCode}");
                            }
                        }
                        catch(Exception ex)
                        {
                            Console.WriteLine($"图片下载出错: {imgUrl}: {ex.Message}");
                        }
                    }
                    Console.WriteLine($"{imageUrls.Count()} 图片下载成功.");
                }
                else
                {
                    Console.WriteLine($"页面请求失败. 错误码: {response.StatusCode}");
                }
            }

            catch(Exception ex)
            {
                Console.WriteLine(ex.Message);
            }
        }
相关推荐
Alice-YUE3 分钟前
【js高频八股】防抖与节流
开发语言·前端·javascript·笔记·学习·ecmascript
云泽8088 分钟前
C++11 核心特性全解:列表初始化、右值引用与移动语义实战
开发语言·c++
froginwe1126 分钟前
DOM 加载函数
开发语言
Hello eveybody42 分钟前
介绍一下背包DP(Python)
开发语言·python·动态规划·dp·背包dp
AI进化营-智能译站1 小时前
ROS2 C++开发系列12-用多态与虚函数构建可扩展的ROS2机器人行为模块
开发语言·c++·ai·机器人
iCxhust1 小时前
微机原理实践教程(C语言篇)---A002流水灯
c语言·开发语言·单片机·嵌入式硬件·51单片机·课程设计·微机原理
莎士比亚的文学花园1 小时前
Linux驱动开发(3)——设备树
开发语言·javascript·ecmascript
图码2 小时前
如何用多种方法判断字符串是否为回文?
开发语言·数据结构·c++·算法·阿里云·线性回归·数字雕刻
U盘失踪了2 小时前
python curl转python脚本
开发语言·chrome·python
charlie1145141912 小时前
Linux 字符设备驱动:cdev、设备号与设备模型
linux·开发语言·驱动开发·c