Go语言实战案例：实现HTTP客户端请求并解析响应

本文是 Go 网络与并发实战系列的第2篇，聚焦于如何使用 Go 实现一个 HTTP 客户端，完成请求发送、响应解析、错误处理、Header与Body提取等完整流程。

---

一、前言：为什么学习HTTP客户端？

在日常开发中，无论是调用 RESTful API、采集网页数据，还是进行微服务之间的通信，HTTP 客户端几乎无处不在。Go 的标准库 net/http 不仅强大，还非常易用。掌握其用法，是成为高效后端开发者的基础。

---

二、实战目标

我们将通过以下几个功能模块，构建一个具备实用能力的 HTTP 客户端工具：

1. 发送 GET 请求
2. 自定义请求头
3. 解析响应状态码、Header、Body
4. 处理错误和超时
5. 使用并发请求多个URL（引入Goroutine）

---

三、完整代码示例

package main

import (
    "fmt"
    "io"
    "log"
    "net/http"
    "time"
)

// 发起一个 GET 请求，并解析响应
func fetchURL(url string) {
    // 创建自定义客户端，设置超时
    client := http.Client{
        Timeout: 5 * time.Second,
    }

    // 创建请求
    req, err := http.NewRequest("GET", url, nil)
    if err != nil {
        log.Printf("创建请求失败：%v\n", err)
        return
    }

    // 添加自定义头部
    req.Header.Set("User-Agent", "Go-http-client/1.1")

    // 发起请求
    resp, err := client.Do(req)
    if err != nil {
        log.Printf("请求失败：%v\n", err)
        return
    }
    defer resp.Body.Close()

    // 输出状态码和Header
    fmt.Printf("请求 URL: %s\n", url)
    fmt.Printf("响应状态码: %d\n", resp.StatusCode)
    fmt.Println("响应头部:")
    for key, value := range resp.Header {
        fmt.Printf("  %s: %v\n", key, value)
    }

    // 读取响应体
    body, err := io.ReadAll(resp.Body)
    if err != nil {
        log.Printf("读取响应失败：%v\n", err)
        return
    }

    fmt.Println("响应体内容预览（前500字）：")
    fmt.Println(string(body[:min(500, len(body))]))
    fmt.Println("--------------------------------------------------")
}

// 工具函数：取最小值
func min(a, b int) int {
    if a < b {
        return a
    }
    return b
}

func main() {
    urls := []string{
        "https://httpbin.org/get",
        "https://api.github.com",
        "https://example.com",
    }

    // 并发请求多个URL
    for _, url := range urls {
        go fetchURL(url)
    }

    // 防止主协程提前退出
    time.Sleep(6 * time.Second)
}

---

四、重点功能解析

1. http.NewRequest

通过该方法构建一个更灵活的 HTTP 请求，可自定义方法、Header、Body等。

2. 自定义 User-Agent

很多服务器会基于请求头判断来源，尤其是爬虫或API请求时需要设置合适的头部。

req.Header.Set("User-Agent", "Go-http-client/1.1")

3. 设置超时控制

使用 http.Client 的 Timeout 字段，避免请求阻塞或服务器长时间无响应。

client := http.Client{
    Timeout: 5 * time.Second,
}

4. 响应体读取与预览

使用 io.ReadAll 读取响应体内容，并限制打印长度，避免控制台被大段HTML淹没。

---

五、并发请求的实现

我们使用 go fetchURL(url) 启动多个 Goroutine 并发处理多个请求，最后用 time.Sleep 暂停主程序等待请求完成。

✅ 在实际生产中，推荐使用 sync.WaitGroup 等更优雅的方式管理协程生命周期。

---

六、运行输出示例

以下是实际运行的控制台输出片段：

请求 URL: https://httpbin.org/get
响应状态码: 200
响应头部:
  Content-Type: [application/json]
  Server: [gunicorn/19.9.0]
响应体内容预览（前500字）：
{
  "args": {}, 
  "headers": {
    "Accept-Encoding": "gzip", 
    "Host": "httpbin.org", 
    "User-Agent": "Go-http-client/1.1", 
    "X-Amzn-Trace-Id": "Root=1-xxxxxxxx"
  }, 
  "origin": "x.x.x.x", 
  "url": "https://httpbin.org/get"
}
--------------------------------------------------

---

七、拓展建议

若你想进一步提升HTTP客户端的能力，可深入以下内容：

• 添加 POST、PUT、DELETE 请求的支持（包括 JSON、Form 提交）
• 添加代理设置与证书校验
• 使用 context.Context 实现请求取消控制
• 使用 sync.WaitGroup 或 errgroup.Group 实现高效并发请求
• 使用第三方库如 resty 简化代码结构

---

八、总结

本篇案例展示了如何使用 Go 语言内置的 net/http 构建强大而灵活的 HTTP 客户端。通过设置请求头、读取响应、处理错误并支持并发请求，我们可以轻松应对各种 Web API 调用和数据采集需求。

Go 语言让网络编程回归本质，去繁就简。