GO并发统计文件大小

复制代码
import (
   "fmt"
   "io/fs"
   "log"
   "os"
   "path/filepath"
   "sync"
)

// WalkDir 外部调用的遍历目录统计信息的方法
func WalkDir(dirs ...string) string {
   // 保证至少有一个目录需要统计遍历
   // 默认当前目录
   if len(dirs)==0{
      dirs=[]string{"."}
   }

   // 初始化变量,channel用于完成Size的传递,WaitGroup用于等待调度
   fileSizeCh:=make(chan int64,1)
   wg:=&sync.WaitGroup{}

   // 启动多个Goroutine统计信息,取决于len(dirs)
   for _,dir:=range dirs{
      wg.Add(1)
      // 并发的编历统计每个目录的信息
      go walkDir(dir,fileSizeCh,wg)
   }

   // 启动累计运算的Goroutine
   // 1.用户关闭fileSizeCh
   go func(wg *sync.WaitGroup) {
      // 等待统计工作完成
      wg.Wait()
      // 关闭fileSizeCh
      close(fileSizeCh)
   }(wg)

   // 2,range的方式从fileSizeCh中获取文件大小
   // 3. 统计结果,使用channel传递出来
   fileNumCh:=make(chan int64,1)
   sizeTotalCh:=make(chan int64,1)
   go func(fileSizeCh <-chan int64,fileNumCh,sizeTotalCh chan<- int64) {
      // 统计文件数,和文件整体大小
      var fileNum,sizeToTal int64
      // 遍历全部的filesizeCh元素,统计文件数量和大小,直到channel被关闭
      for filesize:=range fileSizeCh{
         // 累计文件数,和统计文件整体大小
         fileNum++
         sizeToTal+=filesize
      }
      // 将统计结果发送到对应的channel中
      fileNumCh<-fileNum
      sizeTotalCh<-sizeToTal
   }(fileSizeCh,fileNumCh,sizeTotalCh)

   // 整理返回值
   // size 的单位是Byte
   // 需要的单位是 MB
   result:=fmt.Sprintf("%d files %.2f MB\n",<-fileNumCh,float64(<-sizeTotalCh)/1e6)
   return result
}

// 遍历并统计某个目录的信息
// 核心实现函数,完成递归,统计等
func walkDir(dir string,fileSizeCh chan<-int64,wg *sync.WaitGroup)  {
   // 一:wg的计数器减少
   defer wg.Done()

   // 二:读取dir下的全部文件信息,并遍历
   for _,fileinfo:=range fileInfos(dir){
      // 三:根据dir下的文件信息
      if fileinfo.IsDir(){
         // 1.如果目录,递归获取信息
         // 子目录地址
         subDir:=filepath.Join(dir,fileinfo.Name())
         // 递归调用,阳是并发的,也需要wg统计
         wg.Add(1)
         go walkDir(subDir,fileSizeCh,wg)
      }else{
         // 2.如果不是,就是文件,统计文件大小,放入channel
         fileSizeCh<-fileinfo.Size()
      }
   }
}

// 获取某个目录下的文件信息列表
func fileInfos(dir string)[]fs.FileInfo  {
   // 1.读取目录的全部文件
   entries,err:=os.ReadDir(dir)
   if err!=nil{
      log.Println("WalkDir error:",err)
      return []fs.FileInfo{}
   }
   // 2.如获取文件的文件信息
   // DirEntry to FileInfo
   infos:=make([]fs.FileInfo,0,len(entries))
   for _,entry:=range entries{
      // 如果获取文件信息无错误,存储到Infos中
      if info,err:=entry.Info();err==nil{
         infos=append(infos,info)
      }
   }
   // 3.返回
   return infos
}
相关推荐
码事漫谈19 小时前
兵临城下:DeepSeek-V4 的技术突围与算力“成人礼”
后端
无巧不成书021819 小时前
零基础Java网络编程全解:从核心概念到Socket实战,一文打通Java网络通信
java·开发语言·网络
饭小猿人19 小时前
Flutter实现底部动画弹窗有两种方式
开发语言·前端·flutter
三水不滴19 小时前
SpringAI + SpringDoc + Knife4j 构建企业级智能问卷系统
经验分享·spring boot·笔记·后端·spring
aq553560019 小时前
Workstation神技:一键克隆调试环境
java·开发语言
lly20240619 小时前
框架:构建高效系统的基石
开发语言
skywalk816320 小时前
发现Kotti项目的python包Beaker 存在安全漏洞
开发语言·网络·python·安全
玖玖passion20 小时前
Windows 上部署 Hermes Agent 完整指南 - 让你的 AI 助手在 WSL2 中跑起来
前端·后端·github
天天进步201520 小时前
Python全栈项目:从零构建基于 Django 的知识管理系统(KMS)
开发语言·python·django