GO并发统计文件大小

复制代码
import (
   "fmt"
   "io/fs"
   "log"
   "os"
   "path/filepath"
   "sync"
)

// WalkDir 外部调用的遍历目录统计信息的方法
func WalkDir(dirs ...string) string {
   // 保证至少有一个目录需要统计遍历
   // 默认当前目录
   if len(dirs)==0{
      dirs=[]string{"."}
   }

   // 初始化变量,channel用于完成Size的传递,WaitGroup用于等待调度
   fileSizeCh:=make(chan int64,1)
   wg:=&sync.WaitGroup{}

   // 启动多个Goroutine统计信息,取决于len(dirs)
   for _,dir:=range dirs{
      wg.Add(1)
      // 并发的编历统计每个目录的信息
      go walkDir(dir,fileSizeCh,wg)
   }

   // 启动累计运算的Goroutine
   // 1.用户关闭fileSizeCh
   go func(wg *sync.WaitGroup) {
      // 等待统计工作完成
      wg.Wait()
      // 关闭fileSizeCh
      close(fileSizeCh)
   }(wg)

   // 2,range的方式从fileSizeCh中获取文件大小
   // 3. 统计结果,使用channel传递出来
   fileNumCh:=make(chan int64,1)
   sizeTotalCh:=make(chan int64,1)
   go func(fileSizeCh <-chan int64,fileNumCh,sizeTotalCh chan<- int64) {
      // 统计文件数,和文件整体大小
      var fileNum,sizeToTal int64
      // 遍历全部的filesizeCh元素,统计文件数量和大小,直到channel被关闭
      for filesize:=range fileSizeCh{
         // 累计文件数,和统计文件整体大小
         fileNum++
         sizeToTal+=filesize
      }
      // 将统计结果发送到对应的channel中
      fileNumCh<-fileNum
      sizeTotalCh<-sizeToTal
   }(fileSizeCh,fileNumCh,sizeTotalCh)

   // 整理返回值
   // size 的单位是Byte
   // 需要的单位是 MB
   result:=fmt.Sprintf("%d files %.2f MB\n",<-fileNumCh,float64(<-sizeTotalCh)/1e6)
   return result
}

// 遍历并统计某个目录的信息
// 核心实现函数,完成递归,统计等
func walkDir(dir string,fileSizeCh chan<-int64,wg *sync.WaitGroup)  {
   // 一:wg的计数器减少
   defer wg.Done()

   // 二:读取dir下的全部文件信息,并遍历
   for _,fileinfo:=range fileInfos(dir){
      // 三:根据dir下的文件信息
      if fileinfo.IsDir(){
         // 1.如果目录,递归获取信息
         // 子目录地址
         subDir:=filepath.Join(dir,fileinfo.Name())
         // 递归调用,阳是并发的,也需要wg统计
         wg.Add(1)
         go walkDir(subDir,fileSizeCh,wg)
      }else{
         // 2.如果不是,就是文件,统计文件大小,放入channel
         fileSizeCh<-fileinfo.Size()
      }
   }
}

// 获取某个目录下的文件信息列表
func fileInfos(dir string)[]fs.FileInfo  {
   // 1.读取目录的全部文件
   entries,err:=os.ReadDir(dir)
   if err!=nil{
      log.Println("WalkDir error:",err)
      return []fs.FileInfo{}
   }
   // 2.如获取文件的文件信息
   // DirEntry to FileInfo
   infos:=make([]fs.FileInfo,0,len(entries))
   for _,entry:=range entries{
      // 如果获取文件信息无错误,存储到Infos中
      if info,err:=entry.Info();err==nil{
         infos=append(infos,info)
      }
   }
   // 3.返回
   return infos
}
相关推荐
demo007x13 分钟前
Docling 文档转换以及技术架构分析
前端·后端·程序员
袋鱼不重2 小时前
我的神奇同事,AI 用多了居然写了个 Open In Codex
前端·后端·ai编程
用户8356290780512 小时前
使用 Python 操作 Word 内容控件
后端·python
像我这样帅的人丶你还2 小时前
啥? 前端也要会干Java?🛵🛵🛵
后端
Hommy882 小时前
【剪映小助手】添加贴纸接口(Add Sticker)
后端·github·剪映小助手·视频剪辑自动化·剪映api
LDR0062 小时前
Type-C 快充全面升级!LDR6601 赋能个人护理便携电机,重塑剃须刀 / 理发器新体验
c语言·开发语言
雪碧聊技术2 小时前
Tree.js是什么?一文讲透
开发语言·javascript·ecmascript
码云数智-园园2 小时前
C++20 Modules 模块详解
java·开发语言·spring
CaffeinePro2 小时前
FastAPI响应处理:返回值、状态码、响应头与异常标准化与案例解析
后端
swordbob3 小时前
NIO的channel中什么是 fd(File Descriptor,文件描述符)
java·开发语言·nio