GO并发统计文件大小

复制代码
import (
   "fmt"
   "io/fs"
   "log"
   "os"
   "path/filepath"
   "sync"
)

// WalkDir 外部调用的遍历目录统计信息的方法
func WalkDir(dirs ...string) string {
   // 保证至少有一个目录需要统计遍历
   // 默认当前目录
   if len(dirs)==0{
      dirs=[]string{"."}
   }

   // 初始化变量,channel用于完成Size的传递,WaitGroup用于等待调度
   fileSizeCh:=make(chan int64,1)
   wg:=&sync.WaitGroup{}

   // 启动多个Goroutine统计信息,取决于len(dirs)
   for _,dir:=range dirs{
      wg.Add(1)
      // 并发的编历统计每个目录的信息
      go walkDir(dir,fileSizeCh,wg)
   }

   // 启动累计运算的Goroutine
   // 1.用户关闭fileSizeCh
   go func(wg *sync.WaitGroup) {
      // 等待统计工作完成
      wg.Wait()
      // 关闭fileSizeCh
      close(fileSizeCh)
   }(wg)

   // 2,range的方式从fileSizeCh中获取文件大小
   // 3. 统计结果,使用channel传递出来
   fileNumCh:=make(chan int64,1)
   sizeTotalCh:=make(chan int64,1)
   go func(fileSizeCh <-chan int64,fileNumCh,sizeTotalCh chan<- int64) {
      // 统计文件数,和文件整体大小
      var fileNum,sizeToTal int64
      // 遍历全部的filesizeCh元素,统计文件数量和大小,直到channel被关闭
      for filesize:=range fileSizeCh{
         // 累计文件数,和统计文件整体大小
         fileNum++
         sizeToTal+=filesize
      }
      // 将统计结果发送到对应的channel中
      fileNumCh<-fileNum
      sizeTotalCh<-sizeToTal
   }(fileSizeCh,fileNumCh,sizeTotalCh)

   // 整理返回值
   // size 的单位是Byte
   // 需要的单位是 MB
   result:=fmt.Sprintf("%d files %.2f MB\n",<-fileNumCh,float64(<-sizeTotalCh)/1e6)
   return result
}

// 遍历并统计某个目录的信息
// 核心实现函数,完成递归,统计等
func walkDir(dir string,fileSizeCh chan<-int64,wg *sync.WaitGroup)  {
   // 一:wg的计数器减少
   defer wg.Done()

   // 二:读取dir下的全部文件信息,并遍历
   for _,fileinfo:=range fileInfos(dir){
      // 三:根据dir下的文件信息
      if fileinfo.IsDir(){
         // 1.如果目录,递归获取信息
         // 子目录地址
         subDir:=filepath.Join(dir,fileinfo.Name())
         // 递归调用,阳是并发的,也需要wg统计
         wg.Add(1)
         go walkDir(subDir,fileSizeCh,wg)
      }else{
         // 2.如果不是,就是文件,统计文件大小,放入channel
         fileSizeCh<-fileinfo.Size()
      }
   }
}

// 获取某个目录下的文件信息列表
func fileInfos(dir string)[]fs.FileInfo  {
   // 1.读取目录的全部文件
   entries,err:=os.ReadDir(dir)
   if err!=nil{
      log.Println("WalkDir error:",err)
      return []fs.FileInfo{}
   }
   // 2.如获取文件的文件信息
   // DirEntry to FileInfo
   infos:=make([]fs.FileInfo,0,len(entries))
   for _,entry:=range entries{
      // 如果获取文件信息无错误,存储到Infos中
      if info,err:=entry.Info();err==nil{
         infos=append(infos,info)
      }
   }
   // 3.返回
   return infos
}
相关推荐
一缕清烟在人间4 分钟前
HarmonyOS应用开发实战:萌宠日记 - 健康提醒列表与动态数据绑定
后端
HONG````5 分钟前
HarmonyOS 6.1 实战:Stack 层叠布局与 Overlay 浮层详解
后端
冰暮流星17 分钟前
javascript之String方法介绍
开发语言·javascript·ecmascript
nianniannnn39 分钟前
Qt QMessageBox知识点
开发语言·数据库·qt
故乡de云1 小时前
AWS 添加付款方式失败排查清单:卡片、银行风控与账号状态逐项定位
开发语言·php
J_yyy1 小时前
【Qt核心组件类框架】
开发语言·qt
程序员cxuan1 小时前
离谱,GPT-5.6 竟然在后台执行了 rm -rf
人工智能·后端·程序员
Csvn1 小时前
📊 SQL 入门 Day 9:CTE(公用表表达式)— 让 SQL 像写代码一样优雅
后端·sql
运维行者_1 小时前
如何查看每个IP的带宽使用情况?NetFlow 技术实战指南
开发语言·网络·分布式·后端·架构·带宽
天天进步20152 小时前
Python全栈项目--基于深度学习的图像超分辨率系统
开发语言·python·深度学习