ailx10说:这篇是我2024年7月写的。那阵子我正在做千万级数据的性能优化,想把几个耗时任务安排得更合理一点,于是拿 sleep 写了一个容易看清效果的小实验。六个任务串着跑要等一分钟,换成三个进程一起做,大约二十秒;再把每个任务里的等待拆给线程,时间又缩短了一截。这篇保留了一个进程池示例,也梳理了线程怎样重叠等待。不过这里模拟的是等待,不是拿真实的千万条数据跑出来的成绩;它更适合用来理解进程池、线程池怎样配合,别把演示数字直接当成业务性能保证。
六个 10 秒等待任务交给三个进程时,理想情况下需要约两轮;如果每项任务的两个 5 秒等待互不依赖并能同时进行,耗时可能缩短。实际时间还包括启动和调度开销。
下面用更短的等待演示进程池,不把结果当性能基准:
python
from concurrent.futures import ProcessPoolExecutor
from time import perf_counter, sleep
import os
def task(n):
sleep(0.1)
return (os.getpid(), n * n)
if __name__ == "__main__":
started = perf_counter()
with ProcessPoolExecutor(max_workers=3) as pool:
results = list(pool.map(task, range(1, 7)))
print(results)
print(f"耗时:{perf_counter() - started:.3f} 秒")
线程池可用于重叠等待型工作;两个操作只有确实相互独立时才能同时提交,再通过 future.result() 等待结果。原文把 os.getpid() 输出标成线程 ID;它实际上返回进程 ID。同一进程内可用 threading.get_ident() 查看线程标识。
sleep 是人为模拟等待,不能证明对真实网络、磁盘或 CPU 计算的提速。普通 CPython 中线程对 CPU 密集型 Python 代码的扩展性也受 GIL 等因素影响;应针对工作负载、Python 版本及实际资源分别测量。
这几组数字演示的是等待怎样被重叠,并不是把所有工作都变快的保证。以后遇到真实任务,先分清它是在等IO还是占CPU,再决定把并发加在哪一层。