线程池及线程池单例模式

目录

线程池设计

线程池:

线程池的应用场景:

线程池的种类:

线程池的实现

线程池的私有成员:

对类中各个成员函数的理解

线程池构造函数ThreadPool()

HandlerTask()

前言

正文

Stop()

Enqueue()

单例模式线程池

什么是单例模式?

饿汉方式实现单例模式

懒汉方式实现单例模式

实现单例的关键步骤:

[1. ​构造函数私有化](#1. 构造函数私有化)

[2. ​禁止拷贝和赋值​](#2. 禁止拷贝和赋值)

[3. ​静态实例指针](#3. 静态实例指针)

[4. ​提供全局访问方法](#4. 提供全局访问方法)

使用示例:

单例线程池完整代码


线程池设计

线程池:

一种线程使用模式。线程过多会带来调度开销,进而影响缓存局部性和整体性能。而线程池维护着多个线程,等待着监督管理者分配可并发执行的任务。这避免了在处理短时间任务时创建与销毁线程的代价。线程池不仅能够保证内核的充分利用,还能防止过分调度。可用线程数量应该取决于可用的并发处理器、处理器内核、内存、网络sockets等的数量。

线程池的应用场景:

  • 需要大量的线程来完成任务,且完成任务的时间比较短。比如WEB服务器完成网页请求这样的任务,使用线程池技术是非常合适的。因为单个任务小,而任务数量巨大,你可以想象一个热门网站的点击次数。但对于长时间的任务,比如一个Telnet连接请求,线程池的优点就不明显了。因为Telnet会话时间比线程的创建时间大多了。
  • 对性能要求苛刻的应用,比如要求服务器迅速响应客户请求。
  • 接受突发性的大量请求,但不至于使服务器因此产生大量线程的应用。突发性大量客户请求,在没有线程池情况下,将产生大量线程,虽然理论上大部分操作系统线程数目最大值不是问题,短时间内产生大量线程可能使内存到达极限,出现错误。

线程池的种类:

  • a. 创建固定数量线程池,循环从任务队列中获取任务对象,获取到任务对象后,执行任务对象中 的任务接口
  • b. 浮动线程池,其他同上

此处,我们选择固定线程个数的线程池。

线程池的实现

cpp 复制代码
#pragma once
#include <iostream>
#include <string>
#include <vector>
#include <queue>
#include "Log.hpp"
#include "Thread.hpp"
#include "Cond.hpp"
#include "Mutex.hpp"

// .hpp header only

namespace ThreadPoolModule
{
    using namespace ThreadModlue;
    using namespace LogMudoule;
    using namespace CondModule;
    using namespace MutexModule;

    static const int gnum = 5;
    template <typename T>
    class ThreadPool
    {
    private:
        void WakeUpOne()
        {
            _cond.Signal();
            LOG(LogLevel::INFO) << "唤醒一个休眠线程";
        }
        void WakeUpAllThread()
        {
            LockGuard lockguard(_mutex);
            if (_sleepernum)
                _cond.Broadcast();
            LOG(LogLevel::INFO) << "唤醒所有的休眠线程";
        }
        void HandlerTask()
        {
            char name[128];
            pthread_getname_np(pthread_self(), name, sizeof(name));
            while (true)
            {
                T t;
                {
                    LockGuard lockguard(_mutex);
                    // 1. a.队列为空 b. 线程池没有退出
                    while (_taskq.empty() && _isrunning)
                    {
                        _sleepernum++;
                        _cond.Wait(_mutex);
                        _sleepernum--;
                    }
                    // 2. 内部的线程被唤醒
                    if (!_isrunning && _taskq.empty())
                    {
                        LOG(LogLevel::INFO) << name << " 退出了, 线程池退出&&任务队列为空";
                        break;
                    }
                    t=_taskq.front();
                    _taskq.pop();
                }
               // t();
            }
        }

    public:
        ThreadPool(int num = gnum) : _num(num), _isrunning(false), _sleepernum(0)
        {
            for (int i = 0; i < num; i++)
            {
                _threads.emplace_back(
                    [this]()
                    {
                        HandlerTask();
                    });
            }
        }

        void Start()
        {
            if (_isrunning)
            {
                return;
            }
            _isrunning = true;
            for (auto &thread : _threads)
            {
                thread.Start();
                LOG(LogLevel::INFO) << "start new thread success: " << thread.Name();
            }
        }

        void Stop()
        {
            if (!_isrunning) // 线程结束就返回
                return;
            _isrunning = false;

            // 唤醒所有的线层
            WakeUpAllThread();
        }
        void Join()
        {
            for (auto &thread : _threads)
            {
                thread.Join();
            }
        }

        bool Enqueue(const T &in)
        {
            if (_isrunning)
            {
                LockGuard lockguard(_mutex);
                _taskq.push(in);
                if (_threads.size() == _sleepernum)
                    WakeUpOne();
                return true;
            }
            return false;
        }
        ~ThreadPool()
        {
        }

    private:
        std::vector<Thread> _threads;
        int _num;
        std::queue<T> _taskq;

        Cond _cond;
        Mutex _mutex;

        bool _isrunning;
        int _sleepernum;
    };

}

效果展示:

线程池的私有成员:

线程 线程个数 任务队列 条件变量 互斥锁 判断线程是否运行 线程等待(休眠)的个数

这些成员不难理解。

这里为什么要有互斥锁和条件变量呢?

线程池中的任务队列是会被多个执行流同时访问的临界资源,因此我们需要引入互斥锁对任务队列进行保护。

线程池当中的线程要从任务队列里拿任务,前提条件是任务队列中必须要有任务,因此线程池当中的线程在拿任务之前,需要先判断任务队列当中是否有任务,若此时任务队列为空,那么该线程应该进行等待,直到任务队列中有任务时再将其唤醒,因此我们需要引入条件变量。

当外部线程向任务队列中Push一个任务后,此时可能有线程正处于等待状态,因此在新增任务后需要唤醒在条件变量下等待的线程。

对类中各个成员函数的理解

线程池构造函数ThreadPool()

cpp 复制代码
ThreadPool(int num = gnum) : _num(num), _isrunning(false), _sleepernum(0)
{
    for (int i = 0; i < num; i++)
    {
        _threads.emplace_back(
            [this]()
            {
                HandlerTask();
            });
    }
}
  • _num(num):记录线程数量
  • _isrunning(false):标记线程池尚未开始运行
  • _sleepernum(0):初始休眠线程数为0
  • 循环创建num个工作线程

  • 使用emplace_back_threads对象中添加线程对象

  • 每个线程都执行相同的lambda函数,该函数捕获this指针并调用HandlerTask()方法

HandlerTask()

cpp 复制代码
void HandlerTask()
{
    char name[128];
    pthread_getname_np(pthread_self(), name, sizeof(name));
    while (true)
    {
        T t;
        {
            LockGuard lockguard(_mutex);
            // 1. a.队列为空 b. 线程池没有退出
            while (_taskq.empty() && _isrunning)
            {
                _sleepernum++;
                _cond.Wait(_mutex);
                _sleepernum--;
            }
            // 2. 内部的线程被唤醒
            if (!_isrunning && _taskq.empty())
            {
                LOG(LogLevel::INFO) << name << " 退出了, 线程池退出&&任务队列为空";
                break;
            }
            t = _taskq.front();
            _taskq.pop();
        }
        // t();
    }
}

前言

HandlerTask()是怎么通过回调函数Routinue执行的?

由于我们封装了Thread.hpp,在线程类里HandlerTask()是通过回调函数Routine执行的:

cpp 复制代码
// 在线程池构造函数中创建线程
_threads.emplace_back([this](){ HandlerTask(); });

Thread.hpp中Thread类的Start()方法

cpp 复制代码
bool Start()
{
    int n = pthread_create(&_tid, nullptr, Routine, this);
    // ...
}

创建POSIX线程,指定Routine为线程入口函数将this指针(Thread对象)作为参数传递给Routine

Routine函数(静态成员函数)

cpp 复制代码
static void *Routine(void *args)
{
    Thread *self = static_cast<Thread *>(args);
    self->EnableRunning();
    if (self->_isdetach)
        self->Detach();
    pthread_setname_np(self->_tid, self->_name.c_str());
    self->_func(); // 这里调用HandlerTask()!!!
    return nullptr;
}

_func是在Thread构造函数中设置的lambda函数,当self->_func()执行时,实际上就是调用:this->HandlerTask();

完整调用链:

cpp 复制代码
pthread_create() → Routine() → self->_func() → HandlerTask()

正文

  • 任务的处理是属于临界资源,任务队列需要上锁的主要原因是为了保证线程安全,防止多个线程同时访问和修改队列时出现数据竞争和不一致性问题。
  • 当某线程被唤醒时,其可能是被异常或是伪唤醒,或者是一些广播类的唤醒线程操作而导致所有线程被唤醒,使得在被唤醒的若干线程中,只有个别线程能拿到任务。此时应该让被唤醒的线程再次判断是否满足被唤醒条件,所以在判断任务队列是否为空时,应该使用while进行判断,而不是if
  • 在判断队列是否为空时,我们默认期望的是线程正在运行,所以当任务队列为空,线程来了就只能休眠。走到后面(if后)证明任务队列不为空且线程被唤醒,我们就取出任务并pop。当我们break时一定是任务队列为空,且线程已经结束了<-if的判断条件

Stop()

cpp 复制代码
void Stop()
{
    if (!_isrunning) // 线程结束就返回
        return;
    _isrunning = false;

    // 唤醒所有的线层
    WakeUpAllThread();
}

在Stop函数中我们设置判断线程运行的标志位为false即结束状态

然后我们要唤醒所有线程,如果不唤醒所有线程,线程会在HandlerTask函数中一直休眠。

然后通过判断如果任务队列为空了,就会退出循环线程break结束。

Enqueue()

cpp 复制代码
bool Enqueue(const T &in)
{
    if (_isrunning)
    {
        LockGuard lockguard(_mutex); // 上锁保护共享资源
        _taskq.push(in);
         // 关键判断:如果所有线程都在休眠,就唤醒一个
        if (_threads.size() == _sleepernum)
            WakeUpOne();
        return true;
    }
    return false;
}

任务入队函数,用于向任务队列添加新任务

其他的不在详细述说,接下来我们把线程池改造成单例模式

单例模式线程池

什么是单例模式?

某些类,只应该具有⼀个对象(实例),就称之为单例.。例如⼀个男人只能有⼀个媳妇.,在很多服务器开发场景中,经常需要让服务器加载很多的数据(上百G)到内存中,此时往往要用⼀个单例的类来管理这些数据.

饿汉方式实现单例模式

cpp 复制代码
template <typename T>
class Singleton
{
    static T data;

public:
    static T *GetInstance()
    {
        return &data;
    }
};

只要通过Singleton这个包装类来使用T对象,则⼀个进程中只有⼀个T对象的实例

懒汉方式实现单例模式

cpp 复制代码
template <typename T>
class Singleton
{
    static T *inst;

public:
    static T *GetInstance()
    {
        if (inst == NULL)
        {
            inst = new T();
        }
        return inst;
    }
};

存在⼀个严重的问题,线程不安全. 第⼀次调用GetInstance的时候,如果两个线程同时调用,可能会创建出两份T对象的实例. 但是后续再次调用,就没有问题了

cpp 复制代码
// 懒汉模式, 线程安全
template <typename T>
class Singleton
{
    volatile static T *inst; // 需要设置 volatile 关键字, 否则可能被编译器优化
    static std::mutex lock;

public:
    static T *GetInstance()
    {
        if (inst == NULL)
        {
            lock.lock();
            if (inst == NULL)
            {
                inst = new T();
            }
            lock.unlock();
        }
        return inst;
    }
};

注意事项:

  1. 加锁解锁的位置
  2. 双重if判定,避免不必要的锁竞争
  3. volatile关键字防止过度优化

实现单例的关键步骤:

1. ​构造函数私有化

cpp 复制代码
private:
    ThreadPool(int num = gnum)  // 外部无法直接new

2. ​禁止拷贝和赋值

cpp 复制代码
ThreadPool(const ThreadPool<T> &) = delete;
ThreadPool<T> &operator=(const ThreadPool<T> &) = delete;

3. ​静态实例指针

cpp 复制代码
static ThreadPool<T> *inc;  // 保存唯一实例

4. ​提供全局访问方法

cpp 复制代码
static ThreadPool<T> *GetInstance()
{
    // 双检查锁确保线程安全
    if (inc == nullptr) {
        LockGuard lockguard(_lock);
        if (inc == nullptr) {
            inc = new ThreadPool<T>();
        }
    }
    return inc;
}

为什么需要双检查?​

  • 第一次检查 :避免每次调用都加锁(调用锁失败就等待,这里为空了就直接返回实例指针),提高性能
  • 第二次检查 :防止多个线程同时通过第一次检查后重复创建实例

使用示例:

cpp 复制代码
// 获取线程池单例
ThreadPool<Task>* pool = ThreadPool<Task>::GetInstance();

// 添加任务
pool->Enqueue(task);

// 所有地方获取的都是同一个实例
ThreadPool<Task>* same_pool = ThreadPool<Task>::GetInstance();
// pool == same_pool 为 true

单例线程池完整代码

cpp 复制代码
#pragma once
#include <iostream>
#include <string>
#include <vector>
#include <queue>
#include "Log.hpp"
#include "Thread.hpp"
#include "Cond.hpp"
#include "Mutex.hpp"




namespace ThreadPoolModule
{
    using namespace ThreadModlue;
    using namespace LogMudoule;
    using namespace CondModule;
    using namespace MutexModule;

    static const int gnum = 5;
    template <typename T>
    class ThreadPool
    {
    private:
        ThreadPool(int num = gnum) : _num(num), _isrunning(false), _sleepernum(0)
        {
            for (int i = 0; i < num; i++)
            {
                _threads.emplace_back(
                    [this]()
                    {
                        HandlerTask();
                    });
            }
        }

        void WakeUpOne()
        {
            _cond.Signal();
            LOG(LogLevel::INFO) << "唤醒一个休眠线程";
        }
        void WakeUpAllThread()
        {
            LockGuard lockguard(_mutex);
            if (_sleepernum)
                _cond.Broadcast();
            LOG(LogLevel::INFO) << "唤醒所有的休眠线程";
        }
        void HandlerTask()
        {
            char name[128];
            pthread_getname_np(pthread_self(), name, sizeof(name));
            while (true)
            {
                T t;
                {
                    LockGuard lockguard(_mutex);
                    // 1. a.队列为空 b. 线程池没有退出
                    while (_taskq.empty() && _isrunning)
                    {
                        _sleepernum++;
                        _cond.Wait(_mutex);
                        _sleepernum--;
                    }
                    // 2. 内部的线程被唤醒
                    if (!_isrunning && _taskq.empty())
                    {
                        LOG(LogLevel::INFO) << name << " 退出了, 线程池退出&&任务队列为空";
                        break;
                    }
                    t = _taskq.front();
                    _taskq.pop();
                }
                // t();
            }
        }

        void Start()
        {
            if (_isrunning)
            {
                return;
            }
            _isrunning = true;
            for (auto &thread : _threads)
            {
                thread.Start();
                LOG(LogLevel::INFO) << "start new thread success: " << thread.Name();
            }
        }

        ThreadPool(const ThreadPool<T> &) = delete;
        ThreadPool<T> &operator=(const ThreadPool<T> &) = delete;

    public:
        static ThreadPool<T> *GetInstance()
        {
            if (inc == nullptr)
            {
                LockGuard lockguard(_lock);
                LOG(LogLevel::DEBUG) << "获取单例....";
                if (inc == nullptr)
                {
                    LOG(LogLevel::DEBUG) << "首次使用单例, 创建之....";
                    inc = new ThreadPool<T>();
                    inc->Start();
                }
            }
            return inc;
        }
        void Stop()
        {
            if (!_isrunning) // 线程结束就返回
                return;
            _isrunning = false;

            // 唤醒所有的线层
            WakeUpAllThread();
        }
        void Join()
        {
            for (auto &thread : _threads)
            {
                thread.Join();
            }
        }

        bool Enqueue(const T &in)
        {
            if (_isrunning)
            {
                LockGuard lockguard(_mutex);
                _taskq.push(in);
                if (_threads.size() == _sleepernum)
                    WakeUpOne();
                return true;
            }
            return false;
        }
        ~ThreadPool()
        {
        }

    private:
        std::vector<Thread> _threads;
        int _num;
        std::queue<T> _taskq;

        Cond _cond;
        Mutex _mutex;

        bool _isrunning;
        int _sleepernum;

        static ThreadPool<T> *inc; // 单例指针
        static Mutex _lock;
    };

    template <typename T>
    ThreadPool<T> *ThreadPool<T>::inc = nullptr;

    template <typename T>
    Mutex ThreadPool<T>::_lock;
}
相关推荐
开开心心就好1 分钟前
文档格式转换软件 一键Word转PDF
开发语言·前端·数据库·pdf·c#·word
从零开始学习人工智能2 分钟前
PDFMathTranslate:让科学PDF翻译不再难——技术原理与实践指南
java·开发语言·pdf
深盾科技6 分钟前
探索Swift Package Manager:全面指南
开发语言·ios·swift
邂逅星河浪漫8 分钟前
Docker 详解+示例
linux·docker·容器·kafka
NormalConfidence_Man23 分钟前
【RT Thread】使用QEMU模拟器结合GDB调试RT Thread内核
linux·嵌入式硬件
Linux技术芯34 分钟前
详细介绍Linux 内存管理 struct page数据结构中有一个锁,请问trylock_page()和lock_page()有什么区别?
linux
拾忆,想起1 小时前
Redis发布订阅:实时消息系统的极简解决方案
java·开发语言·数据库·redis·后端·缓存·性能优化
钮钴禄·爱因斯晨1 小时前
Linux(一) | 初识Linux与目录管理基础命令掌握
linux·运维·服务器
AllyLi02241 小时前
CondaError: Run ‘conda init‘ before ‘conda activate‘
linux·开发语言·笔记·python
羑悻的小杀马特1 小时前
【C++高并发内存池篇】ThreadCache 极速引擎:C++ 高并发内存池的纳秒级无锁革命!
开发语言·c++·多线程·高性能内存池