【23年度秋募集 C++バックエンドインタビュー 技術突破】C++11スレッドプールの実装原理とコールバック関数の使い方

スレッドプールについて

簡単に言えば、たくさんのスレッドが作成され (最大数は決まっています)、最初はすべてアイドル状態です。新しいタスクが発生すると、スレッド プールからアイドル スレッドが取得されてタスクが処理されます。タスクが処理されると、スレッドはスレッド プールに戻され、他のタスクで使用できるようになります。スレッド プール内のスレッドがすべて処理中のタスクである場合、使用するアイドル スレッドはありません。このとき、新しいタスクが生成された場合、スレッド プール内に終了するスレッドがあり、タスクが終了した場合にのみ実行できます。アイドルです。

スレッドプールの利点

スレッドは本質的に再利用可能なリソースであり、使用するたびに初期化する必要はありません。したがって、限られた数のスレッドを使用して無制限のタスクを処理できます。速度と効率を向上させるだけでなく、頻繁にスレッドを作成するオーバーヘッドを削減することもできます。たとえば、非同期で作業を行う場合、待機する必要はありません。処理のためにスレッド プールにスローすると、結果がコールバックで処理されます。頻繁に実行される非同期タスクの場合、毎回スレッドを作成すると必然的に多くのオーバーヘッドが発生します。Java で頻繁に実行される非同期タスクの場合、単に new Therad{}.start() を実行し、それを無視するのは適切な方法ではありません。頻繁な呼び出しは GC をトリガーし、深刻なパフォーマンスの問題を引き起こす可能性があります。同様のタスク プールにはスレッドを使用する必要があります。

例えば、すべての計算タスクをメイン スレッドで実行すると、必然的にメイン スレッドの処理フローがブロックされ、リアルタイム処理が実現できなくなります。マルチスレッド テクノロジを使用することは、誰もが自然に考えるソリューションです。上記のシナリオでは、スレッドが頻繁に作成および破棄され、そのようなオーバーヘッドは許容できないと考えられます. 現時点では、スレッド プール テクノロジが適切な選択です.

さらに、一部の同時実行性の高いネットワーク アプリケーションでは、スレッド プールも一般的に使用されるテクノロジです。Chen Shuo が推奨する C++ マルチスレッド サーバー プログラミング モデルは、スレッドごとに 1 つのループ + スレッド プールです。専用のコンピューティング スレッド プール。

実現原理と考え方

一般的な原則は、タスク キューとスレッド キューを管理するクラスを作成することです。その後、タスクがスレッドに割り当てられて実行されるたびに、サイクルが繰り返されます。タスク キューは、メイン スレッドが処理する必要があるタスクを格納する役割を担います. ワーカー スレッド キューは、実際には無限ループであり、タスク キューからタスクを取り出して実行する役割を担います.複数の消費者。

c++11 ではスレッド ライブラリ thread が追加されましたが、c++ のマルチスレッドのサポートはまだ比較的低レベルであり、もう少し高度な使用法は自分で実装する必要があります. また、待望のネットワーク ライブラリもあり、これはサポートされていませんこれまでの標準ライブラリではなく、asio が一般的に使用されています。インターネット上の偉大な神々の献身のおかげで、ソースコードをここに貼り付け、主に使用例とコールバック関数の使用を追加して、使用方法を改善します。

サポート資料とソースコードがあります。ここをクリックして入手してください

使用例

#include <iostream>
#include <chrono>
#include <thread>
#include <future>
#include "threadpool.h"
using namespace std;
using namespace std::chrono;

//仿函数示例
struct gfun {
  int operator()(int n) {
    printf("%d  hello, gfun !  %d\n" ,n, std::this_thread::get_id() );
    return 42;
  }
};

class A { 
  public:
    static std::string Bfun(int n, std::string str, char c) {
      std::cout << n << "  hello, Bfun !  "<< str.c_str() <<"  " << (int)c <<"  " << std::this_thread::get_id() << std::endl;
      return str;
    }
};


int main() {

  cout << "hello,this is a test using threadpool" <<endl;

  me::ThreadPool pool(4);
  std::vector< std::future<int> > results;

  //lambada表达式 匿名函数线程中执行
  pool.commit([] {
      std::cout << "this is running in pool therad " << std::endl;
      std::this_thread::sleep_for(std::chrono::seconds(1));
      });

  //仿函数放到线程池中执行
  std::future<int> fg = pool.commit(gfun{},0);  

  std::future<std::string> gh = pool.commit(A::Bfun, 999,"mult args", 123);
  //回调函数示例,模拟耗时操作,结果回调输出
  auto fetchDataFromDB = [](std::string recvdData,std::function<int(std::string &)> cback) {
    // Make sure that function takes 5 seconds to complete
    std::this_thread::sleep_for(seconds(5));
    //Do stuff like creating DB Connection and fetching Data
    if(cback != nullptr){
      std::string out = "this is from callback ";
      cback(out);
    }
    return "DB_" + recvdData;
  };

  //模拟,回调
  fetchDataFromDB("aaa",[&](std::string &result){
      std::cout << "callback result:" << result << std::endl;
      return 0;
      } );

  //把fetchDataFromDB这一IO耗时任务放到线程里异步执行
  //
  std::future<std::string> resultFromDB = std::async(std::launch::async, fetchDataFromDB, "Data0",
      [&](std::string &result){
      std::cout << "callback result from thread:" << result << std::endl;
      return 0;
      }); 


  //把fetchDataFromDB这一IO耗时操作放到pool中的效果
  pool.commit(fetchDataFromDB,"Data1",[&](std::string &result){
      std::cout << "callback result from pool thread:" << result << std::endl;
      return 0;
      });


  for(int i = 0; i < 8; ++i) {
    results.emplace_back(
        pool.commit([i] {
          std::cout << "hello " << i << std::endl;
          std::this_thread::sleep_for(std::chrono::seconds(1));
          std::cout << "world " << i << std::endl;
          return i*i;
          })
        );
  }

  for(auto && result: results){
    std::cout << result.get() << ' ';
  }
  std::cout << std::endl;
}

具体的な実装プロセスは次のとおりです。

#pragma once
#ifndef THREAD_POOL_H
#define THREAD_POOL_H

#include <vector>
#include <queue>
#include <atomic>
#include <future>
//#include <condition_variable>
//#include <thread>
#include <functional>
#include <stdexcept>

namespace me
{
  using namespace std;
//线程池最大容量,应尽量设小一点
#define  THREADPOOL_MAX_NUM 16
//#define  THREADPOOL_AUTO_GROW

//线程池,可以提交变参函数或拉姆达表达式的匿名函数执行,可以获取执行返回值
//不直接支持类成员函数, 支持类静态成员函数或全局函数,Opteron()函数等
class ThreadPool
{
    using Task = function<void()>;    //定义类型
    vector<thread> _pool;     //线程池
    queue<Task> _tasks;            //任务队列
    mutex _lock;                   //同步
    condition_variable _task_cv;   //条件阻塞
    atomic<bool> _run{ true };     //线程池是否执行
    atomic<int>  _idlThrNum{ 0 };  //空闲线程数量

public:
    inline ThreadPool(unsigned short size = 4) { addThread(size); }
    inline ~ThreadPool()
    {
        _run=false;
        _task_cv.notify_all(); // 唤醒所有线程执行
        for (thread& thread : _pool) {
            //thread.detach(); // 让线程“自生自灭”
            if(thread.joinable())
                thread.join(); // 等待任务结束, 前提:线程一定会执行完
        }
    }

public:
    // 提交一个任务
    // 调用.get()获取返回值会等待任务执行完,获取返回值
    // 有两种方法可以实现调用类成员,
    // 一种是使用   bind: .commit(std::bind(&Dog::sayHello, &dog));
    // 一种是用   mem_fn: .commit(std::mem_fn(&Dog::sayHello), this)
    template<class F, class... Args>
    auto commit(F&& f, Args&&... args) ->future<decltype(f(args...))>
    {
        if (!_run)    // stoped ??
            throw runtime_error("commit on ThreadPool is stopped.");

        using RetType = decltype(f(args...)); // typename std::result_of<F(Args...)>::type, 函数 f 的返回值类型
        auto task = make_shared<packaged_task<RetType()>>(
            bind(forward<F>(f), forward<Args>(args)...)
        ); // 把函数入口及参数,打包(绑定)
        future<RetType> future = task->get_future();
        {    // 添加任务到队列
            lock_guard<mutex> lock{ _lock };//对当前块的语句加锁  lock_guard 是 mutex 的 stack 封装类,构造的时候 lock(),析构的时候 unlock()
            _tasks.emplace([task](){ // push(Task{...}) 放到队列后面
                (*task)();
            });
        }
#ifdef THREADPOOL_AUTO_GROW
        if (_idlThrNum < 1 && _pool.size() < THREADPOOL_MAX_NUM)
            addThread(1);
#endif // !THREADPOOL_AUTO_GROW
        _task_cv.notify_one(); // 唤醒一个线程执行

        return future;
    }

    //空闲线程数量
    int idlCount() { return _idlThrNum; }
    //线程数量
    int thrCount() { return _pool.size(); }
#ifndef THREADPOOL_AUTO_GROW
private:
#endif // !THREADPOOL_AUTO_GROW
    //添加指定数量的线程
    void addThread(unsigned short size)
    {
        for (; _pool.size() < THREADPOOL_MAX_NUM && size > 0; --size)
        {   //增加线程数量,但不超过 预定义数量 THREADPOOL_MAX_NUM
            _pool.emplace_back( [this]{ //工作线程函数
                while (_run)
                {
                    Task task; // 获取一个待执行的 task
                    {
                        // unique_lock 相比 lock_guard 的好处是:可以随时 unlock() 和 lock()
                        unique_lock<mutex> lock{ _lock };
                        _task_cv.wait(lock, [this]{
                                return !_run || !_tasks.empty();
                        }); // wait 直到有 task
                        if (!_run && _tasks.empty())
                            return;
                        task = move(_tasks.front()); // 按先进先出从队列取一个 task
                        _tasks.pop();
                    }
                    _idlThrNum--;
                    task();//执行任务
                    _idlThrNum++;
                }
            });
            _idlThrNum++;
        }
    }
};

}

#endif  //https://github.com/lzpong/

参考ブログ 侵入と削除: C++11スレッドプールの実装原理とコールバック関数の使い方_Maverick Cat A Yang Yongzhenの技術ブログ_51CTOブログ

Linux C/C++ バックグラウンド アーキテクチャ開発に関連するコンテンツを不定期に更新します; アーキテクチャ システム学習ルートの Lion ホームページのホームページにも更新された例があります; 学習したい友人はそれを見逃してはなりません; 関連する学習教材と補助教材ここで入手できます

おすすめ

転載: blog.csdn.net/m0_58687318/article/details/127129575