一、有了tcmalloc或者ptmalloc這樣的庫，還要自己寫內(nèi)存池的原因

1、可以定制化

自己編寫內(nèi)存池可以滿足更加個性化的需求，有效降低內(nèi)存使用，避免內(nèi)存碎片問題。通常一個應(yīng)用程序擁有自己獨特的內(nèi)存使用模式，自己編寫內(nèi)存池可以為特定的應(yīng)用程序場景量身定制。

2、內(nèi)存分配效率更高

自己編寫內(nèi)存池可以直接申請一大塊內(nèi)存空間，有效減少申請內(nèi)存的次數(shù)和時間。內(nèi)存池中的內(nèi)存可以被重復(fù)利用，降低內(nèi)存申請和釋放造成的成本。

3、可以減少鎖的爭用

在多線程環(huán)境下，TCMalloc和ptmalloc庫的內(nèi)部實現(xiàn)會使用同步機制來保證并發(fā)訪問的正確性，會造成鎖的爭用現(xiàn)象。自己編寫內(nèi)存池可以減少同步機制的使用，提高訪問速度。

4、可以更好的控制

自己編寫的內(nèi)存池可以比庫更好地控制內(nèi)存分配和釋放的行為，例如在某一個時間停止分配內(nèi)存等操作。

二、tcmalloc介紹

1、簡介

TCMalloc 是 Google 對 C 的 malloc() 和 C++ 的 operator new 的自定義實現(xiàn)，用于在我們的 C 和 C++ 代碼中進行內(nèi)存分配。 TCMalloc 是一種快速、多線程的 malloc 實現(xiàn)。

? TCMalloc為每個線程分配了緩存，這個緩存是線程私有的，可以減少多線程程序競爭。對于小對象的內(nèi)存分配，首先會去請求線程緩存，不用加鎖，如果緩存不能滿足的話，需要去向后面的內(nèi)存存儲結(jié)構(gòu)中獲取，此時需要加鎖獲取，因為其他線程可能正在獲取內(nèi)存空間，但是大部分情況下線程緩存就可以滿足內(nèi)存請求，所以幾乎不需要鎖。對于大對象的內(nèi)存分配，TCMalloc嘗試著使用細(xì)粒度和高效的自旋鎖。另外一個TCMalloc的好處是小對象內(nèi)存分配效率高。例如，分配n個8 byte的對象時，使用大約8n * 1.01byte的空間，只有百分之一的空間浪費。ptmalloc2分配內(nèi)存的方法為每個對象使用一個4 byte的標(biāo)頭，并且將大小四舍五入為8 byte的倍數(shù)，最終使用16n byte。

2、TCMalloc架構(gòu)

我們可以將TCMlloc分為三部分：front-end；middle-end；back-end。 它們的職責(zé)分別是：

3、小對象和大對象分配

TCMalloc維護了一份空間大小映射表，當(dāng)分配小對象內(nèi)存空間時，會從這個表里尋找合適大小的內(nèi)存，點這里能都看到。例如，12字節(jié)的分配將會尋找16字節(jié)大小的內(nèi)存空間。空間大小級別是為了在向上取最小滿足的內(nèi)存空間時減少浪費。

? 如果分配的內(nèi)存空間大于1MB，那么直接從后端分配，因此，大對象內(nèi)存空間不會緩存在front-end和middle-end中。大對象分配時會向上取最小滿足頁大小的內(nèi)存空間。

Middle-end負(fù)責(zé)為 Front-end提供內(nèi)存以及把多余的內(nèi)存放回Back-end。Middle-end是由Transfer cache和Central free list組成。盡管Transfer cache和Central free list經(jīng)常被認(rèn)為是一個東西，但它們是有區(qū)別的。當(dāng)Front-end訪問Middle-end時需要先加鎖然后再獲取內(nèi)存，這會造成線性訪問的時間消耗。

三、內(nèi)存池介紹

1、基本概念

（Memory Pool）是一種內(nèi)存分配方式，又被稱為固定大小區(qū)塊規(guī)劃（fixed-size-blocks allocation）。通常我們習(xí)慣直接使用new、malloc等API申請分配內(nèi)存，這樣做的缺點在于：由于所申請內(nèi)存塊的大小不定，當(dāng)頻繁使用時會造成大量的內(nèi)存碎片并進而降低性能。

內(nèi)存池則是在真正使用內(nèi)存之前，先申請分配一定數(shù)量的、大小相等（一般情況下）的內(nèi)存塊留作備用。當(dāng)有新的內(nèi)存需求時，就從內(nèi)存池中分出一部分內(nèi)存塊，若內(nèi)存塊不夠再繼續(xù)申請新的內(nèi)存。這樣做的一個顯著優(yōu)點是，使得內(nèi)存分配效率得到提升。在內(nèi)核中有不少地方內(nèi)存分配不允許失敗。作為一個在這些情況下確保分配的方式，內(nèi)核開發(fā)者創(chuàng)建了一個已知為內(nèi)存池（或者是“mempool”）的抽象。一個內(nèi)存池真實地只是一類后備緩存，它盡力一直保持一個空閑內(nèi)存列表給緊急時使用。

2、實現(xiàn)示例

內(nèi)存池的實現(xiàn)有很多，性能和適用性也不相同，以下是一種較簡單的C++實現(xiàn)—GenericMP模板類。在這個例子中，使用了模板以適應(yīng)不同對象的內(nèi)存需求，內(nèi)存池中的內(nèi)存塊則是以基于鏈表的結(jié)構(gòu)進行組織。GenericMP模板類定義：

template class GenericMP{public:static VOID *operator new(size_t allocLen){assert(sizeof(T) == allocLen);if(!m_NewPointer)MyAlloc();UCHAR *rp = m_NewPointer;m_NewPointer = *reinterpret_cast(rp); //由于頭4個字節(jié)被“強行”解釋為指向下一內(nèi)存塊的指針，這里m_NewPointer就指向了下一個內(nèi)存塊，以備下次分配使用。return rp;}static VOID operator delete(VOID *dp){*reinterpret_cast(dp) = m_NewPointer;m_NewPointer = static_cast(dp);}private:static VOID MyAlloc(){m_NewPointer = new UCHAR[sizeof(T) * BLOCK_NUM];UCHAR **cur = reinterpret_cast(m_NewPointer); //強制轉(zhuǎn)型為雙指針，這將改變每個內(nèi)存塊頭4個字節(jié)的含義。UCHAR *next = m_NewPointer;for(INT i = 0; i < BLOCK_NUM-1; i++){next += sizeof(T);*cur = next;cur = reinterpret_cast(next); //這樣，所分配的每個內(nèi)存塊的頭4個字節(jié)就被“強行“解釋為指向下一個內(nèi)存塊的指針， 即形成了內(nèi)存塊的鏈表結(jié)構(gòu)。}*cur = 0;}static UCHAR *m_NewPointer;protected:~GenericMP(){}};templateUCHAR *GenericMP::m_NewPointer;GenericMP模板類應(yīng)用class ExpMP : public GenericMP{BYTE a[1024];};int _tmain(int argc, _TCHAR* argv[]){ExpMP *aMP = new ExpMP();delete aMP;}

延伸閱讀1：ptmalloc簡介

ptmalloc是glibc默認(rèn)的內(nèi)存管理器。我們常用的malloc和free就是由ptmalloc內(nèi)存管理器提供的基礎(chǔ)內(nèi)存分配函數(shù)。ptmalloc有點像我們自己寫的內(nèi)存池，當(dāng)我們通過malloc或者free函數(shù)來申請和釋放內(nèi)存的時候，ptmalloc會將這些內(nèi)存管理起來，并且通過一些策略來判斷是否需要回收給操作系統(tǒng)。