nginx 内存管理(一)

文章目录

前提知识

应用程序的内存可以简单的氛围堆内存,栈内存;对于栈内存,函数编译的时候,编译器会移动栈到当前指针位置的代码,实现栈空间的管理。但是对于堆内存,通常需要程序员进行管理,我们常说的内存管理其实就是对堆空间的管理。

内存对齐

nginx的内存管理可以分为两个部分,一种是常规的内存池,也就是进程平时所需要的内存管理;一种是共享内存的管理。这里主要讲的是内存池管理内存

nginx内存管理的基础

nginx的内存管理包括1三个部分:内存分配、内存对齐、内存释放

  • 分配:nginx的内存分配本质上是对c语言的malloc进行封装,详情可以查看src/os/unix/ ngx_alloc.c,其分配包括两种形式:

    • .void *ngx_alloc(size_t size, ngx_log_t *log);//不初始化
    • .void *ngx_calloc(size_t size, ngx_log_t *log);//对分配空间初始化为0
  • 对齐:参考上文链接

  • 释放:#define ngx_free free // 见os/unix/ ngx_alloc.h,宏定义。

内存分配

不初始化封装malloc
c 复制代码
void *ngx_alloc(size_t size, ngx_log_t *log)
{  
	void  *p;  
	p = malloc(size);   
	if (p == NULL) {     错误信息处理  
		ngx_log_error(NGX_LOG_EMERG, log, ngx_errno, "malloc(%uz) failed", size);  
	 }   
	 //调试信息处理 
	ngx_log_debug2(NGX_LOG_DEBUG_ALLOC, log, 0, "malloc: %p:%uz", p, size);   
	return p;
}
初始化malloc
c 复制代码
void *ngx_calloc(size_t size, ngx_log_t *log)
{   
	void  *p;   
	p = ngx_alloc(size, log);   //1.Nginx分配
	if (p) {      
		ngx_memzero(p, size);  //2.若分配成功,则Nginx初始化
	}   
	return p;
}

内存池

nginx使用内存池来管理内存,当进程需要内存时,向内存池申请,使用后释放内存池。申请的内存主要分为两种:小块内存,大块内存

  • 小块内存:使用后不需要(立即)释放,可以等到释放内存池的时候再释放;
  • 大块内存:使用后可以调用相关接口进行释放,也可以等待内存池释放再释放。

内存池释放的时候,可以调用回调清理函数,可以有多个回调函数,这些回调函数构成链表进行管理。

内存池结构

内存池的结构如下:一般来说,内存池的第一个结点会包含以下的数据结构,而从第二个结点开始,max------log部分会被缺省,当做空间进行分配。

其数据结构如下(详情查看:core/ngx_palloc.h):

c 复制代码
typedef struct ngx_pool_s            ngx_pool_t;

typedef struct {    
	u_char               *last;//下一次分配的开始
	u_char               *end;//内存池结束的位置
	ngx_pool_t           *next;//内存池的内存块通过这个连成链表
	ngx_uint_t            failed;//内存池分配失败的次数
} ngx_pool_data_t;//d:数据块

struct ngx_pool_s {  
	ngx_pool_data_t       d;//指向一个内存池的第一个数据块
	size_t                max;//判断大内存块和小内存块的标准
	ngx_pool_t           *current;//指向当前的内存池
	ngx_chain_t          *chain;//挂接一个ngx_chain_t结构
	ngx_pool_large_t     *large;//指向大块内存链表的第一个结点,即分配控件超过max的内存
	ngx_pool_cleanup_t   *cleanup;//指向清理函数的管理结点
	ngx_log_t            *log;//用来记录日志信息
};

清理函数cleanup

c 复制代码
struct ngx_pool_cleanup_s {   
	ngx_pool_cleanup_pt   handler;//指向清理函数的地址
	void                 *data;//data:用于向数据清理函数传递的参数,指向待清理的数据的地址,若没有则为NULL
	ngx_pool_cleanup_t   *next;//指向下一个清理函数的管理结点
};

//清理函数指针
typedef void (*ngx_pool_cleanup_pt)(void *data);

大块内存large

c 复制代码
typedef struct ngx_pool_large_s  ngx_pool_large_t;
struct ngx_pool_large_s {   
 ngx_pool_large_t     *next;//指向分配的大块内存的下一个管理结点
 void                 *alloc;//指向大块内存的地址
};

创建内存池

c 复制代码
ngx_pool_t *ngx_create_pool(size_t size, ngx_log_t *log)//创建内存池,size用来确定max
  1. 申请内存,如果操作系统支持对齐,按16字节对齐方式对齐
  2. 如果成功申请内存,按以下3-5步骤初始化内存池ngx_pool_t 结构,否则返回NULL
  3. 初始化ngx_pool_t 的ngx_pool_data_t类型成员d;
  4. 初始化ngx_pool_t的max ;
  5. 初始化ngx_pool_t的current ;
  6. 将ngx_pool_t的chain、 large以及cleanup初始化为NULL;
  7. 初始化ngx_pool_t的log成员;
  8. 返回内存池指针(首地址)p。
c 复制代码
ngx_pool_t  *p;  
p = ngx_memalign(NGX_POOL_ALIGNMENT, size, log);//内存对齐
if (p == NULL)
{    
   return NULL;   
}

p->d.last = (u_char *) p + sizeof(ngx_pool_t);    
P->d.end = (u_char *) p + size;   
p->d.next = NULL;   
p->d.failed = 0;

size = size -- sizeof(ngx_pool_t);  
p->max = (size < NGX_MAX_ALLOC_FROM_POOL) ? Size : NGX_MAX_ALLOC_FROM_POOL;

p->current = p;
.......
P->log = log;
return p;

申请内存

  1. void *ngx_palloc(ngx_pool_t *pool, size_t size):基本方法
  2. void *ngx_pnalloc(ngx_pool_t *pool, size_t size):小内粗块不考虑对齐的palloc
  3. void *ngx_pcalloc(ngx_pool_t *pool, size_t size):含有初始化

void *ngx_palloc(ngx_pool_t *pool, size_t size)

c 复制代码
{
	//判别大小块内存方式
	if (size <= pool->max) 
	{        
		return ngx_palloc_small(pool, size, 1);//对齐方式,申请小块内存,1表示对齐,0表示不对齐 
	}
	return ngx_palloc_large(pool, size);
}

void *ngx_pnalloc(ngx_pool_t *pool, size_t size)

c 复制代码
{
	//判别大小块内存方式
	If (size <= pool->max) 
	{        
		return ngx_palloc_small(pool, size, 0);//不对齐方式,申请小块内存  
	 }
	return ngx_palloc_large(pool, size);
}

void *ngx_pcalloc(ngx_pool_t *pool, size_t size)

c 复制代码
{  
	void *p;    
	p = ngx_palloc(pool, size);  //调用 ngx_palloc
	if (p) //初始化处理
	{     
	     ngx_memzero(p, size); 
	 }  
	return p;
}
  • 当小块内存进行分配的时候,会先从 last指针 所对应的地址开始查找,查找能够满足size大小的内存;如果查找成功,last+=size;如果查找失败,则failed++,并且根据next来遍历整个链表,查找能够分配size的内存块;如果遍历完整个链表,都没有找到对应的内存块,则重新申请内存再分配。
c 复制代码
static ngx_inline void *ngx_palloc_small(ngx_pool_t *pool, size_t size, ngx_uint_t align){
	do
	{  
		m = p->d.last;    //注意这个写法,d是p的非指针成员,last是d的指针成员  
		if (align) {    
			m = ngx_align_ptr(m, NGX_ALIGNMENT);  //需要对齐,则对齐处理     
		}     
		if ((size_t) (p->d.end - m) >= size) //满足大小要求,划出分配区域
		{       
			p->d.last = m + size;     //划出size大小    
			return m;     
		}    
		p = p->d.next;  //下一个内存块,遍历所有内存块
	} while (p);
	
	return ngx_palloc_block(pool, size);//申请新的内存块,完成该次小内存块申请
}
  • 当申请大块内存时:要注意大块内存的管理结点,也就是ngx_pool_large_t是存放在小块内存中的,而大块内存的地址是存放在管理地址的alloc指针中的;大块内存在释放的时候,会把alloc所在地址的内存先释放掉,管理结点的内存可以暂时不释放,等到内存池释放的时候再一起释放;小块内存中可能会存在很多空闲的大块内存的管理结点,如果大块内存在申请时遇到空闲的管理结点可以直接挂接在空闲的管理结点上,如果没有空闲的就按照申请小块内存的方式申请一个结点再挂接。
    • 大块内存申请,直接用ngx_alloc申请size大小的内存(p指向);将该大块内存(p指向)链入有关队列;
    • 步骤一:从内存池中查找是否有空闲的ngx_pool_large_t类型large结点,有则直接用该结点链接管理以上步骤申请的大内存块(p指向);若没有则进行以下第2步骤;
    • 步骤二:从内存池中按小块内存方式申请一个ngx_pool_large_t结点large,若失败,释放1步骤的大内存块,返回;如果成功,按序进行以下第3、4步骤;
    • 步骤三:将大内存块(p指向)链接入large中(将p赋值为large的alloc);
    • 步骤四:将large链入内存池结构的large队列中,并将其作为队列头部
c 复制代码
static void *ngx_palloc_large(ngx_pool_t *pool, size_t size)//大块
......
p = ngx_alloc(size, pool->log);//直接申请大内存
......//含有n=0语句
for (large = pool->large; large; large = large->next)//循环查找空闲large
{        //步骤1
   if (large->alloc == NULL) //找到空闲large
    {         
           large->alloc = p;        //将大内存链入该空闲large
            return p;      
     } 
   if (n++ > 3) {            break;        }//次数限制为4次?
}

large = ngx_palloc_small(pool, sizeof(ngx_pool_large_t), 1);
//申请新空白large,步骤2
if (large == NULL) {    //失败,释放大内存,返回
      ngx_free(p);      
      return NULL;    }

large->alloc = p;   //将大块内存链入large,步骤3

large->next = pool->large;    //将新large链入内存池large链头,步骤4
pool->large = large;

内存释放

  • 大块内存,Nginx提供了专门的接口-ngx-free来释放;
  • 小块内存,Nginx将它们的释放连同内存池释放一起进行;
  • 先释放大块内存,再释放小块内存

大块内存释放 ngx_pfree(单个大块内存)

  1. 找到内存池的large(链头)指针;
  2. 遍历该链头指向的链表,逐个对每个large结点判定该large的alloc指向的大内存块是否就是需要释放的块,是则调用ngx_free(宏)释放该大内存块,置该结点的alloc为NULL;不是,继续查找和判定。
c 复制代码
ngx_int_tngx_pfree(ngx_pool_t *pool, void *p)

for (l = pool->large; l; l = l->next) //遍历内存池的large
{  
      if (p == l->alloc)   //判定该large结点是否含有待释放大块内存
       {      //调试信息     
            ngx_log_debug1(NGX_LOG_DEBUG_ALLOC, pool->log, 0,  "free: %p", l>alloc);         
            ngx_free(l->alloc);  //释放该大块      
            l->alloc = NULL; //置该结点alloc为NULL    
            return NGX_OK;      
      }   
 }

释放内存池

  1. 释放清理函数:要先对内存进行有关处理
    • 从内存池cleanup指针开始遍历;
    • 对每个结点清理函数,调用一次该清理函数。
  2. 释放大块内存(全部大块内存)
    • 从内存池large指针开始遍历;
    • 每个结点如果含有大块内存,则释放该大块内存
  3. 释放内存块
    • 从内存池d->next指针开始遍历,释放每个结点内存块
c 复制代码
voidngx_destroy_pool(ngx_pool_t *pool)

//先释放清理函数,因为需要先对内存进行有关处理
for (c = pool->cleanup; c; c = c->next)
{       
	if (c->handler) {  //如果有清理函数      
		ngx_log_debug1(NGX_LOG_DEBUG_ALLOC, pool->log, 0,"run cleanup: %p", c); //调试信息
		c->handler(c->data);   //调用一次该清理函数 
	}  
 }


for (l = pool->large; l; l = l->next)//遍历每个大内存结点
{  
   if (l->alloc) //如果该结点有大内存
         {         
             ngx_free(l->alloc);    //释放该结点大内存
         }   
}

for (p = pool, n = pool->d.next; ; p = n, n = n->d.next)
 {     //遍历每个内存池内存块结点  
     ngx_free(p);   //释放该内存块结点
     if (n == NULL) //如果是结尾,终止循环
             {            break;        }    
}
相关推荐
什么半岛铁盒7 分钟前
Linux信号的保存
linux·运维·网络
百锦再14 分钟前
大数据技术的主要方向及其应用详解
大数据·linux·网络·python·django·pygame
API小爬虫15 分钟前
淘宝按图搜索商品(拍立淘)Java 爬虫实战指南
java·爬虫·图搜索算法
lyrhhhhhhhh24 分钟前
Spring 框架 JDBC 模板技术详解
java·数据库·spring
noravinsc34 分钟前
国产化中间件 替换 nginx
运维·nginx·中间件
亚林瓜子1 小时前
AWS Elastic Beanstalk控制台部署Spring极简工程
java·spring·云计算·aws·eb
2401_cf1 小时前
如何创建maven项目
java·maven·intellij-idea
ZHOU_WUYI3 小时前
使用 Docker 部署 React + Nginx 应用教程
nginx·react.js·docker
C4程序员3 小时前
Java百度身份证识别接口实现【配置即用】
java·开发语言
炒空心菜菜3 小时前
MapReduce 实现 WordCount
java·开发语言·ide·后端·spark·eclipse·mapreduce