QQ会员AMS平台PHP7升级实践

时间  2019-12-06
标签 会员 ams 平台 php7 php 升级 实践 栏目 腾讯 繁體版
原文   原文链接
做者：徐汉彬
连接：https://zhuanlan.zhihu.com/p/21493018
来源：知乎
著做权归做者全部。商业转载请联系做者得到受权，非商业转载请注明出处。

QQ会员活动运营平台（AMS），是QQ会员增值运营业务的重要载体之一，承担海量活动运营的Web系统。AMS是一个主要采用PHP语言实现的活动运营平台， CGI日请求3亿左右，高峰期达到8亿。然而，在以前比较长的一段时间里，咱们都采用了比较老旧的基础软件版本，就是PHP5.2+Apache2.0。尤为从去年开始，随着AMS业务随着QQ会员增值业务的快速增加，性能压力日益变大。php


因而，自2015年5月，咱们就开始规划PHP底层升级，最终的目标是升级到PHP7。那时，PHP7尚处于研发阶段，而咱们讨论和预研就已经开始了。html

1、PHP7的学习和预研git

1. HHVM和JITgithub

2015年就PHP性能优化的方案，有另一个比较重要的角色，就是由Facebook开源的HHVM（HipHop Virtual Machine，HHVM是一个Facebook开源的PHP虚拟机）。HHVM使用JIT（Just In Time，即时编译是种软件优化技术，指在运行时才会去编译字节码为机器码）的编译方式以及其余技术，让PHP代码的执行性能大幅提高。据传，能够将PHP5版本的原生PHP代码提高5-10倍的执行性能。web

HHVM起源于Facebook公司，Facebook早起的不少代码是使用PHP来开发的，可是，随着业务的快速发展，PHP执行效率成为愈来愈明显的问题。为了优化执行效率，Facebook在2008年就开始使用HipHop，这是一种PHP执行引擎，最初是为了将 Fackbook的大量PHP代码转成 C++，以提升性能和节约资源。使用HipHop的PHP代码在性能上有数倍的提高。后来，Facebook将HipHop平台开源，逐渐发展为如今的 HHVM。shell

HHVM成为一个PHP性能优化解决方案时，PHP7还处于研发阶段。曾经看过部分同窗对于HHVM的交流，性能能够得到可观的提高，可是服务运维和PHP语法兼容有必定成本。有一阵子，JIT成为一个呼声很高的东西，不少技术同窗建议PHP7也应该经过JIT来优化性能。apache

2015年7月，我参加了中国PHPCON，听了惠新宸关于PHP7内核的技术分享。实际上，在2013年的时候，惠新宸（PHP7内核开发者）和Dmitry（另外一位PHP语言内核开发者之一）就曾经在PHP5.5的版本上作过一个JIT的尝试（并无发布）。PHP5.5的原来的执行流程，是将PHP代码经过词法和语法分析，编译成opcode字节码（格式和汇编有点像），而后，Zend引擎读取这些opcode指令，逐条解析执行。api


而他们在opcode环节后引入了类型推断（TypeInf），而后经过JIT生成ByteCodes，而后再执行。数组


因而，在benchmark（测试程序）中获得很是好的结果，实现JIT后性能比PHP5.5提高了8倍。然而，当他们把这个优化放入到实际的项目WordPress（一个开源博客项目）中，却几乎看不见性能的提高。缘由在于测试项目的代码量比较少，经过JIT产生的机器码也不大，而真实的WordPress项目生成的机器码太大，引发CPU缓存命中率降低（CPU Cache Miss）。缓存

总而言之，JIT并不是在每一个场景下都是点石成金的利器，而脱离业务场景的性能测试结果，并不必定具备表明性。

从官方放出Wordpress的PHP7和HHVM的性能对比能够看出，二者基本处于同一水平。


2. PHP7在性能方面的优化

PHP7是一个比较底层升级，比起PHP5.6的变化比较大，而就性能优化层面，大体能够汇总以下：

（1）将基础变量从struct（结构体）变为union（联合体），节省内存空间，间接减小CPU在内存分配和管理上的开销。

（2）部分基础变量（zend_array、zend_string等）采用内存空间连续分配的方式，下降CPU Cache Miss的发生的几率。CPU从CPU Cache获取数据和从内存获取，它们之间效率相差能够高达100倍。举一个近似的例子，系统从内存读取数据和从磁盘读取数据的效率差异很大，CPU Cache Miss相似遇到缺页中断。

（3）经过宏定义和内联函数（inline），让编译器提早完成部分工做。无需在程序运行时分配内存，可以实现相似函数的功能，却没有函数调用的压栈、弹栈开销，效率会比较高。

... ...

更多更详细关于PHP7的介绍，有兴趣的同窗能够查看：

3. AMS平台技术选型的背景

就提高PHP的性能而言，能够选择的是2015年就可直接使用的HHVM或者是2015年末才发布正式版的PHP7。会员AMS是一个访问量级比较大的一个Web系统，通过四年持续的升级和优化，积累了800多个业务功能组件，还有各类PHP编写的公共基础库和脚本，代码规模也比较大。

咱们对于PHP版本对代码的向下兼容的需求是比较高的，所以，就咱们业务场景而言，PHP7良好的语法向下兼容，正是咱们所须要的。所以，咱们选择以PHP7为升级的方案。

2、PHP7升级面临的风险和挑战

对于一个已经现网在线的大型公共Web服务来讲，基础公共软件升级，一般是一件吃力不讨好的工做，作得好，不必定被你们感知到，可是，升级出了问题，则须要承担比较重的责任。为了尽可能减小升级的风险，咱们必须先弄清楚咱们的升级存在挑战和风险。

因而，咱们整理了升级挑战和风险列表：

（1）Apache2.0和PHP5.2这两个2008-2009年的基础软件版本比较古老，升级到Apache2.4和PHP7，版本升级跨度比较大，时间跨度相差7-8年，所以，兼容性问题挑战比较高。实际上，咱们公司的现网PHP服务，不少都停留在PHP5.2和PHP5.3的版本，版本偏低。

（2）AMS大量使用自研tphplib扩展，tphplib很早在公司内部就没有人维护了，这个扩展以前只有PHP5.3和PHP5.2的编译so版本，而且，部分扩展没有支持线程安全。支持线程安全，是由于咱们之前的Apache使用了prefork模式，而咱们但愿可以使用Apache2.4的Event模式（2014年中，在prefork和worker以后，推出的多进程线程管理模式，对于支持高并发，有更良好的表现）。

（3）语法兼容性问题，从PHP5.2到PHP7的跨度过大，即便PHP官方号称在向下兼容方面作到99%，可是，咱们的代码规模比较大，它仍然是一个未知的风险。

（4）新软件面临的风险，将Apache和PHP这种基础软件升级到最新的版本，而这些版本的部分功能可能存在未知的风险和缺陷。

部分同窗可能会建议采用Nginx会是更优的选择，的确，单纯比较Nginx和Apache在高并发方面的性能，Nginx的表现更优。可是就PHP的CGI而言，Nginx+php-ftpm和Apache+mod_php二者并无很大的差距。另外一方面，咱们由于长期使用Apache，在技术熟悉和经验方面积累更多，所以，它可能不是最佳的选择，可是，具体到咱们业务场景，算是比较合适的一个选择。

3、版本升级实施过程

1. 高跨度版本升级方式

从一个2008年的Apache2.0直接升级到2016年的Apache2.4，这个跨度过于大，甚至使用的http.conf的配置文件都有不少的不一样，这里的须要更新的地方比较多，未知的风险也是存在的。因而，咱们的作法，是先尝试将Apache2.0升级到Apach2.2，调整配置、观察稳定性，而后再进一步尝试到Apach2.4。所幸的是，Apache（httpd）是一个比较特别的开源社区，他们以前一直同时维护这两个分支版本的Apache（2.2和2.4），所以，即便是Apache2.2也有比较新的版本。


因而，咱们先升级了一个PHP5.2+Apache2.2，对兼容性进行了测试和观察，确认二者之间是能够比较平滑升级后，咱们开始进行Apache2.4的升级方案。


PHP5.2的升级，咱们也采用相同的思路，咱们先将PHP5.2升级至PHP5.6（当时，PHP7仍是beta版本），而后再将PHP5.6升级到PHP7，以更平滑的方式，逐步解决不一样的问题。

因而，咱们的升级计划变为：


Apache2.4编译为动态MPM的模式（支持经过httpd配置切换prefork/worker/event模式），根据现网风险等实时降级。


Prefork、Worker、Event三者粗略介绍：

（1） prefork，多进程模式，1个进程服务于1个用户请求，成本比较高。可是，稳定性最高，不须要支持线程安全。

（2） worker，多进程多线程模式，1个进程含有多个worker线程，1个worker线程服务于1个用户请求，由于线程更轻量，成本比较低。可是，在KeepAlive场景下，worker资源会被client占据，没法响应其余请求（空等待）。

（3） event，多进程多线程模式，1个进程也含有多个worker线程，1个worker线程服务于1个用户请求。可是，它解决了KeepAlive场景下的worker线程被占据问题，它经过专门的线程来管理这些KeepAlive链接，而后再分配“工做”给具体处理的worker，工做worker不会由于KeepAlive而致使空等待。

关于Event模式的官方介绍：

（部分同窗可能会有event模式不支持https的印象，那个说法实际上是2年多之前的国内部分技术博客的说法，目前的版本是支持的，详情能够浏览官方介绍）

开启动态切换模式的方法，就是在编译httpd的时候加上：

--enable-mpms-shared=all


从PHP5.2升级到PHP5.6相对比较容易，咱们主要的工做以下：

（1）清理了部分再也不使用的老扩展

（2）解决掉线程安全问题

（3）将cmem等api编译到新的版本

（4）PHP代码语法基于PHP5.6的兼容（实际上变化不大）

（5）部分扩展的同步调整。apc扩展变为zend_opcache和apcu，之前的apc是包含了编译缓存和用户内存操做的功能，在PHP比较新版本里，被分解为独立的两个扩展。

从PHP5.6升级到PHP7.0的工做量就比较多，也相对比较复杂，所以，咱们制定了每个阶段的升级计划：

（1）技术预研，PHP7升级准备。

（2）环境编译和搭建，下载相关的编译包，搭建完整的编译环境和测试环境。（编译环境仍是须要比较多的依赖so）

（3）兼容升级和测试。PHP7扩展的从新编译和代码兼容性工做，AMS功能验证，性能压测。

（4）线上灰度。打包为pkg的安装包，编写相关的安装shell安装执行代码（包括软连接、解决一些so依赖）。而后，灰度安装到现网，观察。

（5）正式发布。扩大灰度范围，全量升级。


由于从PHP5.2升级到PHP5.6的过程当中，不少问题已经被咱们提早解决了，因此，PHP7的升级主要难点在于tphplib扩展的编译升级。

涉及主要的工做包括：

（1）PHP5.6的扩展到PHP7.0的比较大幅度改造升级（工做量比较大的地方）

（2）兼容apcu的内存操做函数的更名。PHP5的时候，咱们使用的apc前缀的函数不可用了，同步变为apcu前缀的函数（须要apcu扩展）。


（3）语法兼容升级。实际上工做量不算大，从PHP5.6升级到PHP7变化并很少。

咱们大概在2016年4月中旬份完成了PHP7和Apache的编译工做， 4月下旬进行现网灰度，5月初全量发布到其中一个现网集群。

2. 升级过程当中的错误调试方法

在升级和从新编译PHP7扩展时，若是执行结果不符合预期或者进程core掉，不少错误都是没法从error日志里看见的，不利于分析问题。能够采用如下几种方法，能够用来定位和分析大部分的问题：

（1） var_dump/exit

从PHP代码层逐步输出信息和执行exit，能够逐步定位到异常执行的PHP函数位置，而后再根据PHP函数名，反查扩展内的实现函数，找到问题。这种方法比较简单，可是效率不高。

（2） gdb –p/gdb c

这种方法主要用于分析进程core的场景，咱们采用的编译方式，是将mod_php（PHP变成Apache的子或块的方式），使用gdb –p来监控Apache的服务进程。

命令：ps aux|grep httpd


gdb调试指定进程：

命令：gdb -p


使用c进行捕获，而后构造可以致使core的web请求：


Apache一般是多进程模式，为了让问题比较容易复现，能够在http.con里修改参数，将启动进程数修改成1个（下图中的多个参数都须要调整，以达到只启动单进程单线程的目的）。


固然还有一种更简单的方法，由于Apache自己就支持单进程调试模式的。

./apachectl -k start -X -e debug

而后再经过gdb –p来调试就更简单一些。

（3）经过strace命令查看Apache进程具体在作了些什么事情，根据里面的执行内容，分析和定位问题。

strace -Ttt -v -s1024 -f -p pid（进程id）

备注：执行这些命令，注意权限问题，极可能须要root权限。

4、PHP5.6到PHP7.0扩展升级实践记录

1. 数据类型的变化

（1）zval

php7的诞生始于zval结构的变化，PHP7再也不须要指针的指针，绝大部分zval**须要修改为zval*。若是PHP7直接操做zval，那么zval*也须要改为zval，Z_*P()也要改为Z_*()，ZVAL_*(var, …)须要改为ZVAL_*(&var, …)，必定要谨慎使用&符号，由于PHP7几乎不要求使用zval*，那么不少地方的&也是要去掉的。

ALLOC_ZVAL，ALLOC_INIT_ZVAL，MAKE_STD_ZVAL这几个分配内存的宏已经被移除了。大多数状况下，zval*应该修改成zval，而INIT_PZVAL宏也被移除了。

/* 7.0zval结构源码 */ /* value字段，仅占一个size_t长度，只有指针或double或者long */ typedef union _zend_value { zend_long lval; /* long value */ double dval; /* double value */ zend_refcounted *counted; zend_string *str; zend_array *arr; zend_object *obj; zend_resource *res; zend_reference *ref; zend_ast_ref *ast; zval *zv; void *ptr; zend_class_entry *ce; zend_function *func; struct { uint32_t w1; uint32_t w2; } ww; } zend_value; struct _zval_struct { zend_value value; /* value */ union { 。。。 } u1;/* 扩充字段，主要是类型信息 */ union { … … } u2;/* 扩充字段，保存辅助信息 */ };

（2）整型

直接切换便可：

long->zend_long /* 定义 */ typedef int64_t zend_long; /* else */ typedef int32_t zend_long;

（3）字符串类型

PHP5.6版本中使用 char* + len的方式表示字符串，PHP7.0中作了封装，定义了zend_string类型：

struct _zend_string { zend_refcounted_h gc; zend_ulong h; /* hash value */ size_t len; char val[1]; };


zend_string和char*的转换：

zend_string *str; char *cstr = NULL; size_t slen = 0; //... /* 从zend_string获取char* 和 len的方法以下 */ cstr = ZSTR_VAL(str); slen = ZSTR_LEN(str); /* char* 构造zend_string的方法 */ zend_string * zstr = zend_string_init("test",sizeof("test"), 0);

扩展方法，解析参数时，使用字符串的地方，将‘s’替换成‘S’：

/* 例如 */ zend_string *zstr; if (zend_parse_parameters(ZEND_NUM_ARGS() , "S", &zstr) == FAILURE) { RETURN_LONG(-1); }

（4）自定义对象

源代码：

/* php7.0 zend_object 定义 */ struct _zend_object { zend_refcounted_h gc; uint32_t handle; zend_class_entry *ce; const zend_object_handlers *handlers; HashTable *properties; zval properties_table[1]; };

zend_object是一个可变长度的结构。所以在自定义对象的结构中，zend_object须要放在最后一项：

/* 例子 */ struct clogger_object { CLogger *logger; zend_object std;// 放在后面 }; /* 使用偏移量的方式获取对象 */ static inline clogger_object *php_clogger_object_from_obj(zend_object *obj) { return (clogger_object*)((char*)(obj) - XtOffsetOf(clogger_object, std)); } #define Z_USEROBJ_P(zv) php_clogger_object_from_obj(Z_OBJ_P((zv))) /* 释放资源时 */ void tphp_clogger_free_storage(zend_object *object TSRMLS_DC) { clogger_object *intern = php_clogger_object_from_obj(object); if (intern->logger) { delete intern->logger; intern->logger = NULL; } zend_object_std_dtor(&intern->std); }

（5）数组

7.0中的hash表定义以下，给出了一些注释：

/* 7.0中的hash表结构 */ typedef struct _Bucket { /* hash表中的一个条目 */ zval val; /* 删除元素zval类型标记为IS_UNDEF */ zend_ulong h; /* hash value (or numeric index) */ zend_string *key; /* string key or NULL for numerics */ } Bucket; typedef struct _zend_array HashTable; struct _zend_array { zend_refcounted_h gc; union { struct { ZEND_ENDIAN_LOHI_4( zend_uchar flags, zend_uchar nApplyCount, zend_uchar nIteratorsCount, zend_uchar reserve) } v; uint32_t flags; } u; uint32_t nTableMask; Bucket *arData; /* 保存全部数组元素 */ uint32_t nNumUsed; /* 当前用到了多少长度， */ uint32_t nNumOfElements; /* 数组中实际保存的元素的个数,一旦nNumUsed的值到达nTableSize，PHP就会尝试调整arData数组，让它更紧凑，具体方式就是抛弃类型为UDENF的条目 */ uint32_t nTableSize; /* 数组被分配的内存大小为2的幂次方（最小值为8） */ uint32_t nInternalPointer; zend_long nNextFreeElement; dtor_func_t pDestructor; };

其中，PHP7在zend_hash.h中定义了一系列宏，用来操做数组，包括遍历key、遍历value、遍历key-value等，下面是一个简单例子：

/* 数组举例 */ zval *arr; zend_parse_parameters(ZEND_NUM_ARGS() , "a", &arr_qos_req); if (arr) { zval *item; zend_string *key; ZEND_HASH_FOREACH_STR_KEY_VAL(Z_ARRVAL_P(arr), key, item) { /* ... */ } } /* 获取到item后，能够经过下面的api获取long、double、string值 */ zval_get_long(item) zval_get_double(item) zval_get_string(item)

PHP5.6版本中是经过zend_hash_find查找key，而后将结果给到zval **变量，而且查询不到时须要本身分配内存，初始化一个item，设置默认值。

2. PHP7中的api变化

（1）duplicate参数

PHP5.6中不少API中都须要填入一个duplicate参数，代表一个变量是否须要复制一份，尤为是string类的操做，PHP7.0中取消duplicate参数，对于string相关操做，只要有duplicate参数，直接删掉便可。由于PHP7.0中定义了zval_string结构，对字符串的操做，再也不须要duplicate值，底层直接使用zend_string_init初始化一个zend_string便可，而在PHP5.6中string是存放在zval中的，而zval的内存须要手动分配。

涉及的API汇总以下：

add_index_string、add_index_stringl、add_assoc_string_ex、add_assoc_stringl_ex、add_assoc_string、add_assoc_stringl、add_next_index_string、add_next_index_stringl、add_get_assoc_string_ex、add_get_assoc_stringl_ex、add_get_assoc_string、add_get_assoc_stringl、add_get_index_string、add_get_index_stringl、add_property_string_ex、add_property_stringl_ex、add_property_string、add_property_stringl、ZVAL_STRING、ZVAL_STRINGL、RETVAL_STRING、RETVAL_STRINGL、RETURN_STRING、RETURN_STRINGL

（2）MAKE_STD_ZVAL

PHP5.6中，zval变量是在堆上分配的，建立一个zval变量须要先声明一个指针，而后使用MAKE_STD_ZVAL进行分配空间。PHP7.0中，这个宏已经取消，变量在栈上分配，直接定义一个变量便可，再也不须要MAKE_STD_ZVAL，使用到的地方，直接去掉就好。

（3）ZEND_RSRC_DTOR_FUNC

修改参数名rsrc为res

/* PHP5.6 */ typedef struct _zend_rsrc_list_entry { void *ptr; int type; int refcount; } zend_rsrc_list_entry; typedef void (*rsrc_dtor_func_t)(zend_rsrc_list_entry *rsrc TSRMLS_DC); #define ZEND_RSRC_DTOR_FUNC(name) void name(zend_rsrc_list_entry *rsrc TSRMLS_DC) /* PHP7.0 */ struct _zend_resource { zend_refcounted_h gc;/*7.0中对引用计数作告终构封装*/ int handle; int type; void *ptr; }; typedef void (*rsrc_dtor_func_t)(zend_resource *res); #define ZEND_RSRC_DTOR_FUNC(name) void name(zend_resource *res)

PHP7.0中，将zend_rsrc_list_entry结构升级为zend_resource，在新版本中只须要修改一下参数名称便可。

（4）二级指针宏，即Z_*_PP

PHP7.0中取消了全部的PP宏，大部分状况直接使用对应的P宏便可。

（5）zend_object_store_get_object被取消

根据官方wiki，能够定义以下宏，用来获取object，实际状况看，这个宏用的仍是比较频繁的：

static inline user_object *user_fetch_object(zend_object *obj) { return (user_object *)((char*)(obj) - XtOffsetOf(user_object, std)); } /* }}} */ #define Z_USEROBJ_P(zv) user_fetch_object(Z_OBJ_P((zv)))

（6）zend_hash_exists、zend_hash_find

对全部须要字符串参数的函数，PHP5.6中的方式是传递两个参数（char* + len），而PHP7.0中定义了zend_string，所以只须要一个zend_string变量便可。

返回值变成了zend_bool类型：

/* 例子 */ zend_string * key; key = zend_string_init("key",sizeof("key"), 0); zend_bool res_key = zend_hash_exists(itmeArr, key);

参考资料：

一、php5 to phpng，
二、PHP扩展开发及内核应用，
三、PHP 7中新的Hashtable实现和性能改进 ，
四、深刻理解PHP7之zval，
五、官方wiki，
六、php手册 ，
七、PHP7 使用资源包裹第三方扩展的实现及其源码解读 ，

5、AMS平台升级PHP7的性能优化成果

现网服务是一个很是重要而又敏感的环境，轻则影响用户体验，重则产生现网事故。所以，咱们4月下旬完成PHP7编译和测试工做以后，就在AMS其中一台机器进行了灰度上线，观察了几天后，而后逐步扩大灰度范围，在5月初完成升级。

这个是咱们压测AMS一个查询多个活动计数器的压测结果，以及现网CGI机器，在高峰相同TGW流量场景下的CPU负载数据：


就咱们的业务压测和现网结果来看，和官方所说的性能提高一倍，基本一致。

AMS平台拥有很多的CGI机器，PHP7的升级和应用给咱们带来了性能的提高，能够有效节省硬件资源成本。而且，经过Apache2.4的Event模式，咱们也加强了Apache在支持并发方面的能力。

6、小结

咱们PHP7升级研发项目组，在过去比较长的一个时间段里，通过持续地努力和推动，终于在2016年4月下旬现网灰度，5月初在集群中全量升级，为咱们的AMS活动运营平台带来性能上大幅度的提高。

PHP7的革新，对于PHP语言自己而言，具备非凡的意义和价值，这让我更加确信一点，PHP会是一个愈来愈好的语言。同时，感谢PHP社区的开发者们，为咱们业务带来的性能提高。


PHP7升级研发项目组成员：

徐汉彬、王默涵、廖声茂、匡素文、廖增康、巫泽敏

（腾讯增值产品部-平台开发中心）

 
https://zhuanlan.zhihu.com/p/21493018
相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程