场景:平常任务中,有时须要经过php脚本执行一些日志分析,队列处理等任务,当数据量比较大时,可使用多进程来处理。php
准备:php多进程须要pcntl,posix扩展支持,能够经过 php - m 查看,没安装的话须要从新编译php,加上参数--enable-pcntl,posix通常默认会有。
html
注意:node
多进程实现只能在cli模式下,在web服务器环境下,会出现没法预期的结果,我测试报错:
linuxCall to undefined function: pcntl_fork()
一个错误 pcntl_fork causing “errno=32 Broken pipe” #474 ,看https://github.com/phpredis/phpredis/issues/474git
注意两点:若是是在循环中建立子进程,那么子进程中最后要exit,防止子进程进入循环。
子进程中的打开链接不能拷贝,使用的仍是主进程的,须要用多例模式。github
pcntl_fork:web
一次调用两次返回,在父进程中返回子进程pid,在子进程中返回0,出错返回-1。redis
pcntl_wait ( int &$status [, int $options ] ):shell
阻塞当前进程,直到任意一个子进程退出或收到一个结束当前进程的信号,注意是结束当前进程的信号,子进程结束发送的SIGCHLD不算。使用$status返回子进程的状态码,并能够指定第二个参数来讲明是否以阻塞状态调用api
阻塞方式调用的,函数返回值为子进程的pid,若是没有子进程返回值为-1;
非阻塞方式调用,函数还能够在有子进程在运行但没有结束的子进程时返回0。
/** 确保这个函数只能运行在SHELL中 */ if (substr(php_sapi_name(), 0, 3) !== 'cli') { die("cli mode only"); }
#!/bin/bash for((i=1;i<=8;i++)) do /usr/local/bin/php multiprocessTest.php & done wait
上面的shell程序,列了一个很简单的多进程程序,用一个for循环,实现了8进程并发来跑multiprocessTest.php这个程序。最后的wait语句,也可使主进程,再等待全部进程都执行完后再往下执行的需求。
这个程序是没有问题的,不少现有的代码也都这样实现,可是这个程序的并发数是不可控的,即咱们没法根据机器的核数去调度每个进程的开关。
若咱们的机器有8核或者更多,上面的程序是没有问题的,全部核都能充分利用,而且互相之间,没有争抢资源的状况出现。
但咱们的机器要没有8核的话会是什么状况,同一时间运行的进程数多于核数,那么系统就会出现进程分配调度的问题,争抢资源也跟着相应而来,一个进程不能保证独立连续的执行,全部的进程运行会遵从系统的调度,这样就会有更多的不肯定因素出现。
<?php //最大的子进程数量 $maxChildPro = 8; //当前的子进程数量 $curChildPro = 0; //当子进程退出时,会触发该函数,当前子进程数-1 function sig_handler($sig) { global $curChildPro; switch ($sig) { case SIGCHLD: echo 'SIGCHLD', PHP_EOL; $curChildPro--; break; } } //配合pcntl_signal使用,简单的说,是为了让系统产生时间云,让信号捕捉函数可以捕捉到信号量 declare(ticks = 1); //注册子进程退出时调用的函数。SIGCHLD:在一个进程终止或者中止时,将SIGCHLD信号发送给其父进程。 pcntl_signal(SIGCHLD, "sig_handler"); while (true) { $curChildPro++; $pid = pcntl_fork(); if ($pid) { //父进程运行代码,达到上限时父进程阻塞等待任一子进程退出后while循环继续 if ($curChildPro >= $maxChildPro) { pcntl_wait($status); } } else { //子进程运行代码 $s = rand(2, 6); sleep($s); echo "child sleep $s second quit", PHP_EOL; exit; } }
<?php $childs = array(); // Fork10个子进程 for ($i = 0; $i < 10; $i++) { $pid = pcntl_fork(); if ($pid == -1) die('Could not fork'); if ($pid) { echo "parent \n"; $childs[] = $pid; } else { // Sleep $i+1 (s). 子进程能够获得$i参数 sleep($i + 1); // 子进程须要exit,防止子进程也进入for循环 exit(); } } while (count($childs) > 0) { foreach ($childs as $key => $pid) { $res = pcntl_waitpid($pid, $status, WNOHANG); //-1表明error, 大于0表明子进程已退出,返回的是子进程的pid,非阻塞时0表明没取到退出子进程 if ($res == -1 || $res > 0) unset($childs[$key]); } sleep(1); }
<?php function _fetchLog() { $password = $this->_getPassword(); $online_log_path = NginxConf::getArchiveDir($this->_stat_day); $task_log_path = QFrameConfig::getConfig('LOG_PATH'); $children = array(); $success = true; foreach($this->_server_list as $host => $value) { $local_dir = $this->_prepareLocalDir($host); $task_log = "$task_log_path/fetch_log.$host"; $cmd = "sshpass -p $password rsync -av -e 'ssh -o StrictHostKeyChecking=no' $host:$online_log_path/* $local_dir >> $task_log 2>&1"; $pid = pcntl_fork(); if(-1 === $pid) { LogSvc::log('stat_pv_by_citycode_error', 'could not fork'); exit('could not fork'); } else if(0 === $pid) { system($cmd, $return_value); if(0 !== $return_value) { LogSvc::log('stat_pv_by_citycode_error', "rsync $host error"); } exit($return_value); } else { $children[$pid] = 1; } } while(!empty($children)) { $pid = pcntl_waitpid(-1, $status, WNOHANG); if(0 === $pid) { sleep(1); } else { if(0 !== pcntl_wexitstatus($status)) { $success = false; } unset($children[$pid]); } } return $success; }
posix_kill(posix_getpid(), SIGHUP); 为本身生成SIGHUP信号
declare(ticks = 1); //php < 5.3
pcntl_signal()
函数仅仅是注册信号和它的处理方法,真正接收到信号并调用其处理方法的是pcntl_signal_dispatch()
函数
必须在循环里调用,为了检测是否有新的信号等待dispatching。
pcntl_signal_dispatch()
declare(ticks = 1);
表示每执行一条低级指令,就检查一次信号,若是检测到注册的信号,就调用其信号处理器。
kill [PID]
命令,未加任何其余参数的话,程序会接收到一个SIGTERM信号。
<?php // 定义一个处理器,接收到SIGINT信号后只输出一行信息 function signalHandler($signal) { if ($signal == SIGINT) { echo 'SIGINT', PHP_EOL; } } // 信号注册:当接收到SIGINT信号时,调用signalHandler()函数 pcntl_signal(SIGINT, 'signalHandler'); /** * PHP < 5.3 使用 * 配合pcntl_signal使用,表示每执行一条低级指令,就检查一次信号,若是检测到注册的信号,就调用其信号处理器。 */ if (!function_exists("pcntl_signal_dispatch")) { declare(ticks=1); } while (true) { $s = sleep(10); echo $s, PHP_EOL; //信号会唤醒sleep,返回剩余的秒数。 // do something for ($i = 0; $i < 5; $i++) { echo $i . PHP_EOL; usleep(100000); } /** * PHP >= 5.3 * 调用已安装的信号处理器 * 必须在循环里调用,为了检测是否有新的信号等待dispatching。 */ if (!function_exists("pcntl_signal_dispatch")) { pcntl_signal_dispatch(); } }
<?php declare(ticks = 1); function signal_handler($signal) { print "Caught SIGALRM\n"; pcntl_alarm(5); } pcntl_signal(SIGALRM, "signal_handler", true); pcntl_alarm(5); for(;;) { }
<?php /** * 父进程经过pcntl_wait等待子进程退出 * 子进程经过信号kill本身,也能够在父进程中发送kil信号结束子进程 */ //生成子进程 $pid = pcntl_fork(); if($pid == -1){ die('could not fork'); }else{ if($pid){ $status = 0; //阻塞父进程,直到子进程结束,不适合须要长时间运行的脚本. //可以使用pcntl_wait($status, WNOHANG)实现非阻塞式 pcntl_wait($status); exit; }else{ //结束当前子进程,以防止生成僵尸进程 if(function_exists("posix_kill")){ posix_kill(getmypid(), SIGTERM); }else{ system('kill -9'. getmypid()); } exit; } }
(1) 父进程经过wait和waitpid等函数等待子进程结束,这会致使父进程挂起。它不适合子进程须要长时间运行的状况(会致使超时)。
执行wait()或waitpid()系统调用,则子进程在终止后会当即把它在进程表中的数据返回给父进程,此时系统会当即删除该进入点。在这种情形下就不会产生defunct进程。
(2) 若是父进程很忙,那么能够用signal函数为SIGCHLD安装handler。在子进程结束后,父进程会收到该信号,能够在handler中调用wait回收。
(3) 若是父进程不关心子进程何时结束,那么能够用signal(SIGCLD, SIG_IGN)或signal(SIGCHLD, SIG_IGN)通知内核,本身对子进程的结束不感兴趣,那么子进程结束后,内核会回收,并再也不给父进程发送信号
(4)fork两次,父进程fork一个子进程,而后继续工做,子进程fork一个孙进程后退出,那么孙进程被init接管,孙进程结束后,init会回收。不过子进程的回收还要本身作。
ps -A -ostat,ppid,pid,cmd | grep -e '^[Zz]'
命令注解:
-A 参数列出全部进程
-o 自定义输出字段 咱们设定显示字段为 stat(状态), ppid(进程父id), pid(进程id),cmd(命令)这四个参数
状态为 z或者Z 的进程为僵尸进程,因此咱们使用grep抓取stat状态为zZ进程
运行结果以下:
这时,可使用 kill -HUP 5255 杀掉这个进程。若是再次查看僵尸进程还存在,能够kill -HUP 5253(父进程)。
若是有多个僵尸进程,能够经过
ps -A -ostat,ppid,pid,cmd | grep -e '^[Zz]'|awk 'print{$2}'|xargs kill -9
处理。
<?php static public function sendSDKMsg($version) {/*{{{*/ if(!self::sendRandChance(self::EA_LAST_TIME_KEY.":".$version)) return false; $fp = @fsockopen( "udp://".self::UDP_HOST , self::UDP_PORT , $errno ); if( !$fp ) return false; stream_set_timeout( $fp , 0 , 100 ); stream_set_blocking( $fp , 0 ); $sysinfo = posix_uname(); $msg = $version." - ".$sysinfo['nodename']." - ".date('Y-m-d H:i:s',time()); $res = fwrite( $fp , $msg ); fclose($fp); }/*}}}*/ static public function sendRandChance($key) {/*{{{*/ $now = microtime(true); if(function_exists("eaccelerator_get")) { $lastInserTime = eaccelerator_get($key); if(!$lastInserTime) $lastInserTime = 0; if( ($now - $lastInserTime) < self::SEND_INTERVAL ) return false; eaccelerator_put($key, $now); return true; }else if(function_exists("apc_fetch")) { $lastInserTime = apc_fetch($key); if(!$lastInserTime) $lastInserTime = 0; if( ($now - $lastInserTime) < self::SEND_INTERVAL ) return false; apc_store($key, $now); return true; } $rand = rand(1,60); if((time()%60 == $rand) && rand(0,20) == 3) { return true; } return false; }/*}}}*/