CURL使用方法详解

时间  2019-11-11
标签 curl 使用方法 详解 栏目 Linux 繁體版
原文   原文链接

php采集神器CURL使用方法详解

做者：佚名  更新时间：2016-10-21
 

对于作过数据采集的人来讲，cURL必定不会陌生。虽然在PHP中有file_get_contents函数能够获取远程连接的数据，可是它的可控制性太差了，对于各类复杂状况的采集情景，file_get_contents显得有点无能为力。所以，本文将为你介绍采集神器cURL的使用。php

先给你们补充一下file_get_contents函数能够获取远程连接数据的方法。html

<?php
$url = "http://git.oschina.net/yunluo/API/raw/master/notice.txt";
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, 10);
$notice = curl_exec($ch);
echo $notice;
?>

这段代码会直接使用curl显示文件内容，可是问题来了，由于curl是php的扩展，有的主机为了安全会金庸curl的，宁外php本地调试的时候也是关闭curl的，因此会发生报错，因此这段代码是不可取的，因此云落对他从新改写了ios

<?php
  if (function_exists('curl_init')) {
    $url = "http://git.oschina.net/yunluo/API/raw/master/notice.txt";
    $ch = curl_init();
    curl_setopt($ch, CURLOPT_URL, $url);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
    curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, 10);
    $dxycontent = curl_exec($ch);
    echo $dxycontent;
  } else {
    echo '汗！貌似您的服务器还没有开启curl扩展，没法收到来自云落的通知，请联系您的主机商开启，本地调试请无视';
  }
?>

修改后的版本是对curl扩展作一个判断，看看服务器到底有木有打开curl扩展，若是打开了，就直接显示文件，若是没打开就显示一段提示文字。
虽然修复了问题，可是又有一个问题来了，我只是显示一段文字而已，我也不是是用什么作什么大事的，因此我为何要写那么多的代码呢？？
通过一些瞎掰的检测，发现file_get_contents获取远程文件内容的速度不比curl慢，在一些文件较少的状况下可能还比curl扩展要快得多，因此我又重写了代码git

<?php echo file_get_contents( "http://git.oschina.net/yunluo/API/raw/master/notice.txt" ); ?>

工具
火狐浏览器（FireFox） + Firebug
“工欲善其事，必先利其器。” 在分析案例以前，先让咱们学习一下如何利用神器Firebug获取咱们必要的信息。
使用F12打开Firebug，咱们能够获得如图（一）界面：web

一、箭头图标是“元素选择”工具，单击一次会高亮图标，同时，鼠标在页面内的移动会同时在HTML菜单中选定相应的内容，此时单击内容则表示选定了该元素，图标高亮取消。如图（二）所示：
Firebug查看元素后端

二、控制台
JS里面的console.log系列函数的打印就是在这里输出。
三、HTML
HTML内容，注意这里看到的不必定是采集要解析的内容，采集时候对内容的分析，一概以查看源码（Ctrl+U）为准，这里只是能快速定位元素的结构，而后再选择一个比较特殊的参照，在源码中定位相应的位置。
好比，你在HTML里面看到一个标签是<div id="demo" class="demo">Demo</div>，可是你查看源码时候看到的内容多是<div class="demo" id="demo">Demo</div>，若是你对采集内容按照前者去作正则匹配，那么你会得不到结果。
四、CSS
这里是CSS文件内容
五、脚本
这里是Javascript文件内容
六、DOM
Dom节点内容
七、网络
每个请求连接的数据，这里是咱们采集要关注和分析的地方，它可以显示每个请求的参数、请求头、Cookie数据等。在页面提交会刷新的状况下，须要使用保持，使得页面请求内容在刷新后仍然留着控制台中，如图（三）所示：数组

另外，火狐还有一款 Tamper data 扩展也能获得请求数据，必要时能够安装使用。
八、Cookies
Cookie数据浏览器

在图（一）中还看到下面有不少可选的小菜单项，其中保持是咱们要关注的，当选择它的时候，即便提交表单刷新了页面，下面内容区域的数据仍是会保留，这个对于分析提交数据特别关键。安全

总结
咱们在分析采集请求的时候，主要关心“网络”菜单里的请求数据，必要时候使用“保持”以查看刷新页面的请求数据，请求前可使用“清除”先清除下面的内容。服务器

案例解析
1、简单的采集
这里所指的简单采集，是指一个单一页面GET请求的采集，它简单得即便经过file_get_contents函数也能轻松得到页面返回结果。

代码片断之file_get_contents

<?php
  $url = 'http://demo.zjmainstay.cn/php/curl/simple.html';
  $content = file_get_contents($url);
  echo $content;

代码片断之cURL

<?php
  $url = 'http://demo.zjmainstay.cn/php/curl/simple.html';
  $ch = curl_init($url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //返回数据不直接输出
  $content = curl_exec($ch);          //执行并存储结果
  curl_close($ch);
  
  echo $content;

2、须要参数的采集
这种状况，页面请求须要传入一些参数，能够是GET请求，也能够是POST请求。这种状况的采集，使用file_get_contents外带一些参数仍是能够实现的，可是这里咱们将再也不展现。

代码片断之cURL GET
这种请求，咱们能够选择搜索引擎做为演示，好比我百度搜索一个词语“PHP cURL”，在输入回车后，咱们会获得一个相似http://www.baidu.com/s?ie=utf-8&f=8&rsv_bp=1&ch=&tn=baidu&bar=&wd=PHP%20cURL的连接，注意这里的连接可能不一样浏览器、不一样入口方式访问获得不同结果，所以没必要介意连接是否同样。经过输入多个关键词并观察连接，咱们能够肯定 wd 参数就是咱们要传入的动态参数，而其余参数则能够不变，所以获得咱们下面的采集代码。

<?php
  $keyword  = 'PHP cURL';
  $url    = 'http://www.baidu.com/s?ie=utf-8&f=8&rsv_bp=1&ch=&tn=baidu&bar=&wd=' . urlencode($keyword);
  
  $ch = curl_init($url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //返回数据不直接输出
  $content = curl_exec($ch);          //执行并存储结果
  curl_close($ch);
  
  echo $content;

有些时候，一些参数并非必须的，这时候咱们能够删掉它，好比上面的连接能够只保留http://www.baidu.com/s?ie=utf-8&wd=PHP%20cURL，ie=utf-8 这个参数可能影响结果的编码，因此暂且留着它。就这样简单的代码，咱们就能够采集到百度搜索的结果了。

代码片断之cURL POST
对于POST类型的请求，咱们平时并很多见，好比有些搜索就是使用POST方式提交，这时候咱们就须要使用POST类型来提交参数了。这个在PHP cURL里面有相应的参数：CURLOPT_POST 和 CURLOPT_POSTFIELDS ， CURLOPT_POST 的设置能够指定当前提交是否为POST方式，CURLOPT_POSTFIELDS则用于设定提交的参数，能够是参数串，也能够是参数数组，好比：

curl_setopt($ch, CURLOPT_POSTFIELDS, 'ie=utf-8&wd=PHP%20cURL');

或

curl_setopt($ch, CURLOPT_POSTFIELDS, array(
  'ie'  => 'utf-8',
  'wd'  => 'PHP%20cURL',
));

下面是我作的一个POST模拟搜索PHP POST 搜索，后端是使用了前面的百度关键词搜索，基本原理就是，客户端提交一个关键词到我服务器，我服务器使用该关键词请求百度的搜索，而后获得结果，返回到客户端。
如图（四）是利用Firebug对请求数据的分析，获得咱们须要提交的请求连接和请求参数：

而后下面是咱们的代码：

<?php
  $keyword  = 'PHP cURL';
  //参数方法一
  // $post    = 'wd=' . urlencode($keyword);
  
  //参数方法二
  $post    = array(
    'wd'    => urlencode($keyword),
  );
  $url    = 'http://demo.zjmainstay.cn/php/curl/search.php';
  
  $ch = curl_init($url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //返回数据不直接输出
  curl_setopt($ch, CURLOPT_POST, 1);      //发送POST类型数据
  curl_setopt($ch, CURLOPT_POSTFIELDS, $post); //POST数据，$post能够是数组，也能够是拼接
  $content = curl_exec($ch);          //执行并存储结果
  curl_close($ch);
  
  var_dump($content);

3、须要Referer的采集
对于一些程序，它可能判断来源网址，若是发现referer不是本身的网站，则拒绝访问，这时候，咱们就须要添加CURLOPT_REFERER参数，模拟来路，使得程序可以正常采集。

 

<?php
  $keyword  = 'PHP cURL';
  //参数方法一
  // $post    = 'wd=' . urlencode($keyword);
  
  //参数方法二
  $post    = array(
    'wd'    => urlencode($keyword),
  );
  $url    = 'http://demo.zjmainstay.cn/php/curl/search_refer.php';
  $refer   = 'http://demo.zjmainstay.cn/';  //来路地址
  
  $ch = curl_init($url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //返回数据不直接输出
  curl_setopt($ch, CURLOPT_REFERER, $refer);  //来路模拟
  curl_setopt($ch, CURLOPT_POST, 1);      //发送POST类型数据
  curl_setopt($ch, CURLOPT_POSTFIELDS, $post); //POST数据，$post能够是数组，也能够是拼接
  $content = curl_exec($ch);          //执行并存储结果
  curl_close($ch);
  
  var_dump($content);

search_refer.php的源码以下，作了简单的Referer判断拦截：

<?php
  if(empty($_POST['wd'])) {
    exit('Deny empty params.');
  }
  
  //Referer判断
  if(stripos($_SERVER['HTTP_REFERER'], $_SERVER['HTTP_HOST']) === false) {
    exit('Deny');
  }
  
  $keyword  = addslashes(trim(strip_tags($_POST['wd'])));
  $url    = 'http://www.baidu.com/s?ie=utf-8&wd=' . urlencode($keyword);
  
  $ch = curl_init($url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //返回数据不直接输出
  $content = curl_exec($ch);          //执行并存储结果
  curl_close($ch);
  
  echo $content;

4、须要cookie支持的采集
对于模拟登陆的应用，单单提交参数和模拟来路并不能解决问题，这时候咱们就须要保存或者提交相应的Cookie参数，这个在PHP cURL里面也提供了相应的参数:
CURLOPT_COOKIE： 直接使用字符串方式提交cookie参数
CURLOPT_COOKIEFILE： 使用文件方式提交cookie参数
CURLOPT_COOKIEJAR： 保存提交后反馈的cookie数据

下面是PHP100的模拟登陆示例：

 

<?php 
header("content-Type: text/html; charset=UTF-8");
$cookie_file = tempnam('./temp', 'cookie');
$login_url="http://bbs.php100.com/login.php";
$post_fields="cktime=36000&step=2&pwuser=username&pwpwd=password";

//提交登陆表单请求
$ch=curl_init($login_url);
curl_setopt($ch,CURLOPT_HEADER,0);
curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);
curl_setopt($ch,CURLOPT_POST,1);
curl_setopt($ch,CURLOPT_POSTFIELDS,$post_fields);
curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file); //存储提交后获得的cookie数据
curl_exec($ch);
curl_close($ch);

//登陆成功后，获取bbs首页数据
$url="http://bbs.php100.com/index.php";
$ch=curl_init($url);
curl_setopt($ch,CURLOPT_HEADER,0);
curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);
curl_setopt($ch,CURLOPT_COOKIEFILE,$cookie_file); //使用提交后获得的cookie数据作参数
$contents=curl_exec($ch);
curl_close($ch);
//转码显示
echo iconv('gbk', 'UTF-8', $contents);

5、压缩网页采集（gzip）
有些没有接触过压缩页面的朋友估计会在这里被坑死，由于他们会发现采集回来的内容是乱码，而且不管使用iconv仍是强大的mb_convert_encoding都没法还原数据，而后又没有概念，各类抓狂却找不到方法，哈哈，我曾经也是这样~
如图（五）是乱码表现形式：

还好最后功夫不负有心人，仍是找到了，它就是CURLOPT_ENCODING参数。
好比，采集搜狐的新闻时候就遇到gzip压缩问题，下面是示例：

<?php
  $url = 'http://news.sohu.com/';
  
  $ch = curl_init($url);
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //返回数据不直接输出
  curl_setopt($ch, CURLOPT_ENCODING, "gzip"); //指定gzip压缩
  $content = curl_exec($ch); //执行并存储结果
  curl_close($ch);
  echo $content;

手册说明：支持的编码有"identity"，"deflate"和"gzip"。若是为空字符串""，请求头会发送全部支持的编码类型。
后面一句代表，使用curl_setopt($ch, CURLOPT_ENCODING, "");也是能够的，可是不能不加这个参数。

6、SSL连接的采集
有些请求连接是https类型的，这时候使用cURL采集可能会失败，这时候，咱们可使用 var_dump(curl_error($ch));的方法打印错误提示，而后根据错误提示查找相应的解决方案。好比SSL错误常见提示：SSL certificate problem: unable to get local issuer certificate，这时候，咱们就须要利用参数：CURLOPT_SSL_VERIFYPEER 和 CURLOPT_SSL_VERIFYHOST 来禁用SSL证书的验证，我尝试过只使用CURLOPT_SSL_VERIFYPEER参数禁用失败，因此你们最好同时使用两个参数。
下面是代码示例：

 

<?php
  $searchStr = 'RC376981638HK';
  $post  = 'accion=LocalizaUno&numero='.$searchStr.'&ecorreo=&numeros=';

  $url  = 'https://aplicacionesweb.correos.es/localizadorenvios/track.asp';

  $ch         = curl_init($url);       //初始化curl
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);    //返回数据不直接输出
  curl_setopt($ch, CURLOPT_POST, 1);         //发送POST类型数据
  curl_setopt($ch, CURLOPT_POSTFIELDS, $post);    //POST数据，$post能够是数组，也能够是拼接参数串
  curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, false);  //SSL 报错时使用
  curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, false);  //SSL 报错时使用
  $contents = curl_exec($ch);               //执行并存储结果
  // var_dump(curl_error($ch));            //获取失败是使用（采集错误提示）
  curl_close($ch);
  echo $contents;

7、代理采集
你们都知道，国内存在万恶的墙，因此，假如咱们须要获取某些被墙数据时，就须要用到国外代理服务器；又或者咱们须要采集大量数据时，须要不断切换IP，也会用到代理。
使用代理在PHP cURL里面有几个相对应的参数：CURLOPT_PROXY、CURLOPT_PROXYPORT 和 CURLOPT_PROXYUSERPWD，还有另外几个，这里不列举。
CURLOPT_PROXY 指定代理IP参数
CURLOPT_PROXYPORT 指定代理端口参数
CURLOPT_PROXYUSERPWD 指定须要验证的代理的帐号密码，"[username]:[password]"格式的字符串

关于代理帐号获取，你们本身发挥，我这里提供网上搜索到的一个列表：cURL 高匿代理

下面是代理采集示例：

 

<?php
  $url = 'http://demo.zjmainstay.cn/php/curl/dump_ip.php?t=' . time();
  
  echo "本地IP：" . file_get_contents($url) . "\n伪造IP：";
  
  $ip   = '183.224.1.116';
  $port  = '80';
  
  //伪造请求头参数，若是是高匿代理这里不须要提供
  $header = array(
    'X-FORWARDED-FOR: ' . $ip,
    'CLIENT-IP: ' . $ip,
  );
  
  $ch         = curl_init($url); //初始化curl
  curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
  curl_setopt($ch, CURLOPT_HTTPHEADER, $header);
  curl_setopt($ch, CURLOPT_PROXY, $ip);
  curl_setopt($ch, CURLOPT_PROXYPORT, $port);

  $content = curl_exec($ch); //执行并存储结果
  curl_close($ch);
  
  echo $content;

8、 多线程采集
对于大量采集工做，为了提升采集效率，使用PHP cURL提供的多线程采集是必不可少的。手册上提供的多线程采集例子好像都不太好用，我刚开始也从里面测试了几个例子，可是发现都是执行卡死，根本没法执行完成，前几天忽然又测试了一下，而后发现curl_multi_info_read函数下面的Example #1是能够执行的，它的内容在$res上，可是没有打印出来，并且雅虎的请求比较慢，会卡住，前面两个连接都能正常返回。
不过，还好当时的例子很差用，而后我通过搜索找到了一个很厉害的项目，CurlMulti ，它对PHP cURL Multi 进行了一个良性扩展的封装，可以很好地提供采集支持。
关于CurlMulti的使用我就很少介绍，官网上面提供了demo，使用过程有技术难题能够直接加入Q群讨论，做者@Ares 和其余的采集大牛都会提供技术解答帮助。
下面是PHP cURL Multi的一个简单示例：

 

<?php
$urls = array(
  "http://demo.zjmainstay.cn/php/curl/curl_multi_1.php",
  "http://demo.zjmainstay.cn/php/curl/curl_multi_2.php",
);

$mh = curl_multi_init();

foreach ($urls as $i => $url) {
  $conn[$i] = curl_init($url);
  curl_setopt($conn[$i], CURLOPT_RETURNTRANSFER, 1); //不直接输出结果
  curl_multi_add_handle($mh, $conn[$i]);
}

$active = null;
$res = array();
do {
  $status = curl_multi_exec($mh, $active);
  $info = curl_multi_info_read($mh);
  if (false !== $info) {
    //采集信息处理
    $res[] = array(
      'content'  => curl_multi_getcontent($info['handle']),
      'info'   => $info,
    );
    curl_close($info['handle']);
  }
} while ($status === CURLM_CALL_MULTI_PERFORM || $active);

curl_multi_close($mh);

var_dump($res);

9、302跳转（301跳转）
对于一些应用，好比模拟登陆，若是赶上302跳转，会致使cookie丢失而使得模拟登陆失败，请求现象如图（六）所示：

这个时候，可使用：

curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);

关于CURLOPT_FOLLOWLOCATION，手册说明是：

启用时会将服务器服务器返回的"Location: "放在header中递归的返回给服务器，使用CURLOPT_MAXREDIRS能够限定递归返回的数量。
我我的理解，通俗点讲就是后面的跳转会继续跟踪访问，并且cookie在header里面被保留了下来。

10、模拟上传文件
在PHP手册的curl_setopt函数中，关于CURLOPT_POSTFIELDS有以下描述：

所有数据使用HTTP协议中的"POST"操做来发送。要发送文件，在文件名前面加上@前缀并使用完整路径。这个参数能够经过urlencoded后的字符串相似'para1=val1¶2=val2&...'或使用一个以字段名为键值，字段数据为值的数组。若是value是一个数组，Content-Type头将会被设置成multipart/form-data。

对于上传文件，这句话包含两个信息：

1. 要上传文件，post的数据参数必须使用数组，使得Content-Type头将会被设置成multipart/form-data。
2. 要上传文件，在文件名前面加上@前缀并使用完整路径。
所以，模拟文件上传能够按照以下实现：

//上传D盘下的test.jpg文件，文件必须存在，不然curl处理失败且没有任何提示
$data = array('name' => 'Foo', 'file' => '@d:/test.jpg');

$ch = curl_init('http://localhost/upload.php');
curl_setopt($ch, CURLOPT_POST, 1);
curl_setopt($ch, CURLOPT_POSTFIELDS, $data);
curl_exec($ch);

本地测试的时候，在upload.php文件中打印出\\(_POST和\$_FILES便可验证是否上传成功，以下： ``` <?php print_r(\)_POST);
print_r($_FILES);

输出结果相似：

Array ( [name] => Foo ) Array ( [file] => Array ( [name] => test.jpg [type] => application/octet-stream [tmp_name] => D:\xampp\tmp\php2EA0.tmp [error] => 0 [size] => 139999 ) )

关于CURLOPT_POSTFIELDS的赋值，另外补充一句描述：
传递一个数组到CURLOPT_POSTFIELDS，cURL会把数据编码成 multipart/form-data，而然传递一个URL-encoded字符串时，数据会被编码成 application/x-www-form-urlencoded。

即：

curl_setopt(\(ch, CURLOPT_POSTFIELDS, 'param1=val1¶m2=val2&...'); 和 curl_setopt(\)ch, CURLOPT_POSTFIELDS, array('param1' => 'val1', 'param2' => 'val2', ...));

这样一个功能强大的采集神器cURL的使用方法为你们介绍到这，但愿对你们的学习有所帮助。

相关文章
相关标签/搜索
每日一句
    每一个你不满意的现在，都有一个你没有努力的曾经。
本站公众号
   欢迎关注本站公众号,获取更多信息
联系我们 最近搜索 最新文章 沪ICP备13005482号-10 MyBatis教程 SQL 教程 MySQL教程 Java 教程 Thymeleaf 教程 Hibernate教程 Spring教程 Redis教程