当前位置： 移动技术网 > IT编程>开发语言>PHP > 基于curl数据采集之正则处理函数get_matches的使用

基于curl数据采集之正则处理函数get_matches的使用

2019年04月13日  | 移动技术网IT编程  | 我要评论

根据前两篇的博文：

已经可以得到了我们需要的html文件，现在需要处理得到的文件获取到我们需要的采集的数据。

对于html文档的解析，没有像xml那样的解析类，因为html文档有很多不成对的标签，很不严格。这个时候就需要采用其他的一些辅助类了，simplehtmldom是一个类似于jquery方式操作html文档的解析类。可以很方便的得到想要的数据，可惜速度慢。这里不是我们这里讨论的重点，我主要使用正则来匹配我所需要的采集的数据，可以很快速的得到我需要采集的信息。

考虑到get_html可以判断返回的数据,但是get_htmls没有办法判断，为了方便调式和调用写了如下两个函数：

复制代码 代码如下:

function get_matches($pattern,$html,$err_msg,$multi=false,$flags=0,$offset=0){
     if(!$multi){
         if(!preg_match($pattern,$html,$matches,$flags,$offset)){
             echo $err_msg."! 错误信息: ".get_preg_err_msg()."\n";
             return false;
         }
     }else{
         if(!preg_match_all($pattern,$html,$matches,$flags,$offset)){
             echo $err_msg."! 错误信息: ".get_preg_err_msg()."\n";
             return false;
         }
     }
     return $matches;
 }
 function get_preg_err_msg(){
     $error_code = preg_last_error();
     switch($error_code){
         case preg_no_error :
             $err_msg = 'preg_no_error';
             break;
         case preg_internal_error:
             $err_msg = 'preg_internal_error';
             break;
         case preg_backtrack_limit_error:
             $err_msg = 'preg_backtrack_limit_error';
             break;
         case preg_recursion_limit_error:
             $err_msg = 'preg_recursion_limit_error';
             break;
         case preg_bad_utf8_error:
             $err_msg = 'preg_bad_utf8_error';
             break;
         case preg_bad_utf8_offset_error:
             $err_msg = 'preg_bad_utf8_offset_error';
             break;
         default:
             return '未知错误!';
     }
     return $err_msg.': '.$error_code;
 }

可以这样调用：
复制代码 代码如下:

$url = 'http://www.baidu.com';
 $html = get_html($url);
 $matches = get_matches('!<a[^<]+</a>!',$html,'没有找到链接',true);
 if($matches){
     var_dump($matches);
 }

或者这样调用：
复制代码 代码如下:

$urls = array('http://www.baidu.com','http://www.hao123.com');
 $htmls = get_htmls($urls);
 foreach($htmls as $html){
     $matches = get_matches('!<a[^<]+</a>!',$html,'没有找到链接',true);
     if($matches){
         var_dump($matches);
     }
 }

就可以得到所需的信息，无论单页面采集还是多页面采集，最终php还是只能处理一个页面，由于使用get_matches了，可以对返回的值进行判断真假，得到正确的数据，由于使用正则的时候遇到了超过正则回溯的问题，增加get_preg_err_msg来提示正则信息。

由于采集数据的时候，经常是采集列表页，根据列表页得到的内容页链接再采集内容页，或者更多的层次，那么循环嵌套会很多，对于代码的控制会感觉力不从心。那我们是否可以把采集列表页的代码和采集内容页的代码，或者更多的层次的采集代码分离开，甚至循环都简化呢？

您可能感兴趣的文章:

如对本文有疑问， 点击进行留言回复！！

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网