当前位置： 移动技术网 > IT编程>开发语言>PHP > 自己写的php curl库实现整站克隆功能

自己写的php curl库实现整站克隆功能

2018年07月03日  | 移动技术网IT编程  | 我要评论

听说爱情回来过铃声,武明 你是我的眼,俺去也有毒吗

有时候经常会用到一些在线手册，比如国内或国外的，有些是访问速度慢，有些是作者直接吧网站关闭了，有些是服务器总是宕机，所以还是全盘克隆到自己服务器比较爽。

库特点：

给定一初始连接，初始链接以下的层级所有文件会拷贝到本地。
多次克隆可以配置是否覆盖。
可以配置是否下载图片。
所有链接替换为相对链接，所以可以随便rewrite。
绝对不会出现文件覆盖等问题。
最nb的特点是，没有比这更nb的库了。

svn：

移动技术网下载：

克隆结果展示(这个克隆操作几秒钟就完成了)：

克隆源网站：
克隆结果：

demo代码：

复制代码 代码如下:

<?php
class controller_spider extends myyaf_controller_base{
 function init(){
  parent::init();
  if(!$this->getrequest()->iscli()){
      ares_http::error403();
  }
  include 'curlmulti/curlmulti.php';
  include 'curlmulti/mycurl.php';
  include 'phpquery.php';
 }
}

复制代码 代码如下:

<?php
class yafdoccontroller extends controller_spider {
 function init() {
  parent::init ();
  include 'curlmulti/mycurl/clone.php';
 }
 function indexaction() {
  $url = 'http://www.laruence.com/manual';
  $dir = yaf_application::app ()->getappdirectory () . '/data/manual';
  $cachedir = $this->getbasedir () . '/cache/curl';
  if (! is_dir ( $cachedir )) {
   mkdir ( $cachedir );
  }
  $curl = new curlmulti ();
  $curl->maxthread = 10;
  $curl->cache ['enable'] = true;
  $curl->cache ['enabledownload'] = true;
  $curl->cache ['dir'] = $cachedir;
  $curl->cache ['compress'] = true;
  $clone = new mycurl_clone ( $curl, $url, $dir );
  $clone->overwrite = true;
  $clone->start ();
  return false;
 }
}

您可能感兴趣的文章:

如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网