• 欢迎访问搞代码网站,推荐使用最新版火狐浏览器和Chrome浏览器访问本网站!
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏搞代码吧

为什么我这段curl采集,单线程比多线程还快?

php 搞代码 4年前 (2022-01-25) 16次浏览 已收录 0个评论
文章目录[隐藏]

我这里写了个简单的curl采集,但是执行后发现单线程执行的方式比多线程执行要快很多.
是我的写法又问题吗?

<code>$images = [    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415151923_73502.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415151826_52170.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415152035_59698.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140507/20140507143708_26688.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140417/20140417095153_61993.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140426/20140426094716_96396.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20130730/20130730160625_21437.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20130731/20130731170502_90104.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20130731/20130731165147_80414.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415151923_73502.jpg",];</code>

这个是单线程的函数:

<code>function getImg($url = "", $filename = ""){        $ch = curl_init ();        $opt [CURLOPT_URL] = $url;        $opt [CURLOPT_HEADER] = true;        $opt [CURLOPT_CONNECTTIMEOUT] = 10;        $opt [CURLOPT_TIMEOUT] = 60;        $opt [CURLOPT_AUTOREFERER] = true;        $opt [CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.47 Safari/536.11';        $opt [CURLOPT_RETURNTRANSFER] = true;        // $opt [CURLOPT_FOLLOWLOCATION] = true; //跟随重定向        // $opt [CURLOPT_MAXREDIRS] = 10;        curl_setopt_array ( $ch, $opt );        $r = curl_exec ( $ch );        if (false === $r) {            $errno = curl_errno ( $ch );            $err = curl_error ( $ch );            curl_close ( $ch );            return false;        }        // 鉴定一下header:200 才写入文件        $header = explode("\r\n\r\n", $r);        if (strpos($header[0], 'HTTP/1.1 200') === 0) {            file_put_contents($filename, $header[1]);        }        curl_close ( $ch );        return true;}</code>

又尝试用curl_multi系列函数,但直接看的手册,没完全弄明白:

<code>// 多线程采集数据function getImgMulti($url=[] , $filename=[]){    // 创建批处理cURL句柄    $mh = curl_multi_init();    // 这里可以加n=10个线程    foreach ($url as $k => $v ) {        $ch[$k] = curl_init();        $opt [CURLOPT_URL] = $v;        $opt [CURLOPT_HEADER] = true;        $opt [CURLOPT_CONNECTTIMEOUT] = 10;        $opt [CURLOPT_TIMEOUT] = 60;        $opt [CURLOPT_AUTOREFERER] = true;        $opt [CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.47 Safari/536.11';        $opt [CURLOPT_RETURNTRANSFER] = true;        // $opt [CURLOPT_FOLLOWLOCATION] = true; //跟随重定向        // $opt [CURLOPT_MAXREDIRS] = 10;        curl_setopt_array ( $ch[$k], $opt );        // 增加1个句柄        curl_multi_add_handle($mh,$ch[$k]);    }    $running=null;    // 执行批处理句柄    do {        curl_multi_exec($mh,$running);    } while($running > 0);    for ($i=0; $i < 10; $i++) {        $r = curl_multi_getcontent($ch[$i]);        // 鉴定一下header:200 才写入文件        $header = explode("\r\n\r\n", $r);        if (strpos($header[0], 'HTTP/1.1 200') === 0) {            file_put_contents('pics/'.$i.'.jpg', $header[1]);        }    }    // 关闭全部句柄    // curl_multi_remove_handle($mh, $ch1);    curl_multi_close($mh);}</code>

执行结果,循环执行单线程大约1.7秒完成,后面这个3.5秒完成.
可能是我对这个函数的用法没弄透,请哪位来解释下原因?

—-后续补充—-
我在windows上面测试的,难道说因为win的php多线程有别的问题?
另外还参考了别人写好的php类
http://blog.eiodesign.com/archives/86
用这个类库又做了一遍采集,结果还是一样,更慢了

<code>// 测试库采集require("libs/class_curl_multi.php");$mp = new MultiHttpRequest();//远程图片本地化$mp->set_urls($images);$images_result = $mp->start();foreach ((array)$images_result as $image_key => $image_value) {    if (!empty($image_key)) {        _flush("store image:".$image_key."<br />");        file_put_contents('pics/'.$image_key.'.jpg',$image_value);    }}</code>

用时4.05秒

是因为我对这个php的多线程理解有问题,还是其他原因造成这种差距呢? 貌似多线程并没有提高采集效率.反而影响了.

回复内容:

我这里写了个简单的curl采集,但是执行后发现单线程执行的方式比多线程执行要快很多.
是我的写法又问题吗?

<code>$images = [    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415151923_73502.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415151826_52170.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415152035_59698.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140507/20140507143708_26688.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140417/20140417095153_61993.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20140426/20140426094716_96396.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20130730/20130730160625_21437.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20130731/20130731170502_90104.jpg",    "http://pic.91taojin.com.cn/data/attachment/image/20130731/20130731165147_80414.jp<strong style="color:transparent">本&文来源gao@daima#com搞(%代@#码网@</strong><textarea>搞gaodaima代码</textarea>g",    "http://pic.91taojin.com.cn/data/attachment/image/20140415/20140415151923_73502.jpg",];</code>

这个是单线程的函数:

<code>function getImg($url = "", $filename = ""){        $ch = curl_init ();        $opt [CURLOPT_URL] = $url;        $opt [CURLOPT_HEADER] = true;        $opt [CURLOPT_CONNECTTIMEOUT] = 10;        $opt [CURLOPT_TIMEOUT] = 60;        $opt [CURLOPT_AUTOREFERER] = true;        $opt [CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.47 Safari/536.11';        $opt [CURLOPT_RETURNTRANSFER] = true;        // $opt [CURLOPT_FOLLOWLOCATION] = true; //跟随重定向        // $opt [CURLOPT_MAXREDIRS] = 10;        curl_setopt_array ( $ch, $opt );        $r = curl_exec ( $ch );        if (false === $r) {            $errno = curl_errno ( $ch );            $err = curl_error ( $ch );            curl_close ( $ch );            return false;        }        // 鉴定一下header:200 才写入文件        $header = explode("\r\n\r\n", $r);        if (strpos($header[0], 'HTTP/1.1 200') === 0) {            file_put_contents($filename, $header[1]);        }        curl_close ( $ch );        return true;}</code>

又尝试用curl_multi系列函数,但直接看的手册,没完全弄明白:

<code>// 多线程采集数据function getImgMulti($url=[] , $filename=[]){    // 创建批处理cURL句柄    $mh = curl_multi_init();    // 这里可以加n=10个线程    foreach ($url as $k => $v ) {        $ch[$k] = curl_init();        $opt [CURLOPT_URL] = $v;        $opt [CURLOPT_HEADER] = true;        $opt [CURLOPT_CONNECTTIMEOUT] = 10;        $opt [CURLOPT_TIMEOUT] = 60;        $opt [CURLOPT_AUTOREFERER] = true;        $opt [CURLOPT_USERAGENT] = 'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.47 Safari/536.11';        $opt [CURLOPT_RETURNTRANSFER] = true;        // $opt [CURLOPT_FOLLOWLOCATION] = true; //跟随重定向        // $opt [CURLOPT_MAXREDIRS] = 10;        curl_setopt_array ( $ch[$k], $opt );        // 增加1个句柄        curl_multi_add_handle($mh,$ch[$k]);    }    $running=null;    // 执行批处理句柄    do {        curl_multi_exec($mh,$running);    } while($running > 0);    for ($i=0; $i < 10; $i++) {        $r = curl_multi_getcontent($ch[$i]);        // 鉴定一下header:200 才写入文件        $header = explode("\r\n\r\n", $r);        if (strpos($header[0], 'HTTP/1.1 200') === 0) {            file_put_contents('pics/'.$i.'.jpg', $header[1]);        }    }    // 关闭全部句柄    // curl_multi_remove_handle($mh, $ch1);    curl_multi_close($mh);}</code>

执行结果,循环执行单线程大约1.7秒完成,后面这个3.5秒完成.
可能是我对这个函数的用法没弄透,请哪位来解释下原因?

—-后续补充—-
我在windows上面测试的,难道说因为win的php多线程有别的问题?
另外还参考了别人写好的php类
http://blog.eiodesign.com/archives/86
用这个类库又做了一遍采集,结果还是一样,更慢了

<code>// 测试库采集require("libs/class_curl_multi.php");$mp = new MultiHttpRequest();//远程图片本地化$mp->set_urls($images);$images_result = $mp->start();foreach ((array)$images_result as $image_key => $image_value) {    if (!empty($image_key)) {        _flush("store image:".$image_key."<br />");        file_put_contents('pics/'.$image_key.'.jpg',$image_value);    }}</code>

用时4.05秒

是因为我对这个php的多线程理解有问题,还是其他原因造成这种差距呢? 貌似多线程并没有提高采集效率.反而影响了.


搞代码网(gaodaima.com)提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected],我们会在看到邮件的第一时间内为您处理,或直接联系QQ:872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:为什么我这段curl采集,单线程比多线程还快?

喜欢 (0)
[搞代码]
分享 (0)
发表我的评论
取消评论

表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址