示例代码1: 用file_get_contents 以get方式获取内容
<?php<BR>$url='http://www.baidu.com/';<BR>$html=file_get_contents($url);<BR>//print_r($http_response_header);<BR>ec($html);<BR>printhr();<BR>printarr($http_response_header);<BR>printhr();<BR>?><BR>
示例代码2: 用fopen打开url, 以get方式获取内容
<?<BR>$fp=fopen($url,'r');<BR>printarr(stream_get_meta_data($fp));<BR>printhr();<BR>while(!feof($fp)){<BR>$result.=fgets($fp,1024);<BR>}<BR>echo"url body:$result";<BR>printhr();<BR>fclose($fp);<BR>?><BR>
示例代码3:用file_get_contents函数,以post方式获取url
<?php<BR>$data=array('foo'=>'bar');<BR>$data=http_build_query($data);<BR>$opts=array(<BR> 'http'=>array(<BR>'method'=>'POST',<BR>'header'=>"Content-type: application/x-www-form-urlencoded\r\n".<BR> "Content-Length: ".strlen($data)."\r\n",<BR>'content'=>$data<BR>),<BR>);<BR>$context=stream_context_create($opts);<BR>$html=file_get_contents('http://localhost/e/admin/test.html',false,$context);<BR>echo$html;<BR>?><BR>
示例代码4:用fsockopen函数打开url,以get方式获取完整的数据,包括header和body
<?<BR>functionget_url($url,$cookie=false){<BR>$url=parse_url($url);<BR>$query=$url[path]."?".$url[query];<BR>ec("Query:".$query);<BR>$fp=fsockopen($url[host],$url[port]?$url[port]:80,$errno,$errstr,30);<BR>if(!$fp){<BR>returnfalse;<BR>}else{<BR>$request="GET$queryHTTP/1.1\r\n";<BR>$request.="Host:$url[host]\r\n";<BR>$request.="Connection: Close\r\n";<BR>if($cookie)$request.="Cookie:$cookie\n";<BR>$request.="\r\n";<BR>fwrite($fp,$request);<BR>while(!@feof($fp)){<BR>$result.=@fgets($fp,1024);<BR>}<BR>fclose($fp);<BR>return$result;<BR>}<BR>}<BR>//获取url的html部分,去掉header<BR>functionGetUrlHTML($url,$cookie=false){<BR>$rowdata=get_url($url,$cookie);<BR>if($rowdata)<BR>{<BR> $body=stristr($rowdata,"\r\n\r\n");<BR> $body=substr($body,4,strlen($body));<BR> return$body;<BR>}<BR>returnfalse;<BR>}<BR>?><BR>
示例代码5:用fsockopen函数打开url,以POST方式获取完整的数据,包括header和body
<?<BR>functionHTTP_Post($URL,$data,$cookie,$referrer=""){<BR>// parsing the given URL<BR>$URL_Info=parse_url($URL);<BR>// Building referrer<BR>if($referrer=="")// if not given use this script. as referrer<BR>$referrer="111";<BR>// making string from $data<BR>foreach($dataas$key=>$value)<BR>$values[]="$key=".urlencode($value);<BR>$data_string=implode("&",$values);<BR>// Find out which port is needed - if not given use standard (=80)<BR>if(!isset($URL_Info["port"]))<BR>$URL_Info["port"]=80;<BR>// building POST-request:<BR>$request.="POST ".$URL_Info["path"]." HTTP/1.1\n";<BR>$request.="Host: ".$URL_Info["host"]."\n";<BR>$request.="Referer:$referer\n";<BR>$request.="Content-type: application/x-www-form-urlencoded\n";<BR>$request.="Content-length: ".strlen($data_string)."\n";<BR>$request.="Connection: close\n";<BR>$request.="Cookie:$cookie\n";<BR>$request.="\n";<BR>$request.=$data_string."\n";<BR>$fp=fsockopen($URL_Info["host"],$URL_Info["port"]);<BR>fputs($fp,$request);<BR>while(!feof($fp)){<BR>$result.=fgets($fp,1024);<BR>}<BR>fclose($fp);<BR>return$result;<BR>}<BR>printhr();<BR>?><BR>
示例代码6:使用curl库,使用curl库之前,你可能需要查看一下php.ini,查看是否已经打开了curl扩展
<?<BR>$ch = curl_init();<BR>$timeout = 5;<BR>curl_setopt ($ch, CURLOPT_URL, 'http://www.baidu.com/');<BR>curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);<BR>curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);<BR>$file_contents = curl_exec($ch);<BR>curl_close($ch);<BR>echo $file_contents;<BR>?><BR>
关于curl库:
curl官方网站http://curl.haxx.se/
curl 是使用URL语法的传送文件工具,支持FTP、FTPS、HTTP HTPPS SCP SFTP TFTP TELNET DICT FILE和LDAP。curl 支持SSL证书、HTTP POST、HTTP PUT 、FTP 上传,kerberos、基于HTT格式的上传、代理、cookie、用户+口令证明、文件传送恢复、http代理通道和大量其他有用的技巧
<?<BR>functionprintarr(array$arr)<BR>{<BR>echo"<br> Row field count: ".count($arr)."<br>";<BR>foreach($arras$key=>$value)<BR>{ <BR>echo"$key=$value <br>";<BR>}<BR>}<BR>?><BR>
======================================================
PHP抓取远程网站数据的代码
现在可能还有很多程序爱好者都会遇到同样的疑问,就是要如何像搜索引擎那样去抓取别人网站的HTML代码,然后把代码收集整理成为自己有用的数据!今天就等我介绍一些简单例子吧.
Ⅰ.抓取远程网页标题的例子:
以下是代码片段:
<?php<BR>/*<BR>+-------------------------------------------------------------<BR>+抓取网页标题的代码,直接拷贝本代码片段,另存为.php文件执行即可.<BR>+-------------------------------------------------------------<BR>*/<BR>error_reporting(7);<BR>$file = fopen ("http://www.dnsing.com/", "r");<BR>if (!$file) {<BR>echo "<font color="red">Unable to open remote file.</font>\n";<BR>exit;<BR>}<BR>while (!feof ($file)) {<BR>$line = fgets ($file, 1024);<BR>if (e<mark>@本文来源gaodaimacom搞#代%码@网-</mark><strong>搞代gaodaima码</strong>regi ("<title>(.*)</title>", $line, $out)) {<BR>$title = $out[1];<BR>echo "".$title."";<BR>break;<BR>}<BR>}<BR>fclose($file);<BR>//End<BR>?><BR>
Ⅱ.抓取远程网页HTML代码的例子:
以下是代码片段:
<? php<BR>/*<BR>+----------------<BR>+DNSing Sprider<BR>+----------------<BR>*/<BR>$fp = fsockopen("www.dnsing.com", 80, $errno, $errstr, 30);<BR>if (!$fp) {<BR>echo "$errstr ($errno)<br />\n";<BR>} else {<BR>$out = "GET / HTTP/1.1\r\n";<BR>$out .= "Host:www.dnsing.com\r\n";<BR>$out .= "Connection: Close \r\n\r\n";<BR>fputs($fp, $out);<BR>while (!feof($fp)) {<BR>echo fgets($fp, 128);<BR>}<BR>fclose($fp);<BR>}<BR>//End<BR>?><BR>
以上两个代码片段都直接Copy回去运行就知道效果了,上面的例子只是抓取网页数据的雏形,要使其更适合自己的使用,情况有各异.所以,在此各位程序爱好者自己好好研究一下吧.
===============================
稍微有点意义的函数是:get_content_by_socket(), get_url(), get_content_url(), get_content_object 几个函数,也许能够给你点什么想法。
<?php<BR>//获取所有内容url保存到文件<BR>function get_index($save_file, $prefix="index_"){<BR>$count = 68;<BR>$i = 1;<BR>if (file_exists($save_file)) @unlink($save_file);<BR>$fp = fopen($save_file, "a+") or die("Open ". $save_file ." failed");<BR>while($i<$count){<BR>$url = $prefix . $i .".htm";<BR>echo "Get ". $url ."...";<BR>$url_str = get_content_url(get_url($url));<BR>echo " OK\n";<BR>fwrite($fp, $url_str);<BR>++$i;<BR>}<BR>fclose($fp);<BR>}<BR>//获取目标多媒体对象<BR>function get_object($url_file, $save_file, $split="|--:**:--|"){<BR>if (!file_exists($url_file)) die($url_file ." not exist");<BR>$file_arr = file($url_file);<BR>if (!is_array($file_arr) || empty($file_arr)) die($url_file ." not content");<BR>$url_arr = array_unique($file_arr);<BR>if (file_exists($save_file)) @unlink($save_file);<BR>$fp = fopen($save_file, "a+") or die("Open save file ". $save_file ." failed");<BR>foreach($url_arr as $url){<BR>if (empty($url)) continue;<BR>echo "Get ". $url ."...";<BR>$html_str = get_url($url);<BR>echo $html_str;<BR>echo $url;<BR>exit;<BR>$obj_str = get_content_object($html_str);<BR>echo " OK\n";<BR>fwrite($fp, $obj_str);<BR>}<BR>fclose($fp);<BR>}<BR>//遍历目录获取文件内容<BR>function get_dir($save_file, $dir){<BR>$dp = opendir($dir);<BR>if (file_exists($save_file)) @unlink($save_file);<BR>$fp = fopen($save_file, "a+") or die("Open save file ". $save_file ." failed");<BR>while(($file = readdir($dp)) != false){<BR>if ($file!="." && $file!=".."){<BR> echo "Read file ". $file ."...";<BR> $file_content = file_get_contents($dir . $file);<BR> $obj_str = get_content_object($file_content);<BR> echo " OK\n";<BR> fwrite($fp, $obj_str);<BR>}<BR>}<BR>fclose($fp);<BR>}<BR>//获取指定url内容<BR>function get_url($url){<BR>$reg = '/^http:\/\/[^\/].+$/';<BR>if (!preg_match($reg, $url)) die($url ." invalid");<BR>$fp = fopen($url, "r") or die("Open url: ". $url ." failed.");<BR>while($fc = fread($fp, 8192)){<BR>$content .= $fc;<BR>}<BR>fclose($fp);<BR>if (empty($content)){<BR>die("Get url: ". $url ." content failed.");<BR>}<BR>return $content;<BR>}<BR>//使用socket获取指定网页<BR>function get_content_by_socket($url, $host){<BR>$fp = fsockopen($host, 80) or die("Open ". $url ." failed");<BR>$header = "GET /".$url ." HTTP/1.1\r\n";<BR>$header .= "Accept: */*\r\n";<BR>$header .= "Accept-Language: zh-cn\r\n";<BR>$header .= "Accept-Encoding: gzip, deflate\r\n";<BR>$header .= "User-Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; Maxthon; InfoPath.1; .NET CLR 2.0.50727)\r\n";<BR>$header .= "Host: ". $host ."\r\n";<BR>$header .= "Connection: Keep-Alive\r\n";<BR>//$header .= "Cookie: cnzz02=2; rtime=1; ltime=1148456424859; cnzz_eid=56601755-\r\n\r\n";<BR>$header .= "Connection: Close\r\n\r\n";<BR>fwrite($fp, $header);<BR>while (!feof($fp)) {<BR>$contents .= fgets($fp, 8192);<BR>}<BR>fclose($fp);<BR>return $contents;<BR>}<BR>//获取指定内容里的url<BR>function get_content_url($host_url, $file_contents){<BR>//$reg = '/^(#|javascript.*?|ftp:\/\/.+|http:\/\/.+|.*?href.*?|play.*?|index.*?|.*?asp)+$/i';<BR>//$reg = '/^(down.*?\.html|\d+_\d+\.htm.*?)$/i';<BR>$rex = "/([hH][rR][eE][Ff])\s*=\s*['\"]*([^>'\"\s]+)[\"'>]*\s*/i";<BR>$reg = '/^(down.*?\.html)$/i';<BR>preg_match_all ($rex, $file_contents, $r);<BR>$result = ""; //array();<BR>foreach($r as $c){<BR>if (is_array($c)){<BR> foreach($c as $d){<BR>if (preg_match($reg, $d)){ $result .= $host_url . $d."\n"; }<BR> }<BR>}<BR>}<BR>return $result;<BR>}<BR>//获取指定内容中的多媒体文件<BR>function get_content_object($str, $split="|--:**:--|"){ <BR>$regx = "/href\s*=\s*['\"]*([^>'\"\s]+)[\"'>]*\s*(<b>.*?<\/b>)/i";<BR>preg_match_all($regx, $str, $result);<BR>if (count($result) == 3){<BR>$result[2] = str_replace("<b>多媒体: ", "", $result[2]);<BR>$result[2] = str_replace("</b>", "", $result[2]);<BR>$result = $result[1][0] . $split .$result[2][0] . "\n";<BR>}<BR>return $result;<BR>}<BR>?><BR>
======================================================
同一域名对应多个IP时,PHP获取远程网页内容的函数
fgc就是简单的读取过来,把一切操作封装了
fopen也进行了一些封装,但是需要你循环读取得到所有数据。
fsockopen这是直板板的socket操作。
如果仅仅是读取一个html页面,fgc更好。
如果公司是通过防火墙上网,一 般的file_get_content函数就不行了。当然,通过一些socket操作,直接向proxy写http请求也是可以的,但是比较麻烦。
如果你能确认文件很小,可以任选以上两种方式fopen ,join(”,file($file));。比如,你只操作小于1k的文件,那最好还是用file_get_contents吧。
如果确定文件很大,或者不能确定文件的大小,那就最好使用文件流了。fopen一个1K的文件和fopen一个1G的文件没什么明显的区别。内容长,就可以花更长的时间去读,而不是让脚本死掉。
—————————————————-
http://www.phpcake.cn/archives/tag/fsockopen
PHP获取远程网页内容有多种方式,例如用自带的file_get_contents、fopen等函数。
<BR><?php <BR>echo file_get_contents("http://blog.s135.com/abc.php");<BR>?><BR>
但是,在DNS轮询等负载均衡中,同一域名,可能对应多台服务器,多个IP。假设blog.s135.com被DNS解析到 72.249.146.213、72.249.146.214、72.249.146.215三个IP,用户每次访问blog.s135.com,系统会根据负载均衡的相应算法访问其中的一台服务器。
上周做一个视频项目时,就碰到这样一类需求:需要依次访问每台服务器上的一个PHP接口程序(假设为abc.php),查询这台服务器的传输状态。
这时就不能直接用file_get_contents访问http://blog.s135.com/abc.php了,因为它可能一直重复访问某一台服务器。
而采用依次访问http://72.249.146.213/abc.php、http://72.249.146.214/abc.php、http://72.249.146.215/abc.php的方法,在这三台服务器上的Web Server配有多个虚拟主机时,也是不行的。
通过设置本地hosts也不行,因为hosts不能设置多个IP对应同一个域名。
那就只有通过PHP和HTTP协议来实现:访问abc.php时,在header头中加上blog.s135.com域名。于是,我写了下面这个PHP函数:
<?php<BR> /************************<BR> * 函数用途:同一域名对应多个IP时,获取指定服务器的远程网页内容<BR> * 参数说明:<BR> * $ip服务器的IP地址<BR> * $host服务器的host名称<BR> * $url服务器的URL地址(不含域名)<BR> * 返回值:<BR> * 获取到的远程网页内容<BR> * false访问远程网页失败<BR> ************************/<BR> function HttpVisit($ip, $host, $url) <BR> { <BR>$errstr = ''; <BR>$errno = ''; <BR>$fp = fsockopen ($ip, 80, $errno, $errstr, 90); <BR>if (!$fp) <BR>{ <BR> return false; <BR>} <BR>else<BR>{ <BR>$out = "GET {$url} HTTP/1.1\r\n"; <BR>$out .= "Host:{$host}\r\n"; <BR>$out .= "Connection: close\r\n\r\n"; <BR>fputs ($fp, $out);</P><P>while($line = fread($fp, 4096)){ <BR>$response .= $line; <BR>} <BR>fclose( $fp );</P><P>//去掉Header头信息<BR>$pos = strpos($response, "\r\n\r\n"); <BR>$response = substr($response, $pos + 4);</P><P>return $response; <BR>} <BR> }</P><P> //调用方法:<BR> $server_info1 = HttpVisit("72.249.146.213", "blog.s135.com", "/abc.php"); <BR> $server_info2 = HttpVisit("72.249.146.214", "blog.s135.com", "/abc.php"); <BR> $server_info3 = HttpVisit("72.249.146.215", "blog.s135.com", "/abc.php"); <BR> ?> <BR>