我們在開發網絡程序時,往往需要抓取非本地文件,一般情況下都是利用php模擬浏覽器的訪問,通過http請求訪問url地址, 然後得到html源代碼或者xml數據,得到數據我們不能直接輸出,往往需要對內容進行提取,然後再進行格式化,以更加友好的方式顯現出來。
一、 PHP抓取頁面的主要方法:
二、PHP解析html或xml代碼主要方式:
1. file()函數
<?php
//定義url
$url='http://t.qq.com';
//fiel函數讀取內容數組
$lines_array=file($url);
//拆分數組為字符串
$lines_string=implode('',$lines_array);
//輸出內容,嘿嘿,大家也可以保存在自己的服務器上
echo $lines_string;
2. file_get_contents()函數
使用file_get_contents和fopen必須空間開啟allow_url_fopen。方法:編輯php.ini,設置
allow_url_fopen = On,allow_url_fopen關閉時fopen和file_get_contents都不能打開遠程文件。
<?php //定義url $url='http://t.qq.com'; //file_get_contents函數遠程讀取數據 $lines_string=file_get_contents($url); //輸出內容,嘿嘿,大家也可以保存在自己的服務器上 echo htmlspecialchars($lines_string);
3. fopen()->fread()->fclose()模式
<?php
//定義url
$url='http://t.qq.com';
//fopen以二進制方式打開
$handle=fopen($url,"rb");
//變量初始化
$lines_string="";
//循環讀取數據
do{
$data=fread($handle,1024);
if(strlen($data)==0) {
break;
}
$lines_string.=$data;
}while(true);
//關閉fopen句柄,釋放資源
fclose($handle);
//輸出內容,嘿嘿,大家也可以保存在自己的服務器上
echo $lines_string;
4. curl方式
使用curl必須空間開啟curl。方法:windows下修改php.ini,將extension=php_curl.dll前面的分號去掉,而且需
要拷貝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安裝curl擴展。
<?php // 創建一個新cURL資源 $url='http://t.qq.com'; $ch=curl_init(); $timeout=5; // 設置URL和相應的選項 curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout); // 抓取URL $lines_string=curl_exec($ch); // 關閉cURL資源,並且釋放系統資源 curl_close($ch); //輸出內容,嘿嘿,大家也可以保存在自己的服務器上 echo $lines_string;
5. fsockopen()函數 socket模式
socket模式能否正確執行,也跟服務器的設置有關系,具體可以通過phpinfo查看服務器開啟了哪些通信協議。
<?php
$fp = fsockopen("t.qq.com", 80, $errno, $errstr, 30);
if (!$fp) {
echo "$errstr ($errno)<br />\n";
} else {
$out = "GET / HTTP/1.1\r\n";
$out .= "Host: t.qq.com\r\n";
$out .= "Connection: Close\r\n\r\n";
fwrite($fp, $out);
while (!feof($fp)) {
echo fgets($fp, 128);
}
fclose($fp);
}
6.
<?php
//引入snoopy的類文件
require('Snoopy.class.php');
//初始化snoopy類
$snoopy = new Snoopy;
$url = "http://t.qq.com";
//開始采集內容
$snoopy->fetch($url);
//保存采集內容到$lines_string
$lines_string = $snoopy->results;
//輸出內容,嘿嘿,大家也可以保存在自己的服務器上
echo $lines_string;
說明:設置agent是在 Snoopy.class.php 文件的第45行,請在該文件中搜索 “var $agent” (引號中的內容)。浏覽器內容你可以使用PHP來獲得,
使用 echo $_SERVER['HTTP_USER_AGENT']; 可以得到浏覽器信息,將echo出來的內容復制到agent裡面就可以了。
本頁完整頁面地址:http://www.cnblogs.com/rirber/archive/2013/06/15/php-server-get-curl-data.html
本頁網址縮短(url地址):http://url.cn/EeOhAy