TShopping

 找回密碼
 註冊
搜索
查看: 3392|回復: 0

[教學] PHP的cURL庫功能簡介:抓取網頁,POST數據及其他

[複製鏈接]
發表於 2014-12-1 16:47:38 | 顯示全部樓層 |閱讀模式
 
Push to Facebook Push to Plurk Push to Twitter 
使用PHP的cURL庫可以簡單和有效地去抓網頁。你只需要運行一個腳本,然後分析一下你所抓取的網頁,然後就可以以程序的方式得到你想要的數據了。無論是你想從從一個鏈接上取部分數據,或是取一個XML文件並把其導入數據庫,那怕就是簡單的獲取網頁內容,cURL 是一個功能強大的PHP庫。本文主要講述如果使用這個PHP庫。

啟用cURL 設置

首先,我們得先要確定我們的PHP是否開啟了這個庫,你可以通過使用php_info()函數來得到這一信息。

  1. <?PHP的
  2. phpinfo()函數;
  3. ?>
複製代碼



如果你可以在網頁上看到下面的輸出,那麼表示cURL庫已被開啟。

如果你看到的話,那麼你需要設置你的PHP並開啟這個庫。如果你是在Windows平台下,那麼非常簡單,你需要改一改你的php.ini文件的設置,找到php_curl.dll,並取消前面的分號註釋就行了。如下所示:

  1. //取消下在的註釋
  2. extension=php_curl.dll
複製代碼


如果你是在Linux下面,那麼,你需要重新編譯你的PHP了,編輯時,你需要打開編譯參數——在configure命令上加上“–with-curl” 參數。

一個小示例

如果一切就緒,下面是一個小例程:

  1. <?php
  2. //初始化一個cURL對象
  3. $curl = curl_init();

  4. //設置你需要抓取的URL
  5. curl_setopt($curl, CURLOPT_URL, 'http://cocre.com');

  6. //設置首標
  7. curl_setopt($curl,CURLOPT_HEADER,1);

  8. //設置cURL參數,要求結果保存到字符串中還是輸出到屏幕上。
  9. curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);

  10. //運行cURL,請求網頁
  11. $data = curl_exec($curl);

  12. //關閉URL請求
  13. curl_close($curl);

  14. //顯示獲得的數據
  15. var_dump($data);
  16. ?>
複製代碼

如何POST數據

上面是抓取網頁的代碼,下面則是向某個網頁POST數據。假設我們有一個處理表單的網址http://www.example.com/webinfo.php,其可以接受兩個表單域,一個是網域,一個是IP。

  1. <?php
  2. $weburl = "www.test.com";
  3. $webip = "192.168.5.6";
  4. $curlPost = 'weburl='  . urlencode($weburl) . '&webip=' . urlencode($webip) ;
  5. $ch = curl_init();
  6. curl_setopt($ch, CURLOPT_URL, 'http://www.netyea.com/webinfotest.php');
  7. curl_setopt($ch, CURLOPT_HEADER, 1);
  8. curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
  9. curl_setopt($ch, CURLOPT_POST, 1);
  10. curl_setopt($ch, CURLOPT_POSTFIELDS, $curlPost);
  11. $data = curl_exec($ch);
  12. curl_close($ch);
  13. ?>
複製代碼


從上面的程序我們可以看到,使用CURLOPT_POST設置HTTP協議的POST方法,而不是GET方法,然後以CURLOPT_POSTFIELDS設置POST的數據。

關於代理服務器

下面是一個如何使用代理服務器的示例。請注意其中高亮的代碼,代碼很簡單,我就不用多說了。

  1. <?php
  2. $ch = curl_init();
  3. curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
  4. curl_setopt($ch, CURLOPT_HEADER, 1);
  5. curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
  6. curl_setopt($ch, CURLOPT_HTTPPROXYTUNNEL, 1);
  7. curl_setopt($ch, CURLOPT_PROXY, 'fakeproxy.com:1080');
  8. curl_setopt($ch, CURLOPT_PROXYUSERPWD, 'user:password');
  9. $data = curl_exec($ch);
  10. curl_close($ch);
  11. ?>
複製代碼

      
關於SSL和Cookie

關於SSL也就是HTTPS協議,你只需要把CURLOPT_URL連接中的http://變成https://就可以了。當然,還有一個參數叫CURLOPT_SSL_VERIFYHOST可以設置為驗證站點。

關於Cookie,你需要了解下面三個參數:

CURLOPT_COOKIE,在當面的會話中設置一個cookie

CURLOPT_COOKIEJAR,當會話結束的時候保存一個Cookie

CURLOPT_COOKIEFILE,Cookie的文件。

HTTP服務器認證

最後,我們來看一看HTTP服務器認證的情況。

  1. <?php
  2. $ch = curl_init();
  3. curl_setopt($ch, CURLOPT_URL, 'http://www.example.com');
  4. curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
  5. curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_BASIC);
  6. curl_setopt(CURLOPT_USERPWD, '[username]:[password]')

  7. $data = curl_exec($ch);
  8. curl_close($ch);
  9. ?>
複製代碼


關於其它更多的內容,請參看相關的cURL手冊。

 

臉書網友討論
您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則



Archiver|手機版|小黑屋|免責聲明|TShopping

GMT+8, 2016-12-8 04:26 , Processed in 0.061602 second(s), 21 queries .

本論壇言論純屬發表者個人意見,與 TShopping綜合論壇 立場無關 如有意見侵犯了您的權益 請寫信聯絡我們。

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回復 返回頂部 返回列表