旋轉住宅代理從 $0.25/GB 起,流量永不過期。 查看所有方案

ProxySite

網頁爬取 Proxy

網頁爬取是指用程式抓取公開頁面並將其轉化為數據。Proxy 將這些請求分散到多個 IP 上,因此網站看到的是許多普通訪客,而不是一個繁忙的伺服器,您的爬蟲也能持續運行。

根據目標選擇正確的 IP 類型

每個新目標都從靜態數據中心 Proxy 開始,這是每個請求最便宜的選擇。如果目標回應封鎖或驗證碼,則將其轉移到輪換住宅 Proxy,每個請求都來自家庭連接。對於跨越多個網站的非常大型任務,無限住宅計劃取消了每 GB 計量。

大多數團隊最終會混合使用:數據中心 IP 用於開放 API 和簡單網站,住宅 IP 用於市場、搜尋頁面和旅遊網站。

輪換和會話

對於列表頁面和搜尋結果,每個請求都輪換 IP:在用戶名中省略會話鍵。對於需要跨多個頁面的流程,例如篩選後的分頁,添加會話鍵並保持 IP 幾分鐘。

使用新的會話鍵重試失敗的請求,而不是使用相同的 IP。一個好的爬蟲將封鎖視為切換 IP 並減慢該目標的信號,而不是停止的理由。

降低每頁成本

當您只需要文本時,在無頭瀏覽器中封鎖圖片、字體和視頻。一個帶有圖片的產品頁面通常重 3 MB,而沒有圖片時只需要 300 KB,這將您的住宅流量費用降低了十倍。在 500 GB 套餐中,每 GB $0.35,一百萬個輕量頁面的成本遠低於大多數團隊的預期。

逐步設置

  1. 步驟 1購買旋轉住宅代理方案(從 $38.00 起,100 GB)。
  2. 步驟 2從「我的代理」複製閘道登入資訊。
  3. 步驟 3在您的爬蟲中設定代理:http://USER:PASS@gate.proxysite.ink:9000。
  4. 步驟 4新增 -country-xx 以鎖定市場,新增 -session-xx 以保持 IP 不變。
  5. 步驟 5使用新的 session key 重試被封鎖的頁面。

常見問題

哪種代理最適合網頁爬取?

旋轉住宅代理適用於最廣泛的網站。資料中心代理對於不按 IP 類型過濾的網站來說更便宜。許多爬蟲同時使用這兩種。

我需要多少個 IP?

使用旋轉住宅代理時,您無需管理 IP:一個登入即可存取整個 72M+ IP 池。

爬取公開資料是否允許?

收集公開資料是常見做法。請尊重每個網站的條款,避免處理您無權處理的個人資料,並保持合理的請求頻率。

準備開始:網路爬蟲

每個方案只需以加密貨幣支付一次,價格精確。付款確認後,您的登入資訊即可使用。