Java 爬蟲實戰(zhàn)指南：獲取 1688 商品詳情

管理

編輯

刪除

one-Jason 2025-07-31 15:31:43

暫不處理

在電商領(lǐng)域，1688 作為國內(nèi)領(lǐng)先的 B2B 電商平臺，擁有海量的商品資源。通過 Java 爬蟲技術(shù)，我們可以高效地獲取 1688 商品的詳細(xì)信息，包括商品名稱、價格、圖片、描述等。本文將詳細(xì)介紹如何利用 Java 爬蟲獲取 1688 商品詳情，并提供完整的代碼示例。

一、準(zhǔn)備工作

（一）注冊 1688 開放平臺賬號

首先，需要在 1688 開放平臺注冊一個開發(fā)者賬號。登錄后，創(chuàng)建一個新的應(yīng)用，獲取應(yīng)用的 App Key 和 App Secret，這些憑證將用于后續(xù)的 API 調(diào)用。

（二）安裝必要的 Java 庫

通過 Maven 或 Gradle 管理項目依賴，主要包括以下庫：

Apache HttpClient：用于發(fā)送 HTTP 請求。
Jsoup：用于解析 HTML 頁面。
Jackson：用于解析 JSON 數(shù)據(jù)。
在 pom.xml 中添加以下依賴：
xml

<dependencies>
    <dependency>
        <groupId>org.apache.httpcomponents</groupId>
        <artifactId>httpclient</artifactId>
        <version>4.5.13</version>
    </dependency>
    <dependency>
        <groupId>org.jsoup</groupId>
        <artifactId>jsoup</artifactId>
        <version>1.14.3</version>
    </dependency>
    <dependency>
        <groupId>com.fasterxml.jackson.core</groupId>
        <artifactId>jackson-databind</artifactId>
        <version>2.10.0</version>
    </dependency>
</dependencies>

二、爬蟲實現(xiàn)步驟

（一）發(fā)送 HTTP 請求

使用 Apache HttpClient 發(fā)送 GET 請求，獲取商品頁面的 HTML 內(nèi)容：

java

import org.apache.http.client.methods.HttpGet;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;

public class HttpUtil {
    public static String sendGetRequest(String url) {
        try (CloseableHttpClient httpClient = HttpClients.createDefault()) {
            HttpGet httpGet = new HttpGet(url);
            httpGet.setHeader("User-Agent", "Mozilla/5.0");
            return EntityUtils.toString(httpClient.execute(httpGet).getEntity());
        } catch (Exception e) {
            e.printStackTrace();
        }
        return null;
    }
}

（二）解析 HTML 內(nèi)容

使用 Jsoup 解析 HTML 內(nèi)容，提取商品詳情：

java

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;

public class JsoupUtil {
    public static void parseProductDetails(String html) {
        Document doc = Jsoup.parse(html);
        Elements productInfo = doc.select("div.product-info");
        for (Element info : productInfo) {
            System.out.println("商品名稱：" + info.select("h1").text());
            System.out.println("商品價格：" + info.select("span.price").text());
        }
    }
}

（三）整合代碼

將上述功能整合到主程序中，實現(xiàn)完整的爬蟲程序：

java

public class AlibabaCrawler {
    public static void main(String[] args) {
        String url = "https://detail.1688.com/offer/123456789.html";
        String html = HttpUtil.sendGetRequest(url);
        if (html != null) {
            JsoupUtil.parseProductDetails(html);
        } else {
            System.out.println("無法獲取頁面內(nèi)容");
        }
    }
}