天天色天天操综合,亚洲美女尤物影院,欧美xxxx黑人又粗又长,√8天堂资源地址中文在线

網頁抓取工具:一個簡單的文章采集示例

2017-02-16 11:51:13 瀏覽:12080

  通過采集網頁抓取工具火車采集器官網的faq為例來說明采集器采集的原理和過程。
    本例以 http://faq.locoy.com/qc-12.html 演示地址,以火車采集器V9為工具進行示例說明。

(1)新建個采集規則

選擇一個分組上右擊,選擇“新建任務”,如下圖:

圖片1.png

分析網址變量規律(2)添加起始網址
在這里我們需要采集 5頁數據。

第一頁地址:http://faq.locoy.com/qc-12.html?p=1

第二頁地址:http://faq.locoy.com/qc-12.html?p=2

第三頁地址:http://faq.locoy.com/qc-12.html?p=3

由此我們可以推算出p=后的數字就是分頁的意思,我們用[地址參數]表示:

所以設置如下:

圖片2.png

數字變化:從1開始,即第一頁;每次遞增1,即每次分頁的變化規律數字; 共5項,即一共采集5頁。地址格式:把變化的分頁數字用[地址參數]表示。

預覽:采集器會按照上面設置的生成一部分網址,讓你來判讀添加的是否正確。

然后確定即可

(3)[常規模式]獲取內容網址
常規模式:該模式默認抓取一級地址,即從起始頁源代碼中獲取到內容頁A鏈接。

在這里給大家演示用 自動獲取地址鏈接 +設置區域 的 方式來獲取。

查看頁面源代碼找到文章地址所在的區域:

圖片3.png

注:更詳細的分析說明可以參考本手冊:設置如下:

操作指南 > 軟件操作 > 網址采集規則 > 獲取內容網址


圖片4.png

點擊網址采集測試,看看測試效果

圖片5.png

(3)內容采集網址http://faq.locoy.com/q-1184.html 為例講解標簽采集

注:更詳細的分析說明可以下載參考官網的用戶手冊。

操作指南 > 軟件操作 > 內容采集規則 > 標簽編輯

我們首先查看它的頁面源代碼,找到我們“標題”所在位置的代碼:

<title>導入Excle是跳出對話框~打開Excle出錯 - 火車采集器幫助中心</title>

分析得出: 開頭字符串為:<title>
結尾字符串為:</title>
數據處理——內容替換/排除:需要把- 火車采集器幫助中心 給替換為空

圖片6.png

圖片7.png

分析得出: 開頭字符串為:<div id="cmsContent">內容標簽的設置原理也是類似的,找到內容所在源碼中的位置

結尾字符串為:</div>
數據處理——HTML標簽排除:把不需要的A鏈接等過濾


圖片8.png

再設置個“來源”字段

圖片9.png

這樣一個簡單的文章采集規則就做好了,使用通用的網頁抓取工具火車采集器并按照這個示例的步驟就可以進行其它類型數據采集的擴展啦。

掃碼關注微信
主站蜘蛛池模板: 赤壁市| 延津县| 惠水县| 宣威市| 沙田区| 南投县| 平昌县| 平利县| 泾阳县| 洛阳市| 板桥市| 明溪县| 瑞昌市| 黄平县| 苗栗县| 定远县| 余干县| 饶河县| 彰武县| 静宁县| 盐池县| 如皋市| 大化| 慈利县| 蒲江县| 腾冲县| 台前县| 湖州市| 乌兰县| 安义县| 隆林| 敦化市| 察雅县| 木兰县| 新泰市| 织金县| 广汉市| 金沙县| 广德县| 宜宾县| 湛江市|