2014年1月9日木曜日

クロールしてみる


クロールするには、Content Imports の画面へ行きます。
主な設定項目はこんなかんじ。

Target URL   
    起点のURL
   
Copy to local DAV collection   
    クロールしたコンテンツの保存先、
    Store documents locallyにチェックを入れるとここに保存される。
   
Number of HTTP redirects to follow   
    許可するリダイレクト回数
   
Crawling depth limit   
    クロール階層の深さ
   
Crawl delay(sec)   
    クロール間隔
   
Store Function   
    項目抽出プログラムを指定するところ
   
Extract Function   
    リンク抽出プログラムを指定するところ
   
Store documents locally   
    クロールしたコンテンツを保存するかどうか


これでクロールすると、
DAVの中にコンテンツがまるっと保存されます。


0 件のコメント:

コメントを投稿