Web小説・読書!小説を読もうから小説のレビューをスクレイピング

小説を読もうとは?
「小説を読もう!」は「小説家になろう」が直接管理する読者向け小説サイトです。 「小説家になろう」に投稿された約1,068,963作品の作品を無料でお読みいただけます。100万以上のWeb小説、ネット小説、オンライン小説携帯小説を掲載している投稿型の小説サイトです。小説検索、小説評価、ルビ・縦書き対応、高機能小説執筆機能なども提出します。
スクレイピングツールの概要
ScrapeStormとは、強い機能を持つ、プログラミングが必要なく、使いやすい人工知能Webスクレイピングツールです。違う基盤のユーザーに二つのスクレイピングモードを提供し、1-Clickで99%のWebスクレイピングを満たします。ScrapeStormにより、大量のWebデータを素早く正確的に取得できます。手動でデータ抽出が直面するさまざまな問題を完全に解決し、情報取得のコストを削減し、作業効率を向上させます。

抽出されたデータをご覧ください。

画像

1.タスクを新規作成する

URLジェネレータ機能を利用し、直接リンクを生成してください。
(1)URLをコピーする
今回はある人気小説のレビュー一覧ページからレビューを収得し、そのスクレイピング方法を紹介します。まず、第二ページのリンクをコピーしてください。

画像

(2)パラメータを追加する
URLジェネレータでURLを入力して、パラメーターを追加画面にページ数を入力し、生成したURLはプレビュー画面でチェックしてください。
URLジェネレータの使い方

画像
画像

2.タスクを構成する

(1)自動識別
ScrapeStormは自動的にリスト要素とページボタンを識別できます。ページボタンを「スクロールローディング」に設定してください。下記のチュートリアルも参照してください。
ページ分けの設定方法

画像

(2)フィールドの追加と編集
「フィールドを追加」ボタンをクリックして、画面に必要な要素を選択、データが自動的に抽出されます。また、必要に応じてフィールドの名前の変更または削除、結合できます。
フィールドの設定の詳細には下記のチュートリアルをご参照ください。
抽出されたフィールドを配置する方法

画像

3.タスクの設定と起動

(1)起動の設定
必要に応じて、スケジュール、アンチブロック、自動エクスポート、写真のダウンロード、スピードブーストを設定できます。サーバーに負荷しないように、遅延時間を設定してください。5秒以上を推薦します。スクレイピングタスクを配置する方法については、下記のチュートリアルをご参照ください。
スクレイピングタスクを配置する方法

画像

(2)しばらくすると、データがスクレイピングされる。

画像

4.抽出されたデータのエクスポートと表示

(1)エクスポートをクリックして、データをダウンロードする

画像

(2)必要に応じてエクスポートする形式を選択します。
ScrapeStormは、Excelcsv、html、txt、データベース、ローカルなどさまざまなエクスポート方法を提供します。抽出結果のエクスポート方法の詳細には下記のチュートリアルをご参照ください。
抽出されたデータのエクスポート方法

画像

Demoタスク:

Web小説・読書!小説を読もうから小説のレビューをスクレイピング.sst

https://drive.google.com/file/d/1VI24POVvtkjKYbQIUt_uZ7uRy0SBTKK0/view?usp=sharing

注意:法律違反しないため、抽出されたデータを悪用禁止です!