Claude(MAXプラン)で作るスクレイピングツール|動かない箇所をリモートで支援
AIツール(Claude)を使ったスクレイピングの開発を、リモートで支えるサービスです。
日々の業務改善やデータ収集の自動化をご検討の方は、お気軽にご相談ください。
開発環境と技術
- 言語はPython(requestsとBeautifulSoup)です
- 実行環境は、Google Colaboratory(環境構築が不要で無料)か、ローカルPC(業務端末)からお選びいただけます
- ブラウザの操作が必要な場合だけ、Seleniumを使います
- コードが大きくなる場合は、外部ファイルへのクラス化に対応します
データの保存形式
- Googleスプレッドシート(手軽に扱えます)
- CSV(他のシステムとの連携に向いています)
- SQLiteのデータベース(大規模なデータ向けです。自然言語処理と連携して、900万件を運用した実績があります)
データは、ローカルPCかGoogleドライブの中に保存します。
対応実績
- HTMLを一括で保存し、スクレイピングしてCSVに出力する
- スプレッドシートのURL一覧に対して、続けてスクレイピングを実行する
- ログイン操作を自動化し、ログイン後のページのデータを取得する
リモートサポートについて
- Googleリモートデスクトップを使い、ご依頼者様のPC上で直接作業と確認を行います
- 作業中は、ご依頼者様の画面を共有した状態になります。事前に、不要なファイルやウィンドウを閉じておくことをおすすめします
- リモート接続には、Googleアカウントが必要です
ご注意と制限事項
- 定期実行は、ローカル環境でのCRONの設定で対応します。設定方法は、リモートサポートでご案内します
- 対象サーバーへの負荷を減らすため、処理の間隔を3秒から数十秒空けます
- reCAPTCHAなどの認証が出る場合は、ご依頼者様に手動での対応をお願いすることがあります
- 対象サイトの利用規約とrobots.txtを、必ずご確認ください。規約違反となる案件はお断りします
料金プラン
| プラン | 料金 | 納期 | 内容 |
|---|---|---|---|
| ベーシック | 30,000円 | 14日 | 新規開発です。チャットサポートとリモート作業サポートが付きます |
| スタンダード | 50,000円 | 30日 | 既存プログラムの改修です。チャットサポート、リモート作業サポート、コードレビューが付きます |
| プレミアム | 80,000円 | 60日 | スクレイピングの難易度が高い場合や、対象の物量が多い場合のプランです |
ご依頼の際のお約束
スクレイピングの対象サイトが、スクレイピングを禁止していないことをお約束ください。
免責事項
- 対象のHTMLの破損や、文字コードの不備でデータを取得できない場合があります。
- 開発の途中や開発後に、対象サイトがスクレイピング対策を行った場合も、作業費の返金はいたしかねます。
よくある質問
外注がはじめてで、何も分からないのですが相談できますか?
ご安心ください。外注自体がはじめてのお客様にも、多く対応してきました。
納期の目安を教えてください。
弊社が手元で運用しているプログラムを、ご依頼に合わせてカスタマイズします。そのため、1週間以内には何らかの動くものができているはずです。ただし、実際に運用してみると、発注側の観点の漏れやその他の問題が出てきます。そのため、1か月ほどを見込んで、じっくり作ることをおすすめしています。
下記フォームより直接ご相談・お問い合わせいただけます。
内容を確認のうえ、担当より折り返しご連絡いたします。