Mobile Proxys für Web-Scraping: Öffentliche Daten mit wechselnden Mobile IPs sammeln
Rotierende Mobile Proxys ermöglichen Zugriffe mit wechselnden IPs - ideal für das Sammeln öffentlicher Webdaten. Ab $3.59 pro GB in 26 Ländern.
Google
eBay
Etsy
Warum rotierende Mobile Proxys ideal für Web-Scraping sind
Viele offene Seiten belasten eine IP. Rotierende mobile Proxies verteilen Anfragen auf verschiedene mobile IPs - Websites sehen jede Anfrage als separate Nutzer.
Da mobile IPs von vielen Nutzern gemeinsam genutzt werden, werden sie von Websites als normale Besuche behandelt. Dies führt zu gleichmäßigen Antworten und einem reibungslosen Scraping-Prozess.
Da rotierende mobile Proxies über eine einzige Gateway-Adresse verbunden werden, müssen Sie keine IP-Liste verwalten. Sie geben einfach die Adresse in Ihr Sammeltool ein, und der Gateway übernimmt die IP-Änderung.
Kriterien für die Auswahl von Produkten mit fester IP
Für das Sammeln öffentlicher Seiten sind rotierende Produkte ideal. Bei langfristig benötigten IPs (z.B. tägliche Kontenprüfung) kombinieren Sie sie mit dedizierten festen mobilen Proxies.
Passende Einstellungen für Sammelaufgaben
Einstellung nur per Benutzername: Für deutsche Shop-Produktlisten -country-de anhängen (neue IP pro Anfrage), für mehrseitige Ansichten -session-ID und -ttl-10 für 10 Minuten gleiche IP.
Listen & Suchergebnisse: Neue IP pro Anfrage
Nicht verlinkte Seiten wie Produktlisten, Suchergebnisse oder Kategorieseiten nutzen standardmäßig pro Anfrage eine neue IP.
Mehrseitige Aufgaben: Sticky Session
Folgen Sie der Schaltfläche auf der nächsten Seite oder verwenden Sie für Aufgaben, bei denen Cookies fortgesetzt werden müssen, den Session-Wert und die TTL-Minuten im Benutzernamen, um die gleiche IP für 1 bis 30 Minuten beizubehalten.
Preise und Verfügbarkeit nach Land: Land festlegen
Mit „country-us“, „country-de“ etc. im Benutzernamen sammeln Sie Preise und Bestände für dieses Land. Ohne Angabe werden alle Länder genutzt.
Diese Daten werden gesammelt
Mit rotierenden mobilen Proxies sammeln Sie öffentliche Informationen, die ohne Anmeldung zugänglich sind. Typische gesammelte Daten sind unten aufgeführt.
- Öffentliche Produktnamen, Preise, Lagerbestände und Rabattinformationen von Online-Shops und Märkten.
- Öffentliche Bewertungen und Rating-Änderungen.
- Mobile Suchergebnisse und Rangfolge nach Land.
- Länderspezifische Preise auf Reise-, Unterkunfts- und Flugseiten.
- Neue Beiträge in öffentlichen Foren wie Nachrichten, Ankündigungen und Stellenangeboten.
- Öffentliche Informationen, die nur auf mobilen Seiten angezeigt werden, und das Layout der mobilen Benutzeroberfläche.
Datensammlung nach Land
Für länderübergreifende Preis-/Bestandsvergleiche einfach Länderkennung im Username ändern bei gleicher URL. Ergebnisse mit Ländercode speichern für direkte Vergleichstabellen.
Startreihenfolge
Beginnen Sie mit einer geringen Anzahl gleichzeitiger Verbindungen und erhöhen Sie diese schrittweise, basierend auf der Antwort. Sobald Sie einen Bereich finden, in dem die Antworten gleichmäßig eintreffen, können Sie die Einstellung stabil halten. Wenn Sie eine Wiederholungseinstellung in Ihrem Tool haben, werden langsame Anfragen nach einer kurzen Pause mit einer neuen IP erneut gesendet, sodass die Datenerfassung reibungslos fortgesetzt wird.
- Schätzen Sie die monatliche Sammelmenge und kaufen Sie den Datenverkehr zwischen 1GB und 1000GB.
- Wählen Sie im Generator Land und Sitzungsmodus für den Benutzernamen.
- Geben Sie die Gateway-Adresse, den Port, den Benutzernamen und das Passwort in das Sammeltool ein. Verwenden Sie entweder HTTP oder SOCKS5, je nachdem, was das Tool unterstützt.
- Passen Sie Anfrageintervalle und gleichzeitige Verbindungen an die Antwortzeiten der Website an.
- Behalten Sie den Traffic in der Konsole im Blick und kaufen Sie bei Bedarf nach.
Optimierte Scraping-Einstellungen
Mit kurzen Intervallen zwischen Anfragen und mobilen Browserdaten erhalten Sie dieselben Seiten wie Handynutzer. Protokollierte Antwortcodes helfen bei der Optimierung Ihrer Einstellungen.
Tipps zum Datenvolumen sparen
Blockieren Sie unnötige Downloads wie Bilder, Videos oder Schriftarten in Ihren Tools, um mit demselben Datenvolumen mehr Seiten aufrufen zu können. Falls öffentliche APIs oder Daten-URLs verfügbar sind, können Sie diese direkt anstelle ganzer Seiten abfragen.
Speichern Sie die einmal erhaltenen Seiten und fordern Sie nur die geänderten Seiten erneut an, um mit demselben Datenverkehr länger zu sammeln. Es ist auch eine gute Methode, den Sammelzyklus an den Seitenänderungszyklus anzupassen.
Nur öffentlich zugängliche Daten sammeln, Request-Rate an Richtlinien anpassen - so bleibt Scraping langfristig stabil.
In der Konsole sehen Sie verbleibenden und verbrauchten Traffic - so kalkulieren Sie Kosten pro Aufgabe einfach.
Auch wenn es Tage mit viel und wenig Sammelaktivität gibt, zahlen Sie nur für das, was Sie tatsächlich nutzen, da Sie in GB-Einheiten kaufen.
Der Preis beträgt $3.59 pro GB, unabhängig von der Bestellmenge. Erworbenes Datenvolumen ist 30 Tage gültig. Guthaben kann mit 12 Kryptowährungen aufgeladen werden, bei Aufladungen über $100 gibt es 20% Bonus, bei $5.000 sogar 50%.
Wie man die GB-Menge festlegt
Testen Sie zunächst mit einigen hundert Seiten, schätzen Sie den monatlichen Bedarf und kaufen Sie passend. Datenvolumen ist 30 Tage gültig.