FindFiles.net-Crawler: Zweck, Technik und Kontaktangaben

Der FindFiles.net Bot wurde entwickelt, um die Verfügbarkeit öffentlich zugänglicher Dateien im Internet zu überprüfen. Er arbeitet transparent und hält sich an bewährte Verfahren, um die Serverlast zu minimieren und die Effizienz zu maximieren.

Wichtige Funktionen

Warum Transparenz wichtig ist

Der FindFiles.net Bot wurde mit voller Transparenz entwickelt, um Vertrauen bei Website-Administratoren zu schaffen. Durch die klare Identifizierung in der Referral-URL können Serverlogs die Herkunft der Anfragen leicht nachverfolgen. Dies hilft Administratoren, unseren Bot von potenziell schädlichen Crawlern zu unterscheiden.

Vorgesehene Nutzung

Der Bot überprüft in erster Linie die Verfügbarkeit von Dateien, ohne diese herunterzuladen oder zu speichern. Dabei hält er sich strikt an öffentlich zugängliche Ressourcen. Um jedoch die Benutzererfahrung zu verbessern und die Sicherheit zu gewährleisten, können wir Bilder und Videos zur Klassifizierung herunterladen, um ihre Eignung für die Suche zu überprüfen. Darüber hinaus können wir ausführbare Dateien herunterladen, um ihre Sicherheit zu prüfen und eine sichere Nutzung für unsere Nutzer zu gewährleisten.

Crawler-Identität

FindFilesBot identifiziert sich derzeit mit den folgenden Crawler-Daten:

Veröffentlichte User-Agents

Mehrere FindFiles.net-Agenten können denselben verifizierten Crawler-Hostnamen und dieselbe IP-Adresse verwenden. Jeder Agent veröffentlicht einen zweckspezifischen User-Agent, damit Administratoren erkennen können, warum eine Anfrage gestellt wurde.

User-Agent Beschreibung
FindFilesBot/1.0 (+https://findfiles.net/en/bot) Allgemeine Crawler-Identität für die Erkennung öffentlicher Dateien und Verfügbarkeitsprüfungen.
FindFiles.net-LinkChecker/1.1 https://findfiles.net/bot Prüft, ob öffentliche Datei-URLs noch erreichbar sind, und erfasst HTTP-Verfügbarkeitssignale.
FindFiles.net-FaviconFetcher/1.0 (+https://findfiles.net/bot) Ruft Website-Favicons für Quellenzuordnung und visuellen Kontext in Suchergebnissen ab.
FindFiles.net-VirusScan/1.0 (+https://findfiles.net/bot) Lädt Dateien herunter, die Sicherheitsprüfungen benötigen, etwa ausführbare oder riskante Dateitypen, um Malware-Scans durchzuführen.
FindFiles.net-ImageNSFWClassifier/1.0 (+https://findfiles.net/bot) Ruft Bilder für automatisierte Sicherheitsklassifizierung und Filterung von Erwachseneninhalten ab.

FCrDNS-Verifizierung für Website-Betreiber

Website-Betreiber können FindFilesBot verifizieren, indem sie prüfen, dass Reverse DNS auf den Crawler-Hostnamen zeigt und der Hostname wieder auf dieselbe Crawler-IP auflöst.

dig +short -x 65.21.31.180
# bot.findfiles.net.

dig +short bot.findfiles.net
# 65.21.31.180

Fragen oder Anliegen?

Falls Sie Website-Administrator sind und Fragen zum FindFiles.net Bot haben, wenden Sie sich bitte an uns. Wir setzen uns dafür ein, dass unsere Aktivitäten respektvoll, ressourcenschonend und den Webstandards entsprechend durchgeführt werden.