Identyfikacja User-Agent
Następujące ciągi user-agent identyfikują MagnetmeBot w ruchu na Twojej stronie:
-
Magnet.me-web/1.0 (+https://magnet.me/bot.html)
Reguły robots.txt dla MagnetmeBot
Respektuje robots.txt: Tak
Użyj poniższych reguł robots.txt, aby kontrolować dostęp MagnetmeBot:
# Block MagnetmeBot
User-agent: MagnetmeBot
Disallow: /
# Allow MagnetmeBot
User-agent: MagnetmeBot
Allow: / Robots.txt to dyrektywa, nie bariera
Magnet.me deklaruje, że MagnetmeBot respektuje robots.txt. Jednak błędy konfiguracji, opóźnienia cache i przypadki brzegowe oznaczają, że Twoje dyrektywy nie zawsze mogą być przestrzegane. Weryfikacja na podstawie ruchu potwierdza, czy MagnetmeBot faktycznie stosuje się do Twoich reguł.
Potrzebujesz ciągłej weryfikacji 487 botów? Can AI See It automatyzuje ten proces.
Zachowanie crawlera
Częstotliwość: Automatic Crawl Speed Adjustment
Wzorzec żądań: Focuses On The Main Version Of A Page (Canonical Version), Follows Links, And Scrolls
Renderowanie JavaScript: Tak - ten bot wykonuje JavaScript i renderuje strony.
Cytaty z oficjalnej dokumentacji
MagnetmeBot is the official web crawler used by Magnet.me to discover and index career-related content.
Dlaczego warto śledzić ruch MagnetmeBot?
Identyfikuj i klasyfikuj nieznaną aktywność crawlerów. MagnetmeBot może pojawiać się w logach serwera z różną częstotliwością. Śledzenie zachowania pomaga zdecydować, czy zezwolić, ograniczyć czy zablokować na podstawie danych.
Chroń budżet crawlowania. Każde żądanie bota pochłania zasoby serwera. Zrozumienie, co MagnetmeBot crawluje, pomaga priorytetyzować crawlery, które mają znaczenie.
Weryfikacja w logach
Aby zweryfikować ruch MagnetmeBot w logach serwera:
- Szukaj w logach dostępu ciągów user-agent wymienionych powyżej
- Sprawdź, czy adresy IP pasują do udokumentowanych zakresów (jeśli podane przez Magnet.me)
- Zweryfikuj, czy wzorzec crawlowania odpowiada udokumentowanemu zachowaniu
- Użyj odwrotnego wyszukiwania DNS do dodatkowej weryfikacji, jeśli dostępne
Weryfikacja IP: Magnet.me udostępnia oficjalną weryfikację IP przez Published IP ranges. Zobacz instrukcje weryfikacji →
IP addresses are published for verification
Uwaga: Obserwowane zachowanie w środowiskach produkcyjnych może różnić się od oficjalnej dokumentacji. Monitoring ruchu zapewnia jedyną niezawodną weryfikację rzeczywistego zachowania botów.
Nieudokumentowane informacje
Następujące informacje nie są oficjalnie udokumentowane dla MagnetmeBot:
- crawl delay configuration
Oficjalna dokumentacja
Zobacz oficjalną dokumentację MagnetmeBot magnet.meInformacje pochodzą z oficjalnej dokumentacji. Treść wygenerowana z pomocą AI.