Czym jest SerpstatBot?

Krótka odpowiedź

SerpstatBot to bot obsługiwany przez Serpstat, używany do analizy backlinków SEO i audytu witryn poprzez zbieranie danych dla narzędzia Backlink Analysis firmy Serpstat.

User-Agent
serpstatbot/2.1 (advanced backlink tracking bot; https://serpstatbot.com/; [email protected])

SerpstatBot to web crawler opracowany przez Serpstat do zbierania danych dla ich narzędzia Backlink Analysis. Nieustannie crawlował sieć, aby dodawać nowe linki i śledzić zmiany w swojej bazie linków, zapewniając użytkownikom dostęp do jednej z największych baz backlinków do planowania i monitorowania kampanii marketingowych. Bot podąża za linkami, w tym oznaczonymi atrybutem rel=nofollow, i obsługuje strony 404 oraz 301, zbierając dane historyczne.

Identyfikacja User-Agent

Następujące ciągi user-agent identyfikują SerpstatBot w ruchu na Twojej stronie:

  • serpstatbot/2.1 (advanced backlink tracking bot; https://serpstatbot.com/; [email protected])
  • serpstatbot/2.0 beta (advanced backlink tracking bot; http://serpstatbot.com/; [email protected])
  • serpstatbot/1.0 (advanced backlink tracking bot; curl/7.58.0; http://serpstatbot.com/; [email protected])
  • serpstatbot/2.0 alpha (advanced backlink tracking bot; curl/7.58.0; http://serpstatbot.com/; [email protected])
  • serpstatbot/1.0 (advanced backlink tracking bot; http://serpstatbot.com/; [email protected])

Reguły robots.txt dla SerpstatBot

Respektuje robots.txt: Nie

Użyj poniższych reguł robots.txt, aby kontrolować dostęp SerpstatBot:

robots.txt
# Block SerpstatBot
User-agent: serpstatbot
Disallow: /

# Allow SerpstatBot
User-agent: serpstatbot
Allow: /

Ten bot nie zobowiązuje się do przestrzegania robots.txt

SerpstatBot oficjalnie nie przestrzega dyrektyw robots.txt. Jedynym niezawodnym sposobem kontroli dostępu jest blokowanie po stronie serwera (filtrowanie IP, reguły user-agent w konfiguracji serwera) w połączeniu z monitoringiem logów.

Potrzebujesz ciągłej weryfikacji 487 botów? Can AI See It automatyzuje ten proces.

Zachowanie crawlera

Częstotliwość: Continuous

Wzorzec żądań: The Bot Crawls Links, Including Those With Rel=Nofollow Attribute, And Handles 404 And 301 Pages

Cytaty z oficjalnej dokumentacji

Our bot constantly crawls the web to add new links and track changes in our link database.

Źródło:Oficjalna dokumentacja

Serpstatbot addresses to the robots.txt standard.

Źródło:Oficjalna dokumentacja

Indeks aktywności crawlera

Względna aktywność crawlera SerpstatBot w ciągu ostatnich 28 dni. Wyższe wartości oznaczają zwiększoną intensywność crawlowania w porównaniu z bazą okresu.

Pokaż dane aktywności (ostatnie 7 dni)
DataIndeks aktywności
21 lis 202610,5
20 lis 202618,7
19 lis 202620,7
18 lis 202624,5
17 lis 202627,5
16 lis 202639,8
15 lis 202639,6

Źródło: Cloudflare Radar

Dlaczego warto śledzić ruch SerpstatBot?

Kontroluj wpływ crawlerów zewnętrznych na serwer. SerpstatBot crawluje Twoją stronę dla bazy SEO Serpstat. Choć przydatne dla analizy konkurencji, te crawlery mogą pochłaniać znaczne zasoby serwera na dużych stronach.

Identyfikuj, kto analizuje Twoją stronę. Wizyty SerpstatBot ujawniają, gdy konkurenci lub agencje przeprowadzają audyty Twojej domeny.

Zarządzaj priorytetem crawlowania. Jeśli SerpstatBot pochłania budżet crawlowania, który wolisz przydzielić wyszukiwarkom, możesz go ograniczyć lub zablokować na podstawie zmierzonego wolumenu.

Wykrywaj błędy 4XX i 5XX zanim znajdą je wyszukiwarki. Jeśli SerpstatBot raportuje uszkodzone strony, możesz naprawić te problemy proaktywnie - zanim crawlery wyszukiwarek je napotkają i Twoje pozycje ucierpią.

Czy SerpstatBot jest wart zasobów serwera?

SerpstatBot crawluje Twoją stronę dla bazy SEO Serpstat. W przeciwieństwie do wyszukiwarek, ten crawler nie odsyła ruchu polecającego - zasila narzędzie zewnętrzne.

To niekoniecznie problem - dane Serpstat mogą zasilać narzędzia, z których sam korzystasz. Pytanie brzmi, czy wolumen crawlowania SerpstatBot jest proporcjonalny do jego wartości.

Co mierzy Can AI See It

Wolumen crawlowania

Żądania dziennie i przepustowość zużywana przez SerpstatBot

Udział zasobów

Jaki % całkowitego ruchu botów stanowi SerpstatBot?

Wykrywanie fałszywych botów

Scrapery podszywające się pod user-agent SerpstatBot

Weryfikacja w logach

Aby zweryfikować ruch SerpstatBot w logach serwera:

  1. Szukaj w logach dostępu ciągów user-agent wymienionych powyżej
  2. Sprawdź, czy adresy IP pasują do udokumentowanych zakresów (jeśli podane przez Serpstat)
  3. Zweryfikuj, czy wzorzec crawlowania odpowiada udokumentowanemu zachowaniu
  4. Użyj odwrotnego wyszukiwania DNS do dodatkowej weryfikacji, jeśli dostępne

Uwaga: Obserwowane zachowanie w środowiskach produkcyjnych może różnić się od oficjalnej dokumentacji. Monitoring ruchu zapewnia jedyną niezawodną weryfikację rzeczywistego zachowania botów.

Nieudokumentowane informacje

Następujące informacje nie są oficjalnie udokumentowane dla SerpstatBot:

  • JavaScript rendering

Zobacz, które narzędzia SEO crawlują Twoją stronę - i ile to kosztuje

  • Identyfikuj crawlery zewnętrzne zużywające zasoby serwera
  • Oddzielaj ruch narzędzi SEO od crawli wyszukiwarek
  • Wykrywaj fałszywe boty podszywające się pod user-agent SerpstatBot

Oficjalna dokumentacja

Zobacz oficjalną dokumentację SerpstatBot serpstatbot.com

Informacje pochodzą z oficjalnej dokumentacji. Treść wygenerowana z pomocą AI.

Lista oczekujących otwarta

Zobacz SerpstatBot we własnym ruchu

Can AI See It pokazuje, kiedy SerpstatBot odwiedza Twoją stronę, czy żądania są prawdziwe i co Serpstat daje w zamian.

Bez spamu. Tylko informacje o premierze.