Czym jest AhrefsBot?

Krótka odpowiedź

AhrefsBot to web crawler obsługiwany przez Ahrefs dla zestawu narzędzi SEO, przeszukujący web w celu zasilania swojej bazy 12 bilionów linków.

User-Agent
Mozilla/5.0 (compatible; AhrefsBot/7.0; +http://ahrefs.com/robot/)

AhrefsBot to web crawler, który zasila bazę 12 bilionów linków dla zestawu narzędzi marketingu online Ahrefs. Nieustannie przeszukuje web, aby uzupełniać swoją bazę o nowe linki i sprawdza status wcześniej znalezionych, aby dostarczać użytkownikom kompleksowe i aktualne dane.

Identyfikacja User-Agent

Następujące ciągi user-agent identyfikują AhrefsBot w ruchu na Twojej stronie:

  • Mozilla/5.0 (compatible; AhrefsBot/7.0; +http://ahrefs.com/robot/)

Reguły robots.txt dla AhrefsBot

Respektuje robots.txt: Nie

Użyj poniższych reguł robots.txt, aby kontrolować dostęp AhrefsBot:

robots.txt
# Block AhrefsBot
User-agent: AhrefsBot
Disallow: /

# Allow AhrefsBot
User-agent: AhrefsBot
Allow: /

Ten bot nie zobowiązuje się do przestrzegania robots.txt

AhrefsBot oficjalnie nie przestrzega dyrektyw robots.txt. Jedynym niezawodnym sposobem kontroli dostępu jest blokowanie po stronie serwera (filtrowanie IP, reguły user-agent w konfiguracji serwera) w połączeniu z monitoringiem logów.

Potrzebujesz ciągłej weryfikacji 487 botów? Can AI See It automatyzuje ten proces.

Zachowanie crawlera

Częstotliwość: Continuous

Wzorzec żądań: Not Documented

Cytaty z oficjalnej dokumentacji

AhrefsBot is a Web Crawler that powers the 12 trillion link database for Ahrefs online marketing toolset.

Źródło:Oficjalna dokumentacja

Indeks aktywności crawlera

Względna aktywność crawlera AhrefsBot w ciągu ostatnich 28 dni. Wyższe wartości oznaczają zwiększoną intensywność crawlowania w porównaniu z bazą okresu.

Pokaż dane aktywności (ostatnie 7 dni)
DataIndeks aktywności
21 lis 202670,4
20 lis 202670,8
19 lis 202671,2
18 lis 202691,8
17 lis 202665,3
16 lis 202662,9
15 lis 202668,2

Źródło: Cloudflare Radar

Dlaczego warto śledzić ruch AhrefsBot?

Kontroluj wpływ crawlerów zewnętrznych na serwer. AhrefsBot crawluje Twoją stronę dla bazy SEO Ahrefs. Choć przydatne dla analizy konkurencji, te crawlery mogą pochłaniać znaczne zasoby serwera na dużych stronach.

Identyfikuj, kto analizuje Twoją stronę. Wizyty AhrefsBot ujawniają, gdy konkurenci lub agencje przeprowadzają audyty Twojej domeny.

Zarządzaj priorytetem crawlowania. Jeśli AhrefsBot pochłania budżet crawlowania, który wolisz przydzielić wyszukiwarkom, możesz go ograniczyć lub zablokować na podstawie zmierzonego wolumenu.

Wykrywaj błędy 4XX i 5XX zanim znajdą je wyszukiwarki. Jeśli AhrefsBot raportuje uszkodzone strony, możesz naprawić te problemy proaktywnie - zanim crawlery wyszukiwarek je napotkają i Twoje pozycje ucierpią.

Czy AhrefsBot jest wart zasobów serwera?

AhrefsBot crawluje Twoją stronę dla bazy SEO Ahrefs. W przeciwieństwie do wyszukiwarek, ten crawler nie odsyła ruchu polecającego - zasila narzędzie zewnętrzne.

To niekoniecznie problem - dane Ahrefs mogą zasilać narzędzia, z których sam korzystasz. Pytanie brzmi, czy wolumen crawlowania AhrefsBot jest proporcjonalny do jego wartości.

Co mierzy Can AI See It

Wolumen crawlowania

Żądania dziennie i przepustowość zużywana przez AhrefsBot

Udział zasobów

Jaki % całkowitego ruchu botów stanowi AhrefsBot?

Wykrywanie fałszywych botów

Scrapery podszywające się pod user-agent AhrefsBot

Weryfikacja w logach

Aby zweryfikować ruch AhrefsBot w logach serwera:

  1. Szukaj w logach dostępu ciągów user-agent wymienionych powyżej
  2. Sprawdź, czy adresy IP pasują do udokumentowanych zakresów (jeśli podane przez Ahrefs)
  3. Zweryfikuj, czy wzorzec crawlowania odpowiada udokumentowanemu zachowaniu
  4. Użyj odwrotnego wyszukiwania DNS do dodatkowej weryfikacji, jeśli dostępne

Uwaga: Obserwowane zachowanie w środowiskach produkcyjnych może różnić się od oficjalnej dokumentacji. Monitoring ruchu zapewnia jedyną niezawodną weryfikację rzeczywistego zachowania botów.

Nieudokumentowane informacje

Następujące informacje nie są oficjalnie udokumentowane dla AhrefsBot:

  • crawl frequency details
  • IP verification
  • JavaScript rendering details

Zobacz, które narzędzia SEO crawlują Twoją stronę - i ile to kosztuje

  • Identyfikuj crawlery zewnętrzne zużywające zasoby serwera
  • Oddzielaj ruch narzędzi SEO od crawli wyszukiwarek
  • Wykrywaj fałszywe boty podszywające się pod user-agent AhrefsBot

Oficjalna dokumentacja

Zobacz oficjalną dokumentację AhrefsBot ahrefs.com

Informacje pochodzą z oficjalnej dokumentacji. Treść wygenerowana z pomocą AI.

Lista oczekujących otwarta

Zobacz AhrefsBot we własnym ruchu

Can AI See It pokazuje, kiedy AhrefsBot odwiedza Twoją stronę, czy żądania są prawdziwe i co Ahrefs daje w zamian.

Bez spamu. Tylko informacje o premierze.