Narzędzie SEO Wykorzystywany także do treningu AI

Czym jest OnCrawl?

Krótka odpowiedź

OnCrawl to platforma SEO dla przedsiębiorstw oparta na wiodącym w branży SEO Crawler i Log Analyzer, obsługiwana przez Oncrawl.

User-Agent
Mozilla/5.0 (compatible; OnCrawl Mobile/1.0; +http://www.oncrawl.com/)

OnCrawl to narzędzie SEO zaprojektowane do zbierania i analizowania technicznych danych SEO dla dużych lub złożonych witryn. Pomaga użytkownikom zrozumieć, jak ich witryna jest eksplorowana, odczytywana i interpretowana przez wyszukiwarki oraz agentów AI, przekształcając sygnały techniczne w decyzje strategiczne. OnCrawl wykrywa trafienia od agentów AI i dostarcza informacji o ich zachowaniu.

Identyfikacja User-Agent

Następujące ciągi user-agent identyfikują OnCrawl w ruchu na Twojej stronie:

  • Mozilla/5.0 (compatible; OnCrawl Mobile/1.0; +http://www.oncrawl.com/)
  • Mozilla/5.0 (iPhone; CPU iPhone OS 8_3 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12F70 Safari/600.1.4 (compatible; OnCrawl Mobile/1.0; +http://www.oncrawl.com/)

Reguły robots.txt dla OnCrawl

Respektuje robots.txt: Nie

Ten bot nie zobowiązuje się do przestrzegania robots.txt

OnCrawl oficjalnie nie przestrzega dyrektyw robots.txt. Jedynym niezawodnym sposobem kontroli dostępu jest blokowanie po stronie serwera (filtrowanie IP, reguły user-agent w konfiguracji serwera) w połączeniu z monitoringiem logów.

Potrzebujesz ciągłej weryfikacji 487 botów? Can AI See It automatyzuje ten proces.

Zachowanie crawlera

Częstotliwość: Continuous

Wzorzec żądań: Not Documented

Cytaty z oficjalnej dokumentacji

Oncrawl helps you understand how your website is explored, read, and interpreted

Oncrawl detects hits from AI agents like OpenAI, Claude, Mistral, and Perplexity.

Indeks aktywności crawlera

Względna aktywność crawlera OnCrawl w ciągu ostatnich 28 dni. Wyższe wartości oznaczają zwiększoną intensywność crawlowania w porównaniu z bazą okresu.

Pokaż dane aktywności (ostatnie 7 dni)
DataIndeks aktywności
21 lis 202643,8
20 lis 202642,1
19 lis 202645,3
18 lis 202630,9
17 lis 202642,4
16 lis 202664,6
15 lis 202660,3

Źródło: Cloudflare Radar

Dlaczego warto śledzić ruch OnCrawl?

Kontroluj wpływ crawlerów zewnętrznych na serwer. OnCrawl crawluje Twoją stronę dla bazy SEO Oncrawl. Choć przydatne dla analizy konkurencji, te crawlery mogą pochłaniać znaczne zasoby serwera na dużych stronach.

Identyfikuj, kto analizuje Twoją stronę. Wizyty OnCrawl ujawniają, gdy konkurenci lub agencje przeprowadzają audyty Twojej domeny.

Zarządzaj priorytetem crawlowania. Jeśli OnCrawl pochłania budżet crawlowania, który wolisz przydzielić wyszukiwarkom, możesz go ograniczyć lub zablokować na podstawie zmierzonego wolumenu.

Wykrywaj błędy 4XX i 5XX zanim znajdą je wyszukiwarki. Jeśli OnCrawl raportuje uszkodzone strony, możesz naprawić te problemy proaktywnie - zanim crawlery wyszukiwarek je napotkają i Twoje pozycje ucierpią.

Czy OnCrawl jest wart zasobów serwera?

OnCrawl crawluje Twoją stronę dla bazy SEO Oncrawl. W przeciwieństwie do wyszukiwarek, ten crawler nie odsyła ruchu polecającego - zasila narzędzie zewnętrzne.

To niekoniecznie problem - dane Oncrawl mogą zasilać narzędzia, z których sam korzystasz. Pytanie brzmi, czy wolumen crawlowania OnCrawl jest proporcjonalny do jego wartości.

Co mierzy Can AI See It

Wolumen crawlowania

Żądania dziennie i przepustowość zużywana przez OnCrawl

Udział zasobów

Jaki % całkowitego ruchu botów stanowi OnCrawl?

Wykrywanie fałszywych botów

Scrapery podszywające się pod user-agent OnCrawl

Weryfikacja w logach

Aby zweryfikować ruch OnCrawl w logach serwera:

  1. Szukaj w logach dostępu ciągów user-agent wymienionych powyżej
  2. Sprawdź, czy adresy IP pasują do udokumentowanych zakresów (jeśli podane przez Oncrawl)
  3. Zweryfikuj, czy wzorzec crawlowania odpowiada udokumentowanemu zachowaniu
  4. Użyj odwrotnego wyszukiwania DNS do dodatkowej weryfikacji, jeśli dostępne

Uwaga: Obserwowane zachowanie w środowiskach produkcyjnych może różnić się od oficjalnej dokumentacji. Monitoring ruchu zapewnia jedyną niezawodną weryfikację rzeczywistego zachowania botów.

Nieudokumentowane informacje

Następujące informacje nie są oficjalnie udokumentowane dla OnCrawl:

  • crawl frequency pattern
  • IP verification method
  • JavaScript rendering details

Zobacz, które narzędzia SEO crawlują Twoją stronę - i ile to kosztuje

  • Identyfikuj crawlery zewnętrzne zużywające zasoby serwera
  • Oddzielaj ruch narzędzi SEO od crawli wyszukiwarek
  • Wykrywaj fałszywe boty podszywające się pod user-agent OnCrawl

Oficjalna dokumentacja

Zobacz oficjalną dokumentację OnCrawl oncrawl.com

Informacje pochodzą z oficjalnej dokumentacji. Treść wygenerowana z pomocą AI.

Lista oczekujących otwarta

Zobacz OnCrawl we własnym ruchu

Can AI See It pokazuje, kiedy OnCrawl odwiedza Twoją stronę, czy żądania są prawdziwe i co Oncrawl daje w zamian.

Bez spamu. Tylko informacje o premierze.