Identyfikacja User-Agent
Następujące ciągi user-agent identyfikują RSS API w ruchu na Twojej stronie:
-
RSSAPI/2.0 (+https://rssapi.net/)
Reguły robots.txt dla RSS API
Respektuje robots.txt: Nie
Ten bot nie zobowiązuje się do przestrzegania robots.txt
RSS API oficjalnie nie przestrzega dyrektyw robots.txt. Jedynym niezawodnym sposobem kontroli dostępu jest blokowanie po stronie serwera (filtrowanie IP, reguły user-agent w konfiguracji serwera) w połączeniu z monitoringiem logów.
Potrzebujesz ciągłej weryfikacji 487 botów? Can AI See It automatyzuje ten proces.
Zachowanie crawlera
Częstotliwość: Every Few Minutes
Wzorzec żądań: Not Documented
Cytaty z oficjalnej dokumentacji
Let us do what we're best at, so you can focus on your core business.
Dlaczego warto śledzić ruch RSS API?
Identyfikuj i klasyfikuj nieznaną aktywność crawlerów. RSS API może pojawiać się w logach serwera z różną częstotliwością. Śledzenie zachowania pomaga zdecydować, czy zezwolić, ograniczyć czy zablokować na podstawie danych.
Chroń budżet crawlowania. Każde żądanie bota pochłania zasoby serwera. Zrozumienie, co RSS API crawluje, pomaga priorytetyzować crawlery, które mają znaczenie.
Weryfikacja w logach
Aby zweryfikować ruch RSS API w logach serwera:
- Szukaj w logach dostępu ciągów user-agent wymienionych powyżej
- Sprawdź, czy adresy IP pasują do udokumentowanych zakresów (jeśli podane przez RSS API (by Tibush GmbH))
- Zweryfikuj, czy wzorzec crawlowania odpowiada udokumentowanemu zachowaniu
- Użyj odwrotnego wyszukiwania DNS do dodatkowej weryfikacji, jeśli dostępne
Uwaga: Obserwowane zachowanie w środowiskach produkcyjnych może różnić się od oficjalnej dokumentacji. Monitoring ruchu zapewnia jedyną niezawodną weryfikację rzeczywistego zachowania botów.
Nieudokumentowane informacje
Następujące informacje nie są oficjalnie udokumentowane dla RSS API:
- crawl frequency details
- IP verification
- JavaScript rendering details
Oficjalna dokumentacja
Zobacz oficjalną dokumentację RSS API rssapi.netInformacje pochodzą z oficjalnej dokumentacji. Treść wygenerowana z pomocą AI.