Identyfikacja User-Agent
Następujące ciągi user-agent identyfikują Library Of Congress Web Archiving w ruchu na Twojej stronie:
-
Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.97 Safari/537.36 (+https://www.loc.gov/programs/web-archiving/for-site-owners/)
Reguły robots.txt dla Library Of Congress Web Archiving
Respektuje robots.txt: Nie
Ten bot nie zobowiązuje się do przestrzegania robots.txt
Library Of Congress Web Archiving oficjalnie nie przestrzega dyrektyw robots.txt. Jedynym niezawodnym sposobem kontroli dostępu jest blokowanie po stronie serwera (filtrowanie IP, reguły user-agent w konfiguracji serwera) w połączeniu z monitoringiem logów.
Potrzebujesz ciągłej weryfikacji 487 botów? Can AI See It automatyzuje ten proces.
Zachowanie crawlera
Częstotliwość: Regular Intervals
Wzorzec żądań: Starts With A 'Seed URL' And Follows Links
Cytaty z oficjalnej dokumentacji
The Library of Congress (or its agents) collects content from websites at regular intervals, primarily using the Heritrix crawler, which is an open-source archival web crawler.
Our crawler is instructed to bypass robots.txt in order to obtain the most complete and accurate representation of websites.
Indeks aktywności crawlera
Względna aktywność crawlera Library Of Congress Web Archiving w ciągu ostatnich 28 dni. Wyższe wartości oznaczają zwiększoną intensywność crawlowania w porównaniu z bazą okresu.
Pokaż dane aktywności (ostatnie 7 dni)
| Data | Indeks aktywności |
|---|---|
| 21 lis 2026 | 78,8 |
| 20 lis 2026 | 77 |
| 19 lis 2026 | 79,4 |
| 18 lis 2026 | 57,3 |
| 17 lis 2026 | 59,8 |
| 16 lis 2026 | 82 |
| 15 lis 2026 | 80,1 |
Źródło: Cloudflare Radar
Dlaczego warto śledzić ruch Library Of Congress Web Archiving?
Identyfikuj i klasyfikuj nieznaną aktywność crawlerów. Library Of Congress Web Archiving może pojawiać się w logach serwera z różną częstotliwością. Śledzenie zachowania pomaga zdecydować, czy zezwolić, ograniczyć czy zablokować na podstawie danych.
Chroń budżet crawlowania. Każde żądanie bota pochłania zasoby serwera. Zrozumienie, co Library Of Congress Web Archiving crawluje, pomaga priorytetyzować crawlery, które mają znaczenie.
Weryfikacja w logach
Aby zweryfikować ruch Library Of Congress Web Archiving w logach serwera:
- Szukaj w logach dostępu ciągów user-agent wymienionych powyżej
- Sprawdź, czy adresy IP pasują do udokumentowanych zakresów (jeśli podane przez United States Library of Congress)
- Zweryfikuj, czy wzorzec crawlowania odpowiada udokumentowanemu zachowaniu
- Użyj odwrotnego wyszukiwania DNS do dodatkowej weryfikacji, jeśli dostępne
Uwaga: Obserwowane zachowanie w środowiskach produkcyjnych może różnić się od oficjalnej dokumentacji. Monitoring ruchu zapewnia jedyną niezawodną weryfikację rzeczywistego zachowania botów.
Nieudokumentowane informacje
Następujące informacje nie są oficjalnie udokumentowane dla Library Of Congress Web Archiving:
- crawl frequency specifics
- IP verification method
Oficjalna dokumentacja
Zobacz oficjalną dokumentację Library Of Congress Web Archiving loc.govInformacje pochodzą z oficjalnej dokumentacji. Treść wygenerowana z pomocą AI.