Czym jest OnCrawl?
Krótka odpowiedź: OnCrawl to platforma SEO dla przedsiębiorstw oparta na wiodącym w branży SEO Crawler i Log Analyzer, obsługiwana przez Oncrawl.
OnCrawl to narzędzie SEO zaprojektowane do zbierania i analizowania technicznych danych SEO dla dużych lub złożonych witryn. Pomaga użytkownikom zrozumieć, jak ich witryna jest eksplorowana, odczytywana i interpretowana przez wyszukiwarki oraz agentów AI, przekształcając sygnały techniczne w decyzje strategiczne. OnCrawl wykrywa trafienia od agentów AI i dostarcza informacji o ich zachowaniu.
Identyfikacja User-Agent
Następujące ciągi user-agent identyfikują OnCrawl w logach Twojego serwera:
Mozilla/5.0 (compatible; OnCrawl Mobile/1.0; +http://www.oncrawl.com/)Mozilla/5.0 (iPhone; CPU iPhone OS 8_3 like Mac OS X) AppleWebKit/600.1.4 (KHTML, like Gecko) Version/8.0 Mobile/12F70 Safari/600.1.4 (compatible; OnCrawl Mobile/1.0; +http://www.oncrawl.com/)
Reguły robots.txt dla OnCrawl
Respektuje robots.txt: Nie
Ten bot nie zobowiązuje się do przestrzegania robots.txt
OnCrawl oficjalnie nie przestrzega dyrektyw robots.txt. Jedynym niezawodnym sposobem kontroli dostępu jest blokowanie po stronie serwera (filtrowanie IP, reguły user-agent w konfiguracji serwera) w połączeniu z monitoringiem logów.
Potrzebujesz ciągłej weryfikacji ponad 500 botów? Can AI See It automatyzuje ten proces.
Zachowanie crawlera
Częstotliwość:Continuous
Wzorzec żądań:Not Documented
Cytaty z oficjalnej dokumentacji
"Oncrawl helps you understand how your website is explored, read, and interpreted"
"Oncrawl detects hits from AI agents like OpenAI, Claude, Mistral, and Perplexity."
Indeks aktywności crawlera
Względna aktywność crawlera OnCrawl w ciągu ostatnich 28 dni. Wyższe wartości oznaczają zwiększoną intensywność crawlowania w porównaniu z bazą okresu.
Pokaż dane aktywności (ostatnie 7 dni)
| Data | Indeks aktywności |
|---|---|
| Mar 28, 2026 | 47.8 |
| Mar 29, 2026 | 36.1 |
| Mar 30, 2026 | 43.7 |
| Mar 31, 2026 | 50.1 |
| Apr 1, 2026 | 23.2 |
| Apr 2, 2026 | 30.3 |
| Apr 3, 2026 | 23.5 |
Źródło: Cloudflare Radar
Dlaczego warto śledzić ruch OnCrawl?
Kontroluj wpływ crawlerów zewnętrznych na serwer. OnCrawl crawluje Twoją stronę dla bazy SEO Oncrawl. Choć przydatne dla analizy konkurencji, te crawlery mogą pochłaniać znaczne zasoby serwera na dużych stronach.
Identyfikuj, kto analizuje Twoją stronę. Wizyty OnCrawl ujawniają, gdy konkurenci lub agencje przeprowadzają audyty Twojej domeny.
Zarządzaj priorytetem crawlowania. Jeśli OnCrawl pochłania budżet crawlowania, który wolisz przydzielić wyszukiwarkom, możesz go ograniczyć lub zablokować na podstawie zmierzonego wolumenu.
Wykrywaj błędy 4XX i 5XX zanim znajdą je wyszukiwarki. Jeśli OnCrawl raportuje uszkodzone strony, możesz naprawić te problemy proaktywnie — zanim crawlery wyszukiwarek je napotkają i Twoje pozycje ucierpią.
Czy OnCrawl jest wart zasobów serwera?
OnCrawl crawluje Twoją stronę dla bazy SEO Oncrawl. W przeciwieństwie do wyszukiwarek, ten crawler nie odsyła ruchu polecającego — zasila narzędzie zewnętrzne.
To niekoniecznie problem — dane Oncrawl mogą zasilać narzędzia, z których sam korzystasz. Pytanie brzmi, czy wolumen crawlowania OnCrawl jest proporcjonalny do jego wartości.
Co mierzy Can AI See It
Żądania dziennie i przepustowość zużywana przez OnCrawl
Jaki % całkowitego ruchu botów stanowi OnCrawl?
Scrapery podszywające się pod user-agent OnCrawl
Weryfikacja w logach
Aby zweryfikować ruch OnCrawl w logach serwera:
- Szukaj w logach dostępu ciągów user-agent wymienionych powyżej
- Sprawdź, czy adresy IP pasują do udokumentowanych zakresów (jeśli podane przez Oncrawl)
- Zweryfikuj, czy wzorzec crawlowania odpowiada udokumentowanemu zachowaniu
- Użyj odwrotnego wyszukiwania DNS do dodatkowej weryfikacji, jeśli dostępne
Note: Obserwowane zachowanie w środowiskach produkcyjnych może różnić się od oficjalnej dokumentacji. Monitoring logów serwera zapewnia jedyną niezawodną weryfikację rzeczywistego zachowania botów.
Nieudokumentowane informacje
Następujące informacje nie są oficjalnie udokumentowane dla OnCrawl:
- crawl frequency pattern
- IP verification method
- JavaScript rendering details
Zobacz, które narzędzia SEO crawlują Twoją stronę — i ile to kosztuje
- Identyfikuj crawlery zewnętrzne zużywające zasoby serwera
- Oddzielaj ruch narzędzi SEO od crawli wyszukiwarek
- Wykrywaj fałszywe boty podszywające się pod user-agent OnCrawl
Oficjalna dokumentacja
Zobacz oficjalną dokumentację OnCrawl →
Informacje pochodzą z oficjalnej dokumentacji. Treść wygenerowana z pomocą AI.