TinyBee

SEO-verktyg

Robots.txt-testare

Klistra in robots.txt-innehåll för att inspektera vanliga direktiv och upptäcka riskabla genomsökningsblockeringar.

Hur man använder

  1. 1

    Klistra in innehållet i robots.txt.

  2. 2

    Kör testverktyget.

  3. 3

    Granska direktiv och varningar.

Snabbt svar

Robots.txt Tester tolkar din robots.txt-fil för att markera aktiva regler, User-agent-mål, länkar till webbplatskartor och genomsökningsblockeringar. Det är bäst för att granska genomsökningskonfigurationer innan Google, Bing eller AI-agenter indexerar din webbplats.

Huvudfunktioner

  • Kontrollerar direktivens giltighet (Allow, Disallow, Sitemap, Crawl-delay).
  • Grupperar regler efter User-agent-block för tydlig granskning av flera sökrobotar.
  • Markerar tomma direktiv eller formateringsproblem i realtid.
  • Identifierar absoluta webbplatskarta-URL:er och verifierar efterlevnad av standardlayout.
  • Bearbetar text helt i webbläsaren, vilket förhindrar att webbplatsens genomsökningskonfigurationer läcker ut.
  • Kräver noll anslutningar till produktions-DNS, domäner eller Search Console.

Om detta verktyg

En webbplats robots.txt-fil är den inledande portvakten för sökmotorer och AI-skrapor, som instruerar dem om var de får vandra och vilka kataloger som måste förbli privata. Ett enda felplacerat snedstreck, felaktig jokerteckenstjärna eller felformaterad Disallow-sökväg kan helt blockera hela delar av din domän från sökindexering – eller av misstag exponera hemliga iscensättningskataloger för offentliga indexerare. Denna testare översätter råa robots-direktiv till tydliga, strukturerade tabeller, markerar vilka agenter som har genomsökningsgodkännande och varnar dig för farliga genomsökningsblockeringar. Eftersom valideringen körs i ditt lokala webbläsarfönster kan du säkert testa och justera dina regler offline innan du distribuerar dem live.

Vanliga scenarier

Verifiera iscensättningsblockeringar

Se till att iscensättnings-, admin- och testkataloger blockeras korrekt för att förhindra att sökindexerare indexerar dubbla webbplatskopior.

Granska regler för AI-skrapor

Konfigurera anpassade regler för att tillåta vanliga sökrobotar samtidigt som du specifikt blockerar eller begränsar aggressiva AI-modellers innehållsskrapor.

Validera sökvägar till webbplatskartor

Verifiera att din länk till webbplatskartan är fullständigt deklarerad som en absolut URL och placerad korrekt utanför user-agent-direktivblock.

Vanliga frågor

Ersätter detta testning i Google Search Console?

Nej. Det är en snabb lokal kontroll av vanliga misstag före djupare validering.

Kan den hämta en live robots.txt-fil?

Live-hämtning kan läggas till senare som en serverassisterad funktion.

Vad är standardplaceringen för en webbplatskarta-regel?

Ett Sitemap-direktiv är oberoende av User-agent-block. Det bör deklareras som en absolut URL (t.ex. Sitemap: https://yourdomain.com/sitemap.xml) och sitter vanligtvis högst upp eller längst ner i filen.

Stöds crawl-delay-regler av Google?

Nej. Googlebot ignorerar Crawl-delay-direktiv helt. Andra sökrobotar (som Bingbot) och mindre webbplatsskrapor stöder och respekterar dock fortfarande Crawl-delay-inställningar.

Kan jag testa jokertecken?

Ja. Standardjokertecken (som * och $) stöds av moderna sökmotorer och kan tolkas för att granska matchningar.

Är min genomsökningsfil privat?

Ja. All tolkning av robots.txt hanteras strikt i ditt webbläsarfönster med JavaScript på klientsidan. Inga av dina kataloger eller direktiv loggas.

Relaterade verktyg