# ========================================== # ROBOTS.TXT - SilkroadTopServers.com # Optimizat pentru Search Engines + AI Crawlers # ========================================== # 1. Permitem accesul general pentru motoarele de căutare clasice User-agent: * Allow: / Disallow: /admin/ Disallow: /panel/ Disallow: /config.php Disallow: /contact_submit.php Disallow: /seo/ Disallow: /analytics.php Disallow: /analytics_admin.php Disallow: /logout.php # 2. Permitem explicit crawlerelor AI (AEO & GEO) User-agent: GPTBot Allow: / User-agent: ChatGPT-User Allow: / User-agent: ClaudeBot Allow: / User-agent: Claude-Web Allow: / User-agent: PerplexityBot Allow: / User-agent: Google-Extended Allow: / # 3. Blocăm boții care doar fură conținut fără să trimită trafic User-agent: CCBot Disallow: / # ========================================== # Setări specifice # ========================================== Sitemap: https://silkroadtopservers.com/sitemap.xml Crawl-delay: 5