# 51吃瓜网 — 站群 robots.txt # 相对路径,随机域名通用(不要写死 https://域名) # 全站允许抓取 | 指向 /sitemap.xml User-agent: * Allow: / User-agent: Baiduspider Allow: / Crawl-delay: 1 User-agent: Sogou web spider Allow: / Crawl-delay: 1 User-agent: 360Spider Allow: / User-agent: Bytespider Allow: / User-agent: Googlebot Allow: / User-agent: Bingbot Allow: / User-agent: Yandex Allow: / Sitemap: /sitemap.xml