Files
astro-jiao77.cn/public/robots.txt
2025-10-01 09:51:06 +08:00

24 lines
421 B
Plaintext

# Jiao77.cn - 个人学术报告网站
# 允许所有搜索引擎抓取
User-agent: *
Allow: /
# 网站地图位置
Sitemap: http://jiao77.cn/sitemap.xml
# 不允许抓取的路径(模板和示例页面)
Disallow: /report/template/
# 主要搜索引擎配置
User-agent: Googlebot
Allow: /
User-agent: Bingbot
Allow: /
User-agent: Baiduspider
Allow: /
# 爬取延迟(秒)- 避免过度请求
Crawl-delay: 1