Sebastian Köhler
24c878062d
- Alle URLs in HTML-Dateien aktualisiert - Canonical URLs angepasst - Open Graph und Schema.org URLs aktualisiert - Sitemap.xml und robots.txt aktualisiert
20 lines
287 B
Plaintext
20 lines
287 B
Plaintext
User-agent: *
|
|
Allow: /
|
|
|
|
# Sitemaps
|
|
Sitemap: https://andreas-guttenberger.de/sitemap.xml
|
|
|
|
# Disallow admin pages if any
|
|
User-agent: *
|
|
Disallow: /admin/
|
|
Disallow: /*.pdf$
|
|
|
|
# Allow all search engines
|
|
User-agent: Googlebot
|
|
Allow: /
|
|
|
|
User-agent: Bingbot
|
|
Allow: /
|
|
|
|
# Crawl-delay
|
|
Crawl-delay: 0 |