# robots.txt fuer http://www.beispiel.de/
User-agent: *
Disallow: /thoma/       # Die Dateien sind sehr kurzlebig
Disallow: /scott/       # Die Dateien sind sehr kurzlebig
Disallow: /logfiles/   # Die ändern sich jeden Tag
Disallow: /de/     # Bilder nicht downloaden
Disallow: /cgi-bin/    # CGI Ausgaben nicht indexieren
Disallow: /news.html   # Die news.html ändert sich täglich