Configuration du robots.txt

Configuration du robots.txt - Programmation

Marsh Posté le 22-03-2002 à 15:19:00    

Voilà le contenu de mon fichier actuel:
"User-agent: ia_archiver
Disallow: /"
 
Je voudrai interdire à TOUS les robots, d'aller matter le répertoire XYZ, comment dois je configurer mon robots.txt ?  
 
"User-agent: ia_archiver
Disallow: /
User-agent: *
Disallow: /XYZ/"  
   ??

 

[jfdsdjhfuetppo]--Message édité par B-52--[/jfdsdjhfuetppo]


---------------
Securis c'est plus de 200 logiciels de sécurité gratuits !
Reply

Marsh Posté le 22-03-2002 à 15:19:00   

Reply

Marsh Posté le 23-03-2002 à 00:14:56    

Reply

Marsh Posté le 23-03-2002 à 00:49:54    

La syntaxe correcte définit des "règles d'autorisation" pour chaque "robot".
 
Ainsi, par exemple, ton fichier robots.txt aura :
 
User-agent : *  <----- interdire à TOUS les robots
Disallow: /tmp/ <---- répertoire/fichiers interdits
Disallow: /tmp/docs/
Disallow: /secret.html

 
User-agent : googlebot
Disallow : /hidden/

 
User-agent : cybermapper
Disallow : /doc.htm

 
Attention, on ne peut pas utiliser de wildcards genre *.htm ou ?truc?.htm? dans la liste des interdits.

 

[jfdsdjhfuetppo]--Message édité par Indiana Jones--[/jfdsdjhfuetppo]

Reply

Marsh Posté le 23-03-2002 à 09:34:34    

Reply

Sujets relatifs:

Leave a Replay

Make sure you enter the(*)required information where indicate.HTML code is not allowed