Les navigateurs hors ligne sont des logiciels qui téléchargent votre page web, en suivant les liens vers vos autres pages web, en téléchargeant tout le contenu et les images. Le but est innocent, le visiteur peut donc se déconnecter d’Internet et naviguer sur le site sans connexion, mais la demande sur le serveur et l’utilisation de la bande passante peuvent être coûteuses. Les “bad bots”, comme on les appelle souvent, désignent les programmes qui visitent votre site web, soit pour trouver des sources de contenu, soit pour rechercher des failles de sécurité ou encore pour scanner les adresses électroniques. C’est souvent ainsi que votre adresse électronique se retrouve dans les bases de données de “spam”, parce qu’ils ont créé un “bot” pour scanner l’Internet et collecter les adresses électroniques. Ces programmes et “robots” ignorent souvent les règles définies dans les fichiers “robot.txt”. Vous trouverez ci-dessous un exemple utile de la manière de bloquer certains “robots” et sites d’extraction courants. Créez un fichier .htaccess en suivant les instructions et les conseils principaux qui comprennent le texte suivant :
