În acest articol, vom examina configurarea corectă a fișierului robots.txt pentru Joomla.
robots.txt este fișierul la care se adresează mai întâi botul de căutare (robot).
El oferă instrucțiuni pentru a căuta roboți pe care îl puteți indexa și ce nu.
În mod implicit, ar trebui să aveți acest fișier în rădăcină, dacă nu, creați un document text simplu numit roboți.
Pun pariu că aveți astfel de dosare (directoare) în rădăcină:
Pentru a interzice robotului să indexeze directoarele, componentele, pluginurile etc., este suficient să scrieți în cuvântul robots.txt Disallow: / directory /.
La început ar trebui să fie un pointer la robot - „User-agent:“ dacă ai pus un asterisc după cele două puncte - „*“, User-agent: * - aceasta este o indicație pentru toți roboții de căutare care vor veni pe site-ul tau. Dacă doriți să specificați ce trebuie să faceți pentru un anumit robot, iată o listă de nume:
- Google - Agent utilizator: Googlebot;
- Rambler - User-agent: StackRambler;
- Yandex - User-agent: Yandex;
- Yahoo - Agent-utilizator: Slurp sau Yahoo! SLURP;
- MSN - Agent-utilizator: MSNBot;
Acum, să vedem cum ar trebui să arate acest fișier.
Ne uităm la rădăcina site-ului și specificăm care directoare ar trebui să fie închise de la indexare.
Gazdă - specificați domeniul principal.
Sitemap - Specificați calea către harta site-ului.
Dezactivați: / images / - Dacă închideți din indexare, imaginile nu vor fi în căutare.
Asta e, noroc în promoție :)