Trusted WordPress tutorials, when you need them most.
Beginner’s Guide to WordPress
Puchar WPB
25 Million+
Websites using our plugins
16+
Years of WordPress experience
3000+
WordPress tutorials
by experts

Jak zoptymalizować twój WordPress Robots.txt pod kątem SEO

Uwaga redakcyjna: Otrzymujemy prowizję z linków partnerskich na WPBeginner. Prowizje nie mają wpływu na opinie i oceny naszych redaktorów. Dowiedz się więcej o Proces redakcyjny.

Niedawno jeden z naszych czytelników zapytał nas, jak zoptymalizować plik robots.txt, aby poprawić SEO.

Plik robots.txt informuje wyszukiwarki, jak mają indeksować twoją witrynę internetową, co czyni go niezwykle potężnym narzędziem SEO.

W tym artykule pokażemy kilka wskazówek, jak stworzyć idealny plik robots.txt dla SEO.

Optimizing robots.txt file for better SEO

Co to jest plik robots.txt?

Robots.txt to plik tekstowy, który właściciele witryn internetowych mogą utworzyć, aby poinformować boty wyszukiwarek, jak indeksować strony w ich witrynach.

Zazwyczaj jest on przechowywany w katalogu głównym (znanym również jako katalog główny) twojej witryny internetowej. Podstawowy format pliku robots.txt wygląda następująco:

User-agent: [user-agent name]
Disallow: [URL string not to be crawled]
 
User-agent: [user-agent name]
Allow: [URL string to be crawled]
 
Sitemap: [URL of your XML Sitemap]

Możesz mieć wiele wierszy instrukcji, aby zezwolić lub nie zezwolić na określone adresy URL i dodać wiele map witryn. Jeśli adres URL nie zostanie zablokowany, boty wyszukiwarek przyjmą, że mogą go indeksować.

Oto jak może wyglądać przykładowy plik robots.txt:

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-content/plugins/
Disallow: /wp-admin/

Sitemap: https://example.com/sitemap_index.xml

W powyższym przykładzie robots.txt zezwoliliśmy wyszukiwarkom na indeksowanie plików w katalogu uploads naszego WordPressa.

Następnie uniemożliwiliśmy robotom wyszukiwarek indeksowanie wtyczek i katalogów administracyjnych WordPress.

Na koniec podaliśmy adres URL naszej mapy witryny XML.

Czy potrzebujesz pliku robots.txt dla twojej witryny WordPress?

Jeśli nie masz pliku robots.txt, wyszukiwarki nadal będą indeksować twoją witrynę internetową. Nie będziesz jednak w stanie wskazać im stron lub katalogów, których nie powinny indeksować.

Nie będzie to miało większego wpływu, gdy po raz pierwszy uruchamiasz bloga i nie masz dużo treści.

Jednak w miarę rozwoju twojej witryny internetowej i dodawania większej ilości treści, prawdopodobnie będziesz chciał mieć lepszą kontrolę nad tym, jak twoja witryna jest indeksowana i indeksowana.

Oto dlaczego.

Boty wyszukiwarek mają limit indeksowania dla każdej witryny internetowej.

Oznacza to, że indeksują określoną liczbę stron podczas sesji indeksowania. Jeśli wykorzystają swój budżet indeksowania przed zakończeniem indeksowania wszystkich stron w twojej witrynie, wrócą i wznowią indeksowanie w następnej sesji.

Może to spowolnić szybkość indeksowania twojej witryny internetowej.

Możesz to poprawić, uniemożliwiając robotom wyszukiwarek próbę indeksowania niepotrzebnych stron, takich jak strony administracyjne WordPress, pliki wtyczek i katalog motywów.

Wyłączając niepotrzebne strony, oszczędzasz swój limit indeksowania. Pomaga to wyszukiwarkom indeksować jeszcze więcej stron w twojej witrynie i indeksować je tak szybko, jak to możliwe.

Innym dobrym powodem do korzystania z pliku robots.txt jest chęć uniemożliwienia wyszukiwarkom indeksowania wpisu lub strony w twojej witrynie internetowej.

Nie jest to najbezpieczniejszy sposób na ukrycie treści przed opinią publiczną, ale pomoże zapobiec pojawianiu się treści w wynikach wyszukiwania.

Jak wygląda idealny plik robots.txt?

Wiele popularnych blogów korzysta z bardzo prostego pliku robots.txt. Ich treść może się różnić w zależności od potrzeb konkretnej witryny:

User-agent: *
Disallow:

Sitemap: http://www.example.com/post-sitemap.xml
Sitemap: http://www.example.com/page-sitemap.xml

Ten plik robots.txt umożliwia wszystkim robotom indeksowanie całej treści i zapewnia im odnośnik do map witryn XML.

W przypadku witryn WordPress zalecamy następujące reguły w pliku robots.txt:

User-Agent: *
Allow: /wp-content/uploads/
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /refer/

Sitemap: http://www.example.com/post-sitemap.xml
Sitemap: http://www.example.com/page-sitemap.xml

Powoduje to, że boty wyszukiwarek indeksują wszystkie obrazki i pliki WordPress. Uniemożliwia robotom wyszukiwarek indeksowanie obszaru administracyjnego WordPress, pliku readme i ukrytych odnośników partnerskich.

Dodając mapy witryn do pliku robots.txt, ułatwiasz robotom Google znalezienie wszystkich stron w twojej witrynie.

Teraz, gdy już wiesz, jak wygląda idealny plik robots.txt, przyjrzyjmy się, jak możesz utworzyć plik robots.txt w WordPress.

Jak utworzyć plik robots.txt w WordPress?

Istnieją dwa sposoby utworzenia pliku robots.txt w WordPress. Możesz wybrać metodę, która najbardziej Ci odpowiada.

Metoda 1: Edycja pliku robots.txt przy użyciu All in One SEO

All in One SEO, znany również jako AIOSEO, to najlepsza wtyczka WordPress SEO na rynku, używana przez ponad 3 miliony witryn internetowych. Jest łatwa w użyciu i zawiera generator pliku robots.txt.

Aby dowiedzieć się więcej, zobacz naszą szczegółową recenzję AIOSEO.

Jeśli nie masz jeszcze zainstalowanej wtyczki AIOSEO, możesz zapoznać się z naszym przewodnikiem krok po kroku, jak zainstalować wtyczkę WordPress.

Uwaga: Dostępna jest również bezpłatna wersja AIOSEO, która posiada tę funkcję.

Po zainstalowaniu i włączaniu wtyczki można jej używać do tworzenia i edytowania pliku robots.txt bezpośrednio z obszaru administracyjnego WordPress.

Wystarczy przejść do All in One SEO ” Narzędzia, aby edytować twój plik robots.txt.

Robots.txt file editor in All in One SEO

Najpierw musisz włączyć opcję edycji, klikając przełącznik „Enable Custom Robots.txt” na niebiesko.

Po włączeniu tego przełącznika można utworzyć własny plik robots.txt w WordPress.

Enable custom robots.txt file

All in One SEO pokaże twój istniejący plik robots.txt w sekcji „Podgląd pliku robots.txt” na dole ekranu.

Ta wersja wyświetli domyślne reguły dodane przez WordPress.

Robots.txt file preview in All in One SEO

Te domyślne reguły mówią wyszukiwarkom, by nie indeksowały rdzeni plików WordPressa, pozwalają botom indeksować całą treść i udostępniają im odnośnik do map witryn XML twojej witryny.

Teraz możesz dodać własne konfiguratory, aby ulepszyć swój plik robots.txt pod kątem SEO.

Aby dodać regułę, wpisz agenta użytkownika w polu „Agent użytkownika”. Użycie znaku * spowoduje zastosowanie reguły do wszystkich agentów użytkownika.

Następnie wybierz, czy chcesz „Zezwalać”, czy „Zezwalać” na indeksowanie przez wyszukiwarki.

Następnie wpisz nazwę pliku lub ścieżkę katalogu w polu „Ścieżka katalogu”.

Add robots file rules

Reguła zostanie automatycznie zastosowana do twojego pliku robots.txt. Aby dodać kolejną regułę, wystarczy kliknąć przycisk „Dodaj regułę”.

Zalecamy dodawanie reguł do momentu utworzenia idealnego formatu pliku robots.txt, który udostępniliśmy powyżej.

Twój konfigurator będzie wyglądał następująco.

Custom robots txt file preview

Po zakończeniu nie zapomnij kliknąć przycisku „Zapisz zmiany”, aby zapisać twoje zmiany.

Metoda 2: Edycja pliku robots.txt przy użyciu WPCode

WPCode to potężna wtyczka fragmentów kodu, która pozwala łatwo i bezpiecznie dodawać własny kod do twojej witryny internetowej.

Zawiera również przydatną funkcję, która pozwala szybko edytować plik robots.txt.

Uwaga: Istnieje również darmowa wtyczka WPCode, ale nie zawiera ona funkcji edytora plików.

Pierwszą rzeczą, którą musisz zrobić, jest zainstalowanie wtyczki WPCode. Aby uzyskać instrukcje krok po kroku, zobacz nasz przewodnik dla początkujących, jak zainstalować wtyczkę WordPress.

Po włączaniu należy przejść do strony WPCode ” Edytor plików. Tam wystarczy kliknąć kartę „robots.txt”, aby edytować plik.

WPCode robots.txt Editor

Teraz możesz wkleić lub wpisać treść pliku robots.txt.

Po zakończeniu upewnij się, że kliknąłeś przycisk „Zapisz zmiany” u dołu strony, aby zapisać ustawienia.

Metoda 3: Ręczna edycja pliku Robots.txt przy użyciu FTP

W przypadku tej metody konieczne będzie użycie klienta FTP do edycji pliku robots.txt. Alternatywnie możesz użyć menedżera plików dostarczonego przez twój hosting WordPress.

Wystarczy połączyć się z plikami twojej witryny internetowej WordPress za pomocą klienta FTP.

Po wejściu do środka będziesz mógł zobaczyć plik robots.txt w katalogu głównym twojej witryny internetowej.

Edit robots file via FTP

Jeśli go nie widzisz, prawdopodobnie nie masz pliku robots.txt.

W takim przypadku możesz po prostu go utworzyć.

Create new robots file

Robots.txt to zwykły plik tekstowy, co oznacza, że możesz pobrać go na swój komputer i edytować za pomocą dowolnego edytora tekstu, takiego jak Notatnik lub TextEdit.

Po zapisaniu zmian możesz przesłać plik robots.txt z powrotem do katalogu głównego witryny internetowej.

Jak przetestować twój plik robots.txt?

Po utworzeniu twojego pliku robots.txt zawsze warto przetestować go za pomocą narzędzia do testowania pliku robots.txt.

Istnieje wiele narzędzi do testowania pliku robots.txt, ale my zalecamy korzystanie z tego dostępnego w Google Search Console.

Po pierwsze, twoja witryna internetowa musi być odnośnikiem do Google Search Console. Jeśli jeszcze tego nie zrobiłeś, zapoznaj się z naszym przewodnikiem na temat dodawania Twojej witryny WordPress do Google Search Console.

Następnie można skorzystać z narzędzia do testowania robotów Google Search Console.

Choose property

Wystarczy wybrać twój obiekt z rozwijanej listy.

Narzędzie automatycznie pobierze plik robots.txt twojej witryny internetowej i podświetli błędy i ostrzeżenia, jeśli takie znajdzie.

Robots tester tool

Przemyślenia końcowe

Celem optymalizacji twojego pliku robots.txt jest uniemożliwienie wyszukiwarkom indeksowania stron, które nie są publicznie dostępne. Na przykład strony w twoim katalogu wtyczek wp lub strony w katalogu administracyjnym WordPress.

Powszechnym mitem wśród ekspertów SEO jest to, że blokowanie kategorii, tagów i stron archiwalnych WordPress poprawi szybkość indeksowania i spowoduje szybsze indeksowanie i wyższą ocenę.

Nie jest to prawdą. Jest to również niezgodne z wytycznymi Google dla webmasterów.

Zalecamy przestrzeganie powyższego formatu pliku robots.txt w celu utworzenia pliku robots.txt dla twojej witryny internetowej.

Przewodniki ekspertów dotyczące korzystania z pliku robots.txt w WordPressie

Teraz, gdy już wiesz, jak zoptymalizować twój plik robots.txt, możesz chcieć zobaczyć kilka innych artykułów związanych z używaniem robots.txt w WordPress.

Mamy nadzieję, że ten artykuł pomógł ci dowiedzieć się, jak zoptymalizować twój plik robots.txt WordPress pod kątem SEO. Zachęcamy również do zapoznania się z naszym kompletnym przewodnikiem SEO WordPress i wyborem najlepszych narzędzi SEO WordPress, które pomogą ci rozwinąć twoją witrynę internetową.

If you liked this article, then please subscribe to our YouTube Channel for WordPress video tutorials. You can also find us on Twitter and Facebook.

Ujawnienie: Nasze treści są wspierane przez czytelników. Oznacza to, że jeśli klikniesz na niektóre z naszych linków, możemy otrzymać prowizję. Zobacz jak WPBeginner jest finansowany, dlaczego to ma znaczenie i jak możesz nas wspierać. Oto nasz proces redakcyjny.

Avatar

Editorial Staff at WPBeginner is a team of WordPress experts led by Syed Balkhi with over 16 years of experience in WordPress, Web Hosting, eCommerce, SEO, and Marketing. Started in 2009, WPBeginner is now the largest free WordPress resource site in the industry and is often referred to as the Wikipedia for WordPress.

Najlepszy zestaw narzędzi WordPress

Uzyskaj BEZPŁATNY dostęp do naszego zestawu narzędzi - zbiór produktów i zasobów związanych z WordPressem, które każdy profesjonalista powinien mieć!

Reader Interactions

132 komentarzeZostaw odpowiedź

  1. Syed Balkhi says

    Hey WPBeginner readers,
    Did you know you can win exciting prizes by commenting on WPBeginner?
    Every month, our top blog commenters will win HUGE rewards, including premium WordPress plugin licenses and cash prizes.
    You can get more details about the contest from here.
    Start sharing your thoughts below to stand a chance to win!

  2. Dennis Muthomi says

    I have to admit, I use the AIOSEO plugin but have always ignored the „Enable Custom Robots.txt” option because I didn’t want to mess anything up.
    But I have read this article and I’m convinced it’s worth taking the time to optimize my site’s robots.txt file.

  3. Moinuddin Waheed says

    Thanks for this informative post about robots.txt file.
    I didn’t know that websites should maintain this file in order to have a control over Google bots that how should they crawl over our pages and posts.
    for beginner websites just starting out, is there a need to have robots.txt file or is there a way like plugin which can a make a robots.txt file for our website?

    • WPBeginner Support says

      Most SEO plugins help with setting up the robots.txt for a new site to prevent bots from scrolling sections they shouuldn’t.

      Administrator

  4. Jiří Vaněk says

    Thanks to this article, I checked the robots.txt file and added URL addresses with sitemaps. At the same time, I had other problematic lines there, which were revealed by the validator. I wasn’t familiar with sitemaps in robots.txt until now. Thanks.

  5. Stéphane says

    Hi,

    Thanks for that post, it becomes clearer how to use the robots.txt file. On most websites that you find while looking for some advice regarding the robots.txt file, you can see that the following folders are explicitly excluded from crawling (for WordPress):
    Disallow: /wp-content/plugins
    Disallow: /wp-content/cache
    Disallow: /wp-content/themes

    I don’t really understand the reasons to exclude those folders (is there one actually?). What would be your take regarding that matter?

    • WPBeginner Support says

      It is mainly to prevent anything in those folders from showing as a result when a user searches for your site. As that is not your content it is not something most people would want to appear for the site’s results.

      Administrator

  6. zaid haris says

    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    GSC show the coverage error for „Disallow: /wp-admin/” Is this wrong?

    • WPBeginner Support says

      For most sites, you do not want anything from your wp-admin to appear as a search result so it is fine and expected to receive the coverage area when you deny Google the ability to scan your wp-admin.

      Administrator

  7. Hansini says

    I am creating my robots.txt manually as you instructed for my WordPress site.

    I have one doubt. when I write User-Agent: * won’t it allow another spamming robot to access my site?
    Should I write User-Agent: * or User-Agent: Googlebot.?

    • WPBeginner Support says

      The User-Agent line is setting the rules that all robots should follow on your site, if you specify a specific bot on that line it would be setting rules for that specific bot and none of the others.

      Administrator

  8. Sanjeev Pandey says

    should we also disallow /wp-content/themes/ ?

    It is appearing in the search result when I run the command site:abcdef.com in google search

    • WPBeginner Support says

      You would not want to worry about blocking your themes folder and as you write SEO-friendly content you should no longer see the themes as a search result.

      Administrator

    • WPBeginner Support says

      That means you’re telling search engines to not look at any referral links or the readme.html file.

      Administrator

    • WPBeginner Support says

      If you block your uploads folder then search engines would not normally crawl your uploaded content like images.

      Administrator

  9. Ravi kumar says

    Sir i m very confused about robot.txt many time i submitted site map in blogger but the after 3,4 days coming the same issue what is the exactly robot.txt.. & how submit that please guide me

    • WPBeginner Support says

      No, Google will not list the page but if the page is listed it will not show an error.

      Administrator

  10. Bharat says

    Hi
    I have a question
    i receive google search console coverage issue warning for blocked by robots.txt
    /wp-admin/widgets.php
    My question is, can i allow for wp-admin/widgets.php to robots.txt and this is safe?

  11. Amila says

    Hello! I really like this article and as I’m a beginner with all this crawling stuff I would like to ask something in this regard. Recently, Google has crawled and indexed one of my websites on a really terrible way, showing the pages in search results which are deleted from the website. The website didn’t have discouraged search engine from indexing in the settings of WordPress at the beginning, but it did later after Google showed even 3 more pages in the search results (those pages also doesn’t exist) and I really don’t understand how it could happen with „discourage search engine from indexing” option on. So, can the Yoast method be helpful and make a solution for my website to Google index my website on the appropriate way this time? Thanks in advance!

    • WPBeginner Support says

      The Yoast plugin should be able to assist in ensuring the pages you have are indexed properly, there is a chance before you discouraged search engines from crawling your site your page was cached.

      Administrator

      • Amila says

        Well yes and from all pages, it cached the once who doesn’t exist anymore. Anyway, as the current page is on „discourage” setting on, is it better to keep it like that for now or to uncheck the box and leave the Google to crawl and index it again with Yoast help? Thanks! With your articles, everything became easier!

        • WPBeginner Support says

          You would want to have Google recrawl your site once it is set up how you want.

  12. Pradhuman Kumar says

    Hi I loved the article, very precise and perfect.
    Just a small suggestion kindly update the image ROBOTS.txt tester, as Google Console is changed and it would be awesome if you add the link to check the robots.txt from Google.

    • WPBeginner Support says

      Thank you for the feedback, we’ll be sure to look into updating the article as soon as we are able.

      Administrator

  13. Kamaljeet Singh says

    My blog’s robots.txt file was:
    User-Agent: *
    crawl-delay: 10

    After reading this post, I have changed it into your recommended robots.txt file. Is that okay that I removed crawl-delay

    • WPBeginner Support says

      It should be fine, crawl-delay tells search engines to slow down how quickly to crawl your site.

      Administrator

    • Editorial Staff says

      We use /refer/ to redirect to various affiliate links on our website. We don’t want those to be indexed since they’re just redirects and not actual content.

      Administrator

  14. Sagar Arakh says

    Thank you for sharing. This was really helpful for me to understand robots.txt
    I have updated my robots.txt to the ideal one you suggested. i will wait for the results now

  15. Jasper says

    thanks for update information for me. Your article was good for Robot txt. file. It gave me a piece of new information. thanks and keep me updating with new ideas.

    • WPBeginner Support says

      For a multisite, you would need to have a robots.txt file in the root folder of each site.

      Administrator

  16. Pacifique Ndanyuzwe says

    My wordpress site is new and my robot.txt by default is
    user-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    I want google to crawl and index my content. Is that robot.txt okay?

  17. Ritesh Seth says

    Great Airticle…

    I was confused from so many days about Robots.txt file and Disallow links. Have copied the tags for robots file. Hope this will solve the issue of my Site

  18. Kurt says

    The files in the screenshots of your home folder are actually located under the public_html folder under my home folder.

    I did not have a /refer folder under my public_html folder.

    I did not have post or page xml files anywhere on my WP account.

    I did include an entry in the robots.txt file I created to disallow crawling my sandbox site. I’m not sure that’s necessary since I’ve already selected the option in WP telling crawlers not to crawl my sandbox site, but I don’t think it will hurt to have the entry.

    • WPBeginner Support says

      Some hosts do rename public_html to home which is why you see it there. You would want to ensure Yoast is active for the XML files to be available. The method in this article is an additional precaution to help with preventing crawling your site :)

      Administrator

  19. Elyn Ashton says

    User-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php <– This is my robot.txt code but im confuse why my /wp-admin is index? How to no index it?

    • WPBeginner Support says

      If it was indexed previously you may need to give time for the search engine’s cache to clear

      Administrator

  20. Ashish kumar says

    This website really inspire me to start a blog .Thank you lost of tema.this website each and every article have rich of information and explanation.when i have some problem at first i visit this blog . Thank You

  21. Anna says

    I am trying to optimise robots for my website using Yoast. However Tools in Yoast does not have the option for 'File Editor’.
    There are just two options
    (i) Import and Export
    (ii) Bulk editor
    May you please advise how this can be addressed. Could it be that I am on a free edition of Yoast?

    • WPBeginner Support says

      The free version of Yoast still has the option, your installation may be disallowing file editing in which case you would likely need to use the FTP method.

      Administrator

  22. Emmanuel Husseni says

    I really find this article helpful because I really don’t know much on how robot.txt works but now I do.

    pls what I don’t understand is how do I find the best format of robot.txt to use on my site (I mean one that works generally)?

    I noticed lots of big blogs I check ranking high on search engine uses different robot.txt format..

    I’ll be clad to see a reply from you or just anyone that can help

    • Editorial Staff says

      Having a sitemap and allowing the areas that need to be allowed is the most important part. The disallow part will vary based on each site. We shared a sample in our blog post, and that should be good for most WordPress sites.

      Administrator

    • WPBeginner Support says

      Hey Emmanuel,

      Please see the section regarding the ideal robots.txt file. It depends on your own requirements. Most bloggers exclude WordPress admin and plugin folders from the crawl.

      Administrator

  23. jack says

    Well written article, I recommend the users to do sitemap before creating and enabling their ROBOTS text it will help your site to crawl faster and indexed easily.

    Jack

  24. Cherisa says

    I keep getting the error message below on google webmaster. I am basically stuck. A few things that were not clear to me on this tutorial is where do I find my site’s root files, how do you determine if you already have a „robots.txt” and how do you edit it?

    • WPBeginner Support says

      Hi Cherisa,

      Your site’s root folder is the one that contains folders like wp-admin, wp-includes, wp-content, etc. It also contains files like wp-config.php, wp-cron.php, wp-blogheader.php, etc.

      If you cannot see a robots.txt file in this folder, then you don’t have one. You can go a head and create a new one.

      Administrator

      • Cherisa says

        Thank you for your response. I have looked everywhere and can’t seem to locate these root files as you describe. Is there a path directory I can take that leads to this folder. Like it is under Settings, etc?

  25. Devender says

    I had a decent web traffic to my website. Suddenly dropped to zero in the month of May. Till now I have been facing the issue. Please help me to recover my website.

  26. Haris Aslam says

    Hello There Thank you For This Information, But I Have A Question
    That I Just Create The Sitemap.xml and Robots.txt File, & Its Crawling well. But How Can I Create „Product-Sitemap.xml”
    There is all list of product in sitemap.xml file. Do I Have To Create Product-sitemap.xml separately?

    and submit to google or bing again ?
    Can You please Help me out…
    Thank You

  27. Mahadi Hassan says

    I have a problem on robots.txt file setting. Only one robots.txt is showing for all websites. Please help me to show separate robots.txt file of all websites. I have all separate robots.txt file of all individual website. But only one robots.txt file is showing in browser for all websites.

  28. Debu Majumdar says

    Please explain why did you include
    Disallow: /refer/
    in the beginner Robots.txt example? I do not understand the implications of this line. Is this important for the beginner? You have explained the other two Disallowed ones.

    Thanks.

  29. harsh kumar says

    hey,,i am getting error in yoast seo regarding site map..once i click on fix it ,,,it’s coming again..my site html is not loading properly

  30. Tom says

    I’ve just been reviewing my Google Webmaster Tools account and using the Search Console, I’ve found the following:
    Page partially loaded
    Not all page resources could be loaded. This can affect how Google sees and understands your page. Fix availability problems for any resources that can affect how Google understands your page.

    This is because all CSS stylesheets associated with Plugins are disallowed by the default robots.txt.

    I understand good reasons why I shouldn’t just make this allowable, but what would be an alternative as I would suspect the Google algorithms are marking down the site for not seeing these.

  31. Suren says

    Hi,

    Whenever, I search my site on the google this text appears below the link: „A description for this result is not available because of this site’s robots.txt”

    How, can i solve this issue?

    Regards

    • WPBeginner Support says

      Hi Suren,

      Seems like someone accidentally changed your site’s privacy settings. Go to Settings » Reading page and scroll down to 'Search engine visibility’ section. Make sure that the box next to is unchecked.

      Administrator

  32. Divyesh says

    Hello

    As i seen in webmaster tool, i got robot.txt file like below :

    User-agent: *
    Disallow: /wp-admin/
    Allow: /wp-admin/admin-ajax.php

    let me know is that okey ? or should i use any other ?

  33. John Cester says

    I want to know, does it a good idea to block (disallow) „/wp-content/plugins/” in robots.tx? Every time i remove a plugin it shows 404 error in some pages of that plugin.

Zostaw odpowiedź

Dziękujemy za pozostawienie komentarza. Pamiętaj, że wszystkie komentarze są moderowane zgodnie z naszymi polityka komentarzy, a Twój adres e-mail NIE zostanie opublikowany. NIE używaj słów kluczowych w polu nazwy. Przeprowadźmy osobistą i konstruktywną rozmowę.