فایل robots.txt چگونه کار می کند؟
حالا که به طور مختصر با این فولدر آشنا گردیده اید، مورد نیاز میباشد با طرز کارکرد و چگونگی آن نیز بیشتر آشنا گردید. طراحی سایت در مشهد ممکن میباشد ظاهرا کارکرد این فولدر سهل و آسان به حیث رسد، ولی غیروابسته از این قضیه به جهت بالا بردن بازدید وبسایت و تاثیرگذاری بر بهینه سازی، بسیار موثر و اثرگذار میباشد که درپی با اهمیت آن بیشتر آشنا می شویم.
این مقاله رو به طبع ملاحظه کنید:
فراگیری بدون نقص و تصویری تصویب جای در گوگل برای هر کسب و کاری
پوشه robots.txt تنها یک فولدر متنی سوای کد نماد گذاری، HTML میباشد؛ از این رو پسوند robots.txt مانند هر فولدر دیگری در سایت بر روی اینترنت سرور میزبانی میشود. در واقع، پوشه robots.txt برای هر تارنما معینی معمولاً با تایپ URL برای کاغذ مهم و بعد اضافه کردن /robots.txt مانند https://www….com/robots.txt قابل مشاهده میباشد. وقتی که پوشه به مکان دیگری در وب سایت لینک و پیوند داده نشده میباشد، یوزرها به احتمال زیاد به آن واکنش نمیکنند، البته در طول وجود این فولدر بیشتر ربات های اینترنت نخست پیش از هدایت به سایر بخش های وبسایت در پی این فولدر می شوند.
در حالی که یک فولدر robots.txt راهبرد هایی را برای ربات ها ارائه میدهد و سرعت کاوش و کشف کردن وب سایت را ارتقاء میدهد. یک ربات عالی، مانند یک خزنده اینترنت، عملکرد می نماید پیش از مشاهده هر برگه دیگری، نخست از فولدر robots.txt بازدید نماید و شیوه نامه های آن را دنبال کند. یک ربات بد، یک فولدر robots.txt را نادیده میگیرد یا این که آن را پردازش می نماید تا صفحه های اینترنت ممنوعه را پیدا کند. یک ربات خزنده اینترنت از دسته ی دستور کار ها در پوشه robots.txt تاسی می نماید.
پروتکل های مصرف شده در پوشه robots.txt کدامند؟
در کانال، از پروتکل های خاصی برای ارائه راهبرد ها یا این که اوامر استعمال میگردد. فولدر های Robots.txt از تعدادی پروتکل متفاوت به کار گیری می نمایند؛ پروتکل مهم Robots Exclusion Protocol اسم دارااست. این راهی میباشد برای اینکه به ربات ها بگویید از کدام صفحه ها اینترنت و منابع اجتناب نمایند. شیوه نامه های فرمت گردیده برای این پروتکل در پوشه robots.txt گنجانده گردیدهاست.
پروتکل دیگری که برای فولدر های robots.txt به کار گیری میشود، پروتکل Sitemaps میباشد. این را می اقتدار یک پروتکل برای گنجاندن ربات ها در حیث گرفت. نقشه های وبسایت به خزنده اینترنت آرم میدهند که در کدام صفحه ها میتوانند بخزند. این امداد می نماید تا باور نتایج گردد که یک ربات خزنده، هیچ کاغذ مهمی را از دست نخواهد بخشید.
این مقاله رو مطلقا مشاهده کنید:
یادگرفتن بدون نقص شیوه تایپ کردن رپورتاژ اطلاع رسانی با اعتنا به آخری به روز گوگل! 2021
چرا Robots.txt اساسی میباشد؟
چنانچه اینک متوجه شدید که فولدر Robots.txt چه میباشد و چهگونه عمل می نماید، به صورت حتم این پرسش هم برایتان اتفاق افتاده میباشد که آیا داشتن این پوشه برای وب سایت شما اساسی و ضروری میباشد یا این که نه؟
بایستی اعلامکرد که در حال حاضر اکثر وبسایت ها به پوشه robots.txt نیاز ندارند. به دلیل آن که گوگل معمولاً میتواند کل صفحه ها اصلی تارنما شمارا پیدا کرده و فهرست بندی نماید و آنان به صورت اتومات صفحاتی که ورژن های اصلی یا این که تکراری نیستند را ایندکس می نمایند. با این اکنون، یکسری استدلال مهم وجود دارااست که مایحتاج میباشد از پوشه robots.txt به کار گیری فرمائید:
مسدود کردن صفحه های غیر همگانی: گه گاه صفحاتی در وبسایت خویش دارید که نمیخواهید ایندکس شوند. مثلا، ممکن میباشد یک ورژن مرحله بندی از یک شیت داشته باشید یا این که یک برگه ورود برای این صفحه های می بایست وجود داشته باشند. البته شما نمیخواهید اشخاص تصادفی روی وارد این تارنما ها شوند و به آن های دسترسی پیدا کنند. دراین باره میتوانید از فولدر robots.txt برای مسدود کردن این صفحه ها از دسترس خزنده ها و ربات های موتور کاوش استعمال فرمائید.
به حداکثر رساندن دارایی خزیدن: درصورتیکه برای ایندکس کردن آحاد صفحه های خویش با اختلال مواجه می باشید، ممکن میباشد با اختلال میزان دارایی خزیدن مواجه گردید. با مسدود کردن صفحه ها بی اهمیت با robots.txt، Googlebot میتواند بیشتر میزان دارایی خزیدن شمارا صرف صفحاتی نماید که حقیقتاً اساسی می باشند.