Robots.txt Nedir, Nasıl Oluşturulur?

1 2 3 4 5 6 7
javascript slider by WOWSlider.com v9.0
EN SON MESAJLAR
Son Mesajlar
Konu Tarih, Zaman  Yazar Son Yorum
    Windows Xp Sp3 İndir Türkçe İso Full 11-13, 15:26 ERKAN
  AMD Radeon HD 7600M driver Windows 10 ... 10-26, 20:47 ERKAN yusufturker1905
  PDF'yi JPG'ye nasıl dönüştürebilirsini... 10-26, 01:20 ERKAN ERKAN
  Kwai Video İndir Filigransız 10-18, 08:34 ERKAN ERKAN
  Xiaomi Redmi Note 10 Pro Nasıl Bir Tel... 02-19, 00:16 ERKAN ERKAN
  Fotoğraf kurtarma yazılımı ile silinen... 11-14, 00:13 ERKAN ERKAN
  Twitter Video İndirme Nasıl Yapılır 10-10, 00:22 ERKAN ERKAN
    windows 7 orjinal yapma 2021 09-19, 12:30 ERKAN
  Telefon'da En Çok Kullanılan Uygulamal... 08-30, 15:04 ERKAN ERKAN
  Windows 11'de Görev Çubuğu Simge boyut... 08-28, 11:29 ERKAN ERKAN
  Windows 11 Android Uygulama Çalıştırma... 08-09, 23:59 ERKAN ERKAN
En Çok Görüntülenen Konular
  Windows 10 21h1 ful... 240306
  Windows 10 Etkinleş... 142956
  windows 7 orjinal y... 78498
  Windows Xp Sp3 İndi... 37444
  Windows 7 Ultimate ... 24424
  Whatsapp son güncel... 22163
  Samsung easy settin... 20023
  AMD Radeon HD 7600M... 18440
  Gizlilik Politikası 17590
  ManyCam Pro - 2015 ... 14948
  Windows 10 Pro DVD ... 14566
  Quantum Break Pc Fu... 14272
Yeni Üyeler
meteor28 11-16
yusufturker1905 10-24
Uenal15 09-24
çamlıca-fm 09-19
omur 05-12
muammero447 05-05
cryptopunk 04-26
nedenki 03-29
yokki 03-21
altancan74 03-07
ahmetbademci333 02-26
zspor3 01-13

Şuan Tarih: 31-01-2023, Saat: 17:38
Konuyu Değerlendir
  • 1 Oy - 1 Ortalama
  • 1
  • 2
  • 3
  • 4
  • 5
Robots.txt Nedir, Nasıl Oluşturulur?
#1
Arama motorlarının web sitemizi nasıl algılayacağı yönünde bir nevi klavuz metni olan Robots.txt dosyası hakkında merak edilen önemli bilgilere ışık tutmaya çalıştık.

Robots.txt Nedir, Ne İşe Yarar?
 
 
Uzantısından da anlaşılacağı üzere düz bir metin dosyasıdır. Arama motorlarının robotlarının (diğer bir ifadeyle spider, yani "örümcek") web sitemizi tararken nasıl davranacağı konusunda yol gösteren bir yönlendirici gibi düşünebilir. Arama motorları web sitemizdeki verileri veribankasına ekleyerek internet dünyasında çeşitli bilgilere erişmek için anahtar kelimelerle sorgu yapan kullanıcılara sunar. Hal böyle iken web site sahipleri de içeriklerinin arama motorlarında ne denli görünüp, görünmeyeceğini ve ne şekilde yer alacağını belirlemek ister. Bu noktada Robots.txt dosyasının önemi büyüktür.

Robots.txt Nasıl Düzenlenir?

Öncelikle Robots.txt dosyasının konumuna dikkat etmek gerekiyor. Robots.txt dosyası mutlaka ana dizinimizde bulunmalıdır, başka bir ifadeyle örneğin teknolojiprogramlari.com/robots.txt şeklinde bir yola sahip olmalıdır. Haliyle robots.txt dosyası oluştururken public_html/ veya htdocs/ dizini içerisinde var olduğuna dikkat etmek gerekiyor.

[Resim: robots-txt-nedir-nasil-olusturulur.webp]


Web sitemizin arama motorlarında yer bulması elbette en arzu edilesi durumdur. Fakat geliştirme aşamasında olduğumuz bir web sayfasının düzensiz şekliyle arama motorlarında yer almasını istemeyiz. 

Robots.txt dosyası yardımıyla web sitemizin tamamının veya bir kısmının arama motorlarında yer alıp almayacağını belirtebiliriz. 

User-agent Komutu:
Hangi arama motorlarının sitemizi ziyaret edip/etmemesi gerektiği konusunda yardımcı olan komuttur. Bizim tavsiyemiz sitenizi tüm arama motorlarının erişimine açmanız yönündedir. Haliyle * operatörü kullanarak şöyle bir söz dizimi yazmak gereklidir.

user-agent: * 
Disallow Komutu:
Arama motorlarının hangi dosyayı ve dizini indekslememesi yönünde komut verebileceğimiz bir yardımcıdır. Örneklerle anlaşılır kılalım.
Örneğin admin dizininin güvenlik gerekçesiyle arama motorlarında yer almasını istemiyorsak uygulayacağımız söz dizimi şöyle olmalıdır.

Disallow: /admin/
Sadece admin dizini içindeki sifre_degistir.html dosyasının arama motorlarında yer almasını istemiyorsak;
Disallow: /admin/sifre_degistir.html
Web sitemizin bütünüyle arama motorlarında yer almasını istemiyorsak;
Disallow: /

Sitemap Komutu:
Bu komut ile arama motorlarının örümceklerine web sitemizin detaylı bir iç klavuzu olan site haritamızın yolunu göstermiş oluruz.



AŞAGIDAKİ İMZANIN SAHİBİ OLAN ÜYEMİZ Anket ERKAN
[Resim: facebook.jpg] [Resim: pinterest.jpg][Resim: instagram.jpg] [Resim: twitter.jpg][Resim: youtube.jpg]
Teşekkür Edenler:
Bul
Alıntı


Foruma Git:


Şuan Bu Sayfayı Okuyan Kullanıcılar: 1 Ziyaretçi