Seobers1.blogspot.com-Cara setting robot.txt Blogger SEO friendly. Dengan setting Robot.txt dan Tag Header Robot Khusus, yang berguna membantu perayapan dan pengindeksan blog di search engine. Selain dari itu, mengatur robot.txt dan tag header robot khusus juga merupakan suatu optimasi search engine atau yang dikenal dengan SEO. Bagaimana membuat Blog anda lebih SEO Friendly? Seobers sudah pernah menulis artikelnya di tips seo blog untuk pemula.
Perlu anda ketahui Robots.txt secara sederhana adalah sebuah konvensi untuk memerintah web crawler / robot mesin pencari untuk menelusuri atau mencegah semua halaman atau hanya beberapa halaman dari sebuah blog/ website. Misalnya ada halaman yang tidak ingin di index dan tampilkan kepada publik pada mesin pencari maka kita bisa memanfaatkan fungsi robot.txt ini untuk memblokir halaman tersebut.
Peringatan! Gunakan dengan hati-hati. Penggunaan yang tidak tepat dari fitur tersebut dapat mengakibatkan blog Anda diabaikan oleh mesin telusur.
Setting Robot.txt Blogger
Semua blog di blogspot sudah mempunyai robots.txt yang diberikan oleh blogger. Secara default robots.txt pada blog seperti dibawah ini:User-agent: Mediapartners-GoogleApa arti dari semua kode di atas? berikut adalah penjelasannya:
Disallow:
User-agent: *
Disallow: /search
Allow: /
Sitemap: http://namablog/feeds/posts/default?orderby=UPDATED
- User-agent: Mediapartners-Google ( user agent milik google menandakan bahwa blog ini adalah partner dari google )
- Disallow: ( Yang tidak diperbolehkan tidak ada )
- User-agent: * ( Semua robot Search Engine / mesin pencari )
- Disallow: /search ( Tidak diperbolehkan merayapi folder search dan setrusnya, seperti ..../search/label dan ... search/search?updated... )
- Allow: / ( Mengizinkan semua halaman untuk dirayapi, kecuali yang tertulis pada Disallow di atas. Tanda [ / ]kurang lebih artinya nama blog )
- Sitemap: http://namablog/feeds/posts/default?orderby=UPDATED ( sitemap atau alamat feed blog )
User-agent: Mediapartners-GoogleArti konfigurasi di atas adalah semua artikel dan halaman di blog anda akan di index robot webcraw karena pada kode Disallow semuanya di kosongkan. Untuk memecahkan masalah paginasi yang muncul di blogspot setelah kita menghapus /search pada kode Disallow: /search ( Disallow: /search : seperti ..../search/label dan ... search/search?updated...) untuk membolehkan robot crawler mengindex semua halaman, kita bisa meng editnya lagi menggunakan settingan robot text kedua dengan konfigurasi seperti berikut ini.
Disallow:
User-agent: *
Disallow:
Allow: /
Sitemap: http://urlanda.blogspot.com/feeds/posts/default?orderby=updated
User-agent: Mediapartners-GoogleKembali ke settingan default atau bawaan robot txt blogspot. Jika anda ingin memblokir halaman tertentu anda tinggal menambahakan url halaman yang ingin anda blokir di belakang Disallow. Contohnya untuk memblok robot di halaman misalnya halaman About, maka contoh penulisan robot.txt adalah seperti seperti berikut:
Disallow:
User-agent: *
Disallow: /search?updated-min=
Disallow: /search?updated-max=
Disallow: /search/label/*?updated-min=
Disallow: /search/label/*?updated-max=
Allow: /
Sitemap: http://urlanda.blogspot.com/feeds/posts/default?orderby=updated
User-agent: Mediapartners-GoogleNah berikut ini adalah Settingan robot.txt untuk mencegah duplikat konten atau judul di blog, khususnya duplikat konten yang terjadi karena website/blog diakses dari mobile phone mungkin anda dapat mencobah settingan robot txt ketiga dibawah ini :
Disallow:
User-agent: *
Disallow: /p/about.html
Allow: /
Sitemap: http://urlanda.blogspot.com/feeds/posts/default?orderby=updated
User-agent: Mediapartners-GoogleRECOMENDED :
Disallow:
User-agent: Googlebot
Disallow: /search
Disallow: /?m=1
Disallow: /?m=0
Disallow: /*?m=1
Disallow: /*?m=0
User-agent: *
Disallow: /search
Sitemap: http://sibers1.blogspot.com/feeds/posts/default?orderby=UPDATED
UPDATE!
Untuk Settingan Robot.txt yang ketiga silahkan digunakan untuk mengatasi duplikat halaman dan jangan digunakan bagi yang menginginkan situsnya mobile friendly karena jika kamu medisallow m=0 dan m=1 blogmu tidak lagi mobile friendly, hilangnya deskripsi potingan di pencaharian mobile, dan tentusaja akan berpengaruh pada peringkat blog anda di pencaharian Google. Karena sekarang sudah zamannya Mobilegeddon sebaiknya kamu lewati saja penggunaan robot txt yang ketiga.
Peringatan! Gunakan dengan hati-hati. Penggunaan yang tidak tepat dari fitur dibawah ini dapat mengakibatkan blog Anda diabaikan oleh mesin telusur.
Settingan Tag Header Robot Khusus
Setelan ► Preferensi Penelusuran ► Tag tajuk robot khusus ► Edit ► Pilih Ya
Sesuaikan seperti gambar dibawah ini
Settingan seperti di atas bertujuan untuk menginformasikan mesin pencari untuk mengindex semua isinya tetapi tetap tidak membolehkan User-agent Open Directory Project untuk mengcrawl semua isi blog dan juga tidak membolehkan untuk mengindex arsip blog.
Post Comment