Internet Bot, atau biasa disebut bot/spider/crawler, adalah aplikasi piranti lunak yang menjalankan tugas tertentu secara otomatis pada internet. Secara umum bot menjalankan sebuah tugas sederhana yang dilakukan secara berulang dan terstruktur. Beberapa perusahaan web di dunia semacam google menggunakan bot untuk mengumpulkan informasi situs-situs yang berada di internet, agar dapat ditemukan pada aplikasi pencarian mereka. Namun ada beberapa yang menggunakan bot untuk kejahatan, seperti mengambil secara illegal (scrapping/crawler) konten website atau mengambil alamat e-mail guna tujuan spamming. Ada juga tipe bot yang digunakan untuk melakukan aksi DDOS, yang tentunya menghabiskan bandwidth dan merugikan pemilik website. Berikut adalah list bot yang sebaiknya diblokir, serta formatnya via .htaccess.
Yang perlu dilakukan hanya mengedit file .htaccess yang terletak pada direktori utama website (public_html) melalui file manager di cpanel (pastikan opsi “show hidden files” dipilih), dan masukkan kode .htaccess di atas.
Demikian artikel tentang list Bad Crawler/Bot dan penerapannya via .htaccess, semoga bermanfaat.
Sumber : http://blog.ardhosting.com/2013/06/24/hosting-list-bad-crawlerbot-dan-cara-memblokirnya-dari-htaccess/
Tidak ada komentar:
Posting Komentar