robots是什么意思?robots.txt文件在哪？
Robots文件是什么意思?
Robots是站點與spider溝通的重要渠道，站點通過robots文件聲明本網(wǎng)站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。
搜索引擎使用spider程序自動訪問互聯(lián)網(wǎng)上的網(wǎng)頁并獲取網(wǎng)頁信息。spider在訪問一個網(wǎng)站時，會首先會檢查該網(wǎng)站的根域下是否有一個叫做 robots.
txt的純文本文件，這個文件用于指定spider在您網(wǎng)站上的抓取范圍。您可以在您的網(wǎng)站中創(chuàng)建一個robots.txt，在文件中聲明 該網(wǎng)站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。
僅當您的網(wǎng)站包含不希望被搜索引擎收錄的內(nèi)容時，才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容，請勿建立robots.txt文件。
robots.txt文件放在哪里?
robots.txt文件應該放置在網(wǎng)站根目錄下。舉例來說，當spider訪問一個網(wǎng)站（比如?http://www.abc.com）時，首先會檢查該網(wǎng)站中是否存在http://www.abc.com/robots.txt這個文件，如果?Spider找到這個文件，它就會根據(jù)這個文件的內(nèi)容，來確定它訪問權限的范圍。