網(wǎng)站優(yōu)化中如何巧妙地利用robots做好SEO？

近段時(shí)間小易分享網(wǎng)站優(yōu)化相關(guān)的教程相對(duì)較少了，主要還是最近接了幾個(gè)項(xiàng)目，人手有點(diǎn)不夠，導(dǎo)致每天沒有過多的時(shí)間。今天抽時(shí)間給大家聊聊網(wǎng)站優(yōu)化中關(guān)于robots文件的一些常見的疑問。

一、什么是robots，robots有什么用？

在講解robots之前先給大家介紹一下什么是robots。借用百度百科的解釋robots是網(wǎng)站跟爬蟲間的協(xié)議，用簡(jiǎn)單直接的txt格式文本方式告訴對(duì)應(yīng)的爬蟲被允許的權(quán)限，也就是說robots.txt是搜索引擎中訪問網(wǎng)站的時(shí)候要查看的第一個(gè)文件。當(dāng)一個(gè)搜索蜘蛛訪問一個(gè)站點(diǎn)時(shí)，它會(huì)首先檢查該站點(diǎn)根目錄下是否存在robots.txt，如果存在，搜索機(jī)器人就會(huì)按照該文件中的內(nèi)容來(lái)確定訪問的范圍；如果該文件不存在，所有的搜索蜘蛛將能夠訪問網(wǎng)站上所有沒有被口令保護(hù)的頁(yè)面。

用一句話來(lái)解釋：robots就是蜘蛛與網(wǎng)站的一種協(xié)議。

至于robots有什么用，相信認(rèn)真看上文的小伙伴還是有一定的收獲。冬鏡認(rèn)為合理的robots還是有以下幾方面的好處：

1、可以避免蜘蛛爬取收錄我們不想展現(xiàn)給別人看的頁(yè)面。例如網(wǎng)站后臺(tái)地址，個(gè)人隱私日志等。

2、可以減輕服務(wù)器壓力。我們通過robots協(xié)議可以讓蜘蛛只抓取一部分頁(yè)面，避免蜘蛛胡亂抓取一些沒用的頁(yè)面，占用服務(wù)器資源。

3、正確的robots協(xié)議會(huì)提升整站質(zhì)量，促使快速收錄排名，從而提高網(wǎng)站權(quán)重。

網(wǎng)站優(yōu)化中robots文件一定要放在根目錄嗎？

二、robots協(xié)議格式應(yīng)該怎么寫？

先給大家看一個(gè)最簡(jiǎn)單的robots文件的寫法：

User-agent: *

Disallow: /inc/

Allow: /uqseo

Sitemap: http://m.quandianying.cn/sitemap.xml

上文中User-agent代表的是搜索引擎蜘蛛的名字，一般常用的是*，代表通配，換句話說就是該協(xié)議對(duì)所有搜索引擎蜘蛛都有用；Disallow指不允許訪問的對(duì)象，比如某一個(gè)css、js、圖片、視頻、文件夾等，Disallow: /inc/代表的就是不允許搜索引擎蜘蛛爬行抓取inc文件夾下的所有文件；Allow指允許搜索引擎蜘蛛訪問的路徑，Allow: /uqseo代表的是帶有uqseo的文件或文件夾 ；Sitemap指本站的地圖，一般為.xml或.txt格式的地址，值得注意的是這里一定要寫絕對(duì)地址。

小提示：每個(gè)屬性的冒號(hào)是用英文冒號(hào)，冒號(hào)后面一定要空一格。

三、robots只能放在根目錄嗎？

小易可以明確地告訴你robots文件只能放在網(wǎng)站根目錄，關(guān)于這一點(diǎn)也是很好理解的，前文提過robots文件就是針對(duì)搜索引擎蜘蛛的一種協(xié)議（有些蜘蛛不一定會(huì)遵守），搜索引擎蜘蛛進(jìn)入網(wǎng)站都是先從網(wǎng)站根目錄，所以robots協(xié)議也只有在根目錄的時(shí)候才有效，而且需要注意的是robots文件的命名必須是robots.txt,只能用小寫字母。

四、robots協(xié)議的高級(jí)玩法

此玩法需要php+偽靜態(tài)或者php+路由來(lái)實(shí)現(xiàn)。前面講到robots里面除了禁止和運(yùn)行之外，還有一個(gè)十分重要的就是sitemap地圖，有時(shí)候我們網(wǎng)站的sitemap地圖很多時(shí)，如果全部寫到robots里面就會(huì)顯得十分臃腫，此時(shí)我們采用php控制輸出就能實(shí)現(xiàn)每次訪問robots顯示不同的地址，具體的就不為大家過多的演示了。

本文關(guān)鍵字：網(wǎng)站優(yōu)化、seo、robots文件