一、百度搜索robots協(xié)議全新升級(jí)

9月11日，百度搜索robots全新升級(jí)。升級(jí)后robots將優(yōu)化對(duì)網(wǎng)站視頻URL收錄抓取情況。僅當(dāng)您的網(wǎng)站包含不希望被視頻搜索引擎收錄的內(nèi)容時(shí)，才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容，請(qǐng)勿建立robots.txt文件。

如您的網(wǎng)站未設(shè)置robots協(xié)議，百度搜索對(duì)網(wǎng)站視頻URL的收錄將包含視頻播放頁(yè)URL，及頁(yè)面中的視頻文件、視頻周邊文本等信息，搜索對(duì)已收錄的短視頻資源將對(duì)用戶呈現(xiàn)為視頻極速體驗(yàn)頁(yè)。此外，綜藝影視類長(zhǎng)視頻，搜索引擎僅收錄頁(yè)面URL。

二、網(wǎng)站誤封Robots該如何處理

robots文件是搜索生態(tài)中很重要的一個(gè)環(huán)節(jié)，同時(shí)也是一個(gè)很細(xì)節(jié)的環(huán)節(jié)。很多站長(zhǎng)同學(xué)在網(wǎng)站運(yùn)營(yíng)過(guò)程中，很容易忽視r(shí)obots文件的存在，進(jìn)行錯(cuò)誤覆蓋或者全部封禁robots，造成不必要損失！

那么如果誤操作封禁了robots怎么辦？今天我們請(qǐng)到了廈門某網(wǎng)站運(yùn)營(yíng)負(fù)責(zé)人，為我們分享網(wǎng)站robots誤封禁后該如何操作？

【案例背景】

網(wǎng)站開(kāi)發(fā)2.0版本，技術(shù)選擇了在線開(kāi)發(fā)，為了避免搜索引擎抓取開(kāi)發(fā)版本，要求技術(shù)人員設(shè)置了Robots封禁處理。2.0版本開(kāi)發(fā)周期1個(gè)月，1個(gè)月后網(wǎng)站版本迭代，直接覆蓋了1.0版本，包括Robots封禁文件，2天后發(fā)現(xiàn)流量大幅下降，檢查收錄發(fā)現(xiàn)800萬(wàn)收錄降至0條，關(guān)鍵詞大量掉線。

【處理方式】

1.修改Robots封禁為允許，然后到百度搜索資源后臺(tái)檢測(cè)并更新Robots。

2.在百度搜索資源后臺(tái)抓取檢測(cè)，此時(shí)顯示抓取失敗，沒(méi)關(guān)系，多點(diǎn)擊抓取幾次，觸發(fā)蜘蛛抓取站點(diǎn)。

3.在百度搜索資源后臺(tái)抓取頻次，申請(qǐng)抓取頻次上調(diào)。

4.百度反饋中心，反饋是因?yàn)檎`操作導(dǎo)致了這種情況的發(fā)生。

5.百度搜索資源后臺(tái)鏈接提交處，設(shè)置數(shù)據(jù)API推送（實(shí)時(shí)）。

6.更新sitemap網(wǎng)站地圖，重新提交百度，每天手動(dòng)提交一次。

以上處理完，接下來(lái)就是等待了，萬(wàn)幸，2天的時(shí)間數(shù)據(jù)開(kāi)始慢慢回升，到第3天基本回升到正常狀態(tài)！

【案例總結(jié)】

本次事故絕對(duì)是運(yùn)營(yíng)生涯的一次敗筆，總結(jié)反思一下，希望大家避免類似問(wèn)題。

1.產(chǎn)品開(kāi)發(fā)一定要避免在線開(kāi)發(fā)，不能為了省事不搭建開(kāi)發(fā)環(huán)境。

2.產(chǎn)品迭代要有流程記錄，開(kāi)發(fā)時(shí)做了那些設(shè)置處理，那些是不需要放出來(lái)的，那些是必須放出來(lái)的，要非常清楚。

3.要經(jīng)常關(guān)注百度搜索資源后臺(tái)，關(guān)注相關(guān)數(shù)據(jù)變化，從數(shù)據(jù)變化中及時(shí)發(fā)現(xiàn)問(wèn)題。