有一些內(nèi)容質(zhì)量高的網(wǎng)頁,用戶可以正常訪問,但百度pider無法正常訪問和抓取,導(dǎo)致搜索結(jié)果覆蓋率不足,給百度搜索引擎和網(wǎng)站帶來損失。百度稱這種情況為“搶占例外”。
百度搜索引擎會(huì)考慮大量內(nèi)容無法正常獲取的網(wǎng)站在用戶體驗(yàn)上存在缺陷,降低對(duì)網(wǎng)站的評(píng)價(jià)。在抓取、索引和排序方面,百度搜索引擎將受到一定程度的負(fù)面影響,終影響到網(wǎng)站從百度獲得的流量。
以下描述了對(duì)站長異常抓取的一些常見原因:
服務(wù)器連接異常有兩種情況:(1)網(wǎng)站不穩(wěn)定,百度spider在嘗試連接時(shí)暫時(shí)無法連接到您網(wǎng)站的服務(wù)器;(2)百度spider一直無法連接到您網(wǎng)站的服務(wù)器。
1、服務(wù)器連接異常的原因通常是您的網(wǎng)站服務(wù)器太大和過載。您的網(wǎng)站也可能運(yùn)行不正常。請(qǐng)檢查網(wǎng)站的web服務(wù)器(如Apache、IIS)是否正常安裝和運(yùn)行,并使用瀏覽器檢查主頁面是否可以正常訪問。您的網(wǎng)站和主機(jī)也可能會(huì)阻止Baiduspider的訪問。你需要檢查網(wǎng)站和主機(jī)的防火墻。
2、網(wǎng)絡(luò)運(yùn)營商例外:網(wǎng)絡(luò)運(yùn)營商分為電信和聯(lián)通兩類。百度spider無法通過電信或網(wǎng)通訪問您的網(wǎng)站。如果發(fā)生這種情況,您需要聯(lián)系網(wǎng)絡(luò)服務(wù)提供商,或購買空間與二線服務(wù)或CDN服務(wù)。
3、DNS異常:當(dāng)Baiduspider無法解析您網(wǎng)站的IP地址時(shí),將出現(xiàn)DNS異常??赡苁悄W(wǎng)站的IP地址有誤,或者域名服務(wù)商已經(jīng)禁止了Baiduspider。請(qǐng)使用whois或host檢查您網(wǎng)站的IP地址是否正確和可解析。如果沒有,請(qǐng)聯(lián)系域名注冊(cè)商更新您的IP地址。
4、IP阻塞:IP阻塞是限制網(wǎng)絡(luò)的導(dǎo)出IP地址,禁止該IP段的用戶訪問內(nèi)容。這里,它具體指的是百度piderip的屏蔽。此設(shè)置僅在您的網(wǎng)站不希望百度pider訪問時(shí)才需要。如果您希望百度pider訪問您的網(wǎng)站,請(qǐng)檢查百度spider IP是否錯(cuò)誤地添加到相關(guān)設(shè)置中。你的網(wǎng)站所在的空間服務(wù)提供商也有可能禁止百度IP。此時(shí),您需要聯(lián)系服務(wù)提供商以更改設(shè)置。
5、UA阻塞:UA是用戶代理。服務(wù)器通過UA識(shí)別訪客的身份。當(dāng)一個(gè)網(wǎng)站訪問一個(gè)指定的UA并返回一個(gè)異常頁面(如403500)或跳轉(zhuǎn)到另一個(gè)頁面時(shí),稱為UA阻塞。此設(shè)置僅在您不希望Baiduspider訪問您的網(wǎng)站時(shí)才需要。如果你想百度訪問你的網(wǎng)站,是否有百度在用戶代理相關(guān)設(shè)置并及時(shí)修改它。
百度蜘蛛抓取異常問題
6、死鏈:頁面無效,不能向用戶提供任何有價(jià)值信息的頁面為死鏈,包括協(xié)議死鏈和內(nèi)容死鏈。
協(xié)議死鏈:頁面的TCP協(xié)議狀態(tài)/HTTP協(xié)議狀態(tài)清楚地表示出死鏈,如404、403、503狀態(tài)等。
內(nèi)容死鏈:服務(wù)器返回的狀態(tài)是正常的,但內(nèi)容已被更改為不存在的、已被刪除或需要權(quán)限的信息頁,與原始內(nèi)容無關(guān)。
對(duì)于死鏈,我們建議網(wǎng)站使用協(xié)議死鏈,通過百度站長平臺(tái)死鏈工具提交給百度,這樣百度可以更快地找到死鏈,減少死鏈對(duì)用戶和搜索引擎的負(fù)面影響。
7、異常跳轉(zhuǎn):跳轉(zhuǎn)是將網(wǎng)絡(luò)請(qǐng)求重定向到另一個(gè)位置。異常跳轉(zhuǎn)指以下情況:
1)當(dāng)前頁面為無效頁面(內(nèi)容已被刪除、死鏈等),直接跳轉(zhuǎn)到上一個(gè)目錄或首頁,百度建議站長刪除無效頁面的入口超鏈接
注:如果長期跳轉(zhuǎn)到其他域名,如在網(wǎng)站上更改域名,百度建議使用301跳轉(zhuǎn)協(xié)議進(jìn)行設(shè)置。
8、其他網(wǎng)站異常原因:
1)對(duì)于百度推薦人的例外情況:網(wǎng)頁返回與百度推薦人正常內(nèi)容不同的行為。
2)對(duì)于百度UA的例外情況:返回百度UA的網(wǎng)頁行為與頁面的原始內(nèi)容不同。
3)JS跳轉(zhuǎn)異常:網(wǎng)頁加載了百度無法識(shí)別的JS跳轉(zhuǎn)代碼,用戶通過搜索結(jié)果進(jìn)入網(wǎng)頁后跳轉(zhuǎn)。
4)壓力過大造成的意外阻塞:百度會(huì)根據(jù)網(wǎng)站規(guī)模、訪問量等信息,自動(dòng)設(shè)置合理的壓力進(jìn)行抓取。但在壓力控制異常等異常情況下,服務(wù)器會(huì)根據(jù)自身負(fù)載進(jìn)行保護(hù)意外閉鎖。在這種情況下,請(qǐng)?jiān)诜祷卮a中返回503(意思是“服務(wù)不可用”),以便百度spider在一段時(shí)間內(nèi)再次嘗試獲取鏈接。如果該網(wǎng)站處于空閑狀態(tài),則將成功獲取該網(wǎng)站。