影響蜘蛛抓取頁面的因素都有哪些

2020-03-29 14:45:02 編輯：永諾網(wǎng)絡(luò) 來源：本站原創(chuàng)

　　網(wǎng)站收錄與百度蜘蛛有著直接的關(guān)系，我們平時(shí)主要是通過主動(dòng)或被動(dòng)的方式來吸引百度蜘蛛抓取網(wǎng)站頁面。主動(dòng)的方式就是通過站長(zhǎng)平臺(tái)的鏈接提交工具或其它插件，來將自己網(wǎng)站新的內(nèi)容鏈接提交給搜索引擎。被動(dòng)的方式是靠搜索引擎蜘蛛自己來爬取，來的時(shí)間不一定。

　　據(jù)我們所知，百度蜘蛛有兩個(gè)目標(biāo)：一個(gè)是本網(wǎng)站生成的新網(wǎng)頁，另一個(gè)是百度之前已抓取但需要更新的網(wǎng)頁。

　　影響百度蜘蛛抓取網(wǎng)站頁面的因素有哪些

　　1、robots協(xié)議設(shè)置：網(wǎng)站上線后roblts協(xié)議文件是搜索引擎第一個(gè)查看的文件，如果不小心設(shè)置錯(cuò)誤禁止搜索引擎就會(huì)導(dǎo)致，搜索引擎蜘蛛無法抓取網(wǎng)站頁面。

　　2、內(nèi)容質(zhì)量

　　此外，網(wǎng)站內(nèi)容的質(zhì)量也非常重要。如果蜘蛛在我們的網(wǎng)站上抓取了100,000條內(nèi)容，并且只構(gòu)建了100條或更少的內(nèi)容，那么百度蜘蛛也會(huì)減少網(wǎng)站的抓取量。因?yàn)榘俣日J(rèn)為我們的網(wǎng)站質(zhì)量很差，所以沒有必要抓住更多。因此，我們特別提醒您在站點(diǎn)建設(shè)之初需要注意內(nèi)容的質(zhì)量，不要收集內(nèi)容。這對(duì)網(wǎng)站的發(fā)展有潛在的隱患。

　　3、服務(wù)器不穩(wěn)定：服務(wù)器不穩(wěn)定或者JS添加過多，就會(huì)導(dǎo)致網(wǎng)站加載速度變慢，甚至無法打開，嚴(yán)重影響用戶體驗(yàn)，這種情況也會(huì)影響百度蜘蛛抓取網(wǎng)站頁面的。

　　4、網(wǎng)站安全

　　對(duì)于中小型站點(diǎn)，由于缺乏安全技術(shù)意識(shí)和技術(shù)弱點(diǎn)，網(wǎng)站被篡改是很常見的。有幾種常見的黑客攻擊情況。一個(gè)是網(wǎng)站域名被黑客攻擊，另一個(gè)是標(biāo)題被篡改，另一個(gè)是頁面中添加了很多黑鏈。對(duì)于一般網(wǎng)站，域名被劫持，即域名設(shè)置為301跳轉(zhuǎn)，并跳轉(zhuǎn)到指定的垃圾郵件網(wǎng)站。如果百度發(fā)現(xiàn)這種跳躍，那么你網(wǎng)站的抓取就會(huì)減少，甚至?xí)p少懲罰。

　　5、網(wǎng)站響應(yīng)速度快

　?、倬W(wǎng)頁的大小將影響抓取。百度建議網(wǎng)頁的大小不到1M，當(dāng)然類似于新浪網(wǎng)這樣的大型門戶網(wǎng)站。

　?、诖a質(zhì)量，機(jī)器性能和帶寬。這些會(huì)影響抓取的質(zhì)量。不用說，代碼本身的質(zhì)量也根據(jù)程序執(zhí)行。您的代碼質(zhì)量差，難以閱讀。蜘蛛自然不會(huì)浪費(fèi)時(shí)間閱讀。機(jī)器性能和帶寬也是如此。服務(wù)器配置太差，帶寬不足會(huì)導(dǎo)致蜘蛛抓取網(wǎng)站，這將嚴(yán)重影響蜘蛛的熱情。

　　6、具有相同ip的網(wǎng)站數(shù)量

　　百度抓取是基于ip抓取的。例如，百度每天可以在ip上捕獲2000w頁面，并且該站點(diǎn)上有50W站點(diǎn)，因此將抓取平均站點(diǎn)數(shù)量。很少點(diǎn)。同時(shí)，你需要注意看同一個(gè)ip上是否有一個(gè)大站。如果有一個(gè)大站，那么分配很少的抓取數(shù)量將被大站帶走。

　　影響網(wǎng)站收錄的因素是各方面的，在查找原因的時(shí)候可采用排查法，一項(xiàng)一項(xiàng)的查找，只有查找到了原因才能提升網(wǎng)站收錄。同時(shí)提醒大家一點(diǎn)：搜索引擎的索引庫是分級(jí)別的，網(wǎng)站內(nèi)容被收錄后，如果內(nèi)容質(zhì)量度高就會(huì)進(jìn)入優(yōu)質(zhì)索引庫，并給于優(yōu)先展示，因此網(wǎng)站收錄并不是量大就是好。

本站文章均為永諾網(wǎng)站建設(shè)摘自權(quán)威資料，書籍，或網(wǎng)絡(luò)原創(chuàng)文章，如有版權(quán)糾紛或者違規(guī)問題，請(qǐng)即刻聯(lián)系我們刪除，我們歡迎您分享，引用和轉(zhuǎn)載，我們謝絕直接復(fù)制和抄襲！感謝...

返回首頁上一篇：百度搜索引擎計(jì)算的基本原理是什么下一篇：新網(wǎng)站如何優(yōu)化