1、網站針對爬蟲爬取做的優化,直接將圖片二進制內容放到了html中導致頁面長度過長,網站頁面長度達164k;
2、 站點優化后將主體內容放于最后,圖片卻放于前面;
3、爬蟲抓取內容后,頁面內容過長被截斷,已抓取部分無法識別到主體內容,最終導致頁面被認定為空短而不收錄。
工程師建議:
1、不建議站點使用js生成主體內容,如js渲染出錯,很可能導致頁面內容讀取錯誤,頁面無法抓取
2、 如站點針對爬蟲爬取做優化,建議頁面長度在128k之內,不要過長
3、針對爬蟲爬取做優化,請將主體內容放于前方,避免抓取截斷造成的內容抓取不全
其實這個問題,一般網站都不會出現,只是極少數網站會采用如此不合理的頁面優化方式。不過也給廣大網站提了個醒,在平時優化網站時,頁面長度也是衡量一個頁面質量能否被收錄的主要因素之一。
評論(0人參與,0條評論)
發布評論
最新評論