一、網站層次結構
要利于蜘蛛爬行,首先得有一個清晰的層次結構。樹形結構是比較理想的網站結構,蜘蛛能夠很好的理解并爬行。采用首頁-索引頁-內容頁的形式有利于用戶在最短的時間內找到需求的信息。而且由于相關性極強的內容在同一欄目下,提高了聚合度,這樣更有利于蜘蛛的爬行整合。同時,樹形結構應該遵循層數盡可能少的原則。
二、網站導航、次導航、面包屑
網站導航是網站不可或缺的重要組成部分。采用統一的導航欄不僅有助于用戶體驗,更有助于蜘蛛識別。由于蜘蛛能有效識別并爬行css。因此,對于導航欄字體屬性是有效的。但切勿因為追求效果而采用js、ajax、inframe、flash等蜘蛛無法有效爬行的技術。次導航同樣可以使用font-weight屬性表明重要性,而面包屑導航也是必不可少的,要注意盡量避免使用url鏈接,而更多采用錨文本鏈接。
三、內容頁
新的內容應盡量出現在蜘蛛頻繁更新的地方。因此,內容頁應按ID或發布時間排序。而每篇內容頁應和其他頁面有效鏈接。