對于搜索引擎來說，要抓取互聯(lián)網(wǎng)上所有的網(wǎng)頁幾乎是不可能的，從目前公布的數(shù)據(jù)來看，容量最大的搜索引擎也不過是抓取了全部網(wǎng)頁數(shù)量的40%左右。這其中的原因一方面是抓取技術(shù)的瓶頸，蜘蛛無法遍歷所有的網(wǎng)頁，有許多網(wǎng)頁無法從其他網(wǎng)頁的鏈接中找到；另一方面是存儲技術(shù)和處理技術(shù)的限制，如果按照每個頁面平均大小為20KB來計算（包含圖片），100億個網(wǎng)頁的容量就接近200000GB，即使能夠存儲如此龐大的數(shù)據(jù)量，其下載也是個問題（按照一臺機(jī)器每秒下載20KB來計算，需要240臺機(jī)器不停地下載一年的時間，才能把所有的網(wǎng)頁下載完畢）。
  同時，由于數(shù)據(jù)量太大，在提供搜索時也會有效率方面的影響。因此，許多搜索引擎的蜘蛛只抓取那些重要的網(wǎng)頁，而在抓取的時候評價重要性主要的依據(jù)是網(wǎng)頁的鏈接深度。在抓取網(wǎng)頁的時候，蜘蛛一般有兩種策略：廣度優(yōu)先和深度優(yōu)先。
  廣度優(yōu)先是指蜘蛛會先抓取起始網(wǎng)頁中鏈接的所有網(wǎng)頁，然后再選擇其中的一個鏈接網(wǎng)頁，繼續(xù)抓取在此網(wǎng)頁中鏈接的所有網(wǎng)頁。這是最常用的方式，因為這個方法可以讓蜘蛛并行處理，提高其抓取速度。深度優(yōu)先是指蜘蛛會從起始頁開始，一個鏈接一個鏈接地跟蹤下去，處理完這條線路之后再轉(zhuǎn)入下一個起始頁，繼續(xù)跟蹤鏈接。這種方法的優(yōu)點是蜘蛛在設(shè)計的時候比較容易。

  考慮到不可能抓取所有的網(wǎng)頁，有些蜘蛛對一些不太重要的網(wǎng)站設(shè)置了訪問的層數(shù)，如圖2-1所示。其中A為起始網(wǎng)頁，屬于第0層，B、C、D、E、F屬于第1層，G、H屬于第2層，I屬于第3層。如果蜘蛛設(shè)置的訪問層數(shù)為2的話，網(wǎng)頁I是不會被訪問到的。這使得有些網(wǎng)站上的一部分網(wǎng)頁在搜索引擎上能被搜索到，另外一部分則不能被搜索到。對于網(wǎng)站設(shè)計者來說，扁平化的網(wǎng)站結(jié)構(gòu)設(shè)計有助于搜索引擎抓取其更多的網(wǎng)頁。

  蜘蛛在訪問網(wǎng)站和網(wǎng)頁的時候，經(jīng)常會遇到加密數(shù)據(jù)和網(wǎng)頁權(quán)限的問題，有些網(wǎng)頁是需要會員權(quán)限才能訪問的。當(dāng)然，網(wǎng)站的所有者可以通過協(xié)議讓蜘蛛不進(jìn)行抓取，但對于一些出售報告的網(wǎng)站，它們希望搜索引擎能搜索到它們的報告，但又不能完全免費地讓搜索者查看，這樣就需要給蜘蛛提供相應(yīng)的用戶名和密碼。蜘蛛可以通過所給的權(quán)限對這些網(wǎng)頁進(jìn)行網(wǎng)頁抓取，從而提供搜索服務(wù)。而當(dāng)搜索者點擊查看該網(wǎng)頁的時候，同樣需要搜索者提供相應(yīng)的權(quán)限驗證。