C#特別適合於構造蜘蛛程序，這是因為它已經內置了HTTP訪問和多線程的能力，而這兩種能力對於蜘蛛程序來說都是非常關鍵的。下面是構造一個蜘蛛程序要解決的關鍵問題：
⑴ HTML分析：需要某種Html解析器來分析蜘蛛程序遇到的每一個頁面。
⑵ 頁面處理：需要處理每一個下載得到的頁面。下載得到的內容可能要保存到磁盤，或者進一步分析處理。
⑶ 多線程：只有擁有多線程能力，蜘蛛程序才能真正做到高效。
⑷ 確定何時完成：不要小看這個問題，確定任務是否已經完成並不簡單，尤其是在多線程環境下。
一、Html解析
本文提供的HTML解析器由ParseHTML類實現，使用非常方便：首先創建該類的一個實例，然後將它的Source屬性設置為要解析的Html文檔：
ParseHTML parse = new ParseHtml();
parse.Source = "
Hello World
";
接下來就可以利用循環來檢查Html文檔包含的所有文本和標記。通常，檢查過程可以從一個測試Eof方法的while循環開始：
while(!parse.Eof())
{
char ch = parse.Parse();
Parse方法將返回HTML文檔包含的字符--它返回的內容只包含那些非HTML標記的字符，如果遇到了HTML標記，Parse方法將返回0值，表示現在遇到了一個Html標記。遇到一個標記之後，我們可以用GetTag()方法來處理它。
if(ch==0)
{
HtmlTag tag = parse.GetTag();
}
一般地，蜘蛛程序最重要的任務之一就是找出各個HREF屬性，這可以借助C#的索引功能完成。例如，下面的代碼將提取出HREF屬性的值（如果存在的話）。
Attribute href = tag["HREF"];
string link = href.Value;
獲得Attribute對象之後，通過Attribute.Value可以得到該屬性的值。
二、處理Html頁面
下面來看看如何處理HTML頁面。首先要做的當然是下載Html頁面，這可以通過C#提供的HttpWebRequest類實現：
HttpWebRequest request = (HttpWebRequest)WebRequest.Create(m_uri);
response = request.GetResponse();
stream = response.GetResponseStream();
接下來我們就從request創建一個stream流。在執行其他處理之前，我們要先確定該文件是二進制文件還是文本文件，不同的文件類型處理方式也不同。下面的代碼確定該文件是否為二進制文件。
if( !response.ContentType.ToLower().StartsWith("text/") )
{
SaveBinaryFile(response);
return null;
}
string buffer = "",line;
如果該文件不是文本文件，我們將它作為二進制文件讀入。如果是文本文件，首先從stream創建一個StreamReader，然後將文本文件的內容一行一行加入緩沖區。
reader = new StreamReader(stream);
while( (line = reader.ReadLine())!=null )
{
buffer+=line+"rn";
}
裝入整個文件之後，接著就要把它保存為文本文件。
SaveTextFile(buffer);
