a亚洲精品_精品国产91乱码一区二区三区_亚洲精品在线免费观看视频_欧美日韩亚洲国产综合_久久久久久久久久久成人_在线区

首頁 > 編程 > C# > 正文

c# 抓取Web網(wǎng)頁數(shù)據(jù)分析

2020-01-24 03:47:22
字體:
供稿:網(wǎng)友
為了完成以上的需求,我們就需要模擬瀏覽器瀏覽網(wǎng)頁,得到頁面的數(shù)據(jù)在進(jìn)行分析,最后把分析的結(jié)構(gòu),即整理好的數(shù)據(jù)寫入數(shù)據(jù)庫。那么我們的思路就是:
  1、發(fā)送HttpRequest請求。
  2、接收HttpResponse返回的結(jié)果。得到特定頁面的html源文件。
  3、取出包含數(shù)據(jù)的那一部分源碼。
  4、根據(jù)html源碼生成HtmlDocument,循環(huán)取出數(shù)據(jù)。
  5、寫入數(shù)據(jù)庫。
程序如下:  
復(fù)制代碼 代碼如下:

//根據(jù)Url地址得到網(wǎng)頁的html源碼
private string GetWebContent(string Url)
{
string strResult="";
try
{
HttpWebRequest request = (HttpWebRequest)WebRequest.Create(Url);
    //聲明一個HttpWebRequest請求
request.Timeout = 30000;
//設(shè)置連接超時時間
request.Headers.Set("Pragma", "no-cache");
HttpWebResponse response = (HttpWebResponse)request.GetResponse();
Stream streamReceive = response.GetResponseStream();
Encoding encoding = Encoding.GetEncoding("GB2312");
StreamReader streamReader = new StreamReader(streamReceive, encoding);
strResult = streamReader.ReadToEnd();
}
catch
{
MessageBox.Show("出錯");
}
return strResult;
}
為了使用HttpWebRequest和HttpWebResponse,需填名字空間引用
  using System.Net;
以下是程序具體實現(xiàn)過程:
private void button1_Click(object sender, EventArgs e)
{
//要抓取的URL地址
string Url = "http://list.mp3.baidu.com/topso/mp3topsong.html?id=1#top2";
//得到指定Url的源碼
   string strWebContent = GetWebContent(Url);
richTextBox1.Text = strWebContent;
   //取出和數(shù)據(jù)有關(guān)的那段源碼
int iBodyStart = strWebContent.IndexOf("<body", 0);
int iStart = strWebContent.IndexOf("歌曲TOP500", iBodyStart);
int iTableStart = strWebContent.IndexOf("<table", iStart);
int iTableEnd = strWebContent.IndexOf("</table>", iTableStart);
string strWeb = strWebContent.Substring(iTableStart, iTableEnd - iTableStart + 8);
//生成HtmlDocument
   WebBrowser webb = new WebBrowser();
webb.Navigate("about:blank");
HtmlDocument htmldoc = webb.Document.OpenNew(true);
htmldoc.Write(strWeb);
HtmlElementCollection htmlTR = htmldoc.GetElementsByTagName("TR");
foreach (HtmlElement tr in htmlTR)
{
string strID = tr.GetElementsByTagName("TD")[0].InnerText;
string strName = SplitName(tr.GetElementsByTagName("TD")[1].InnerText, "MusicName");
string strSinger = SplitName(tr.GetElementsByTagName("TD")[1].InnerText, "Singer");
strID = strID.Replace(".", "");
//插入DataTable
AddLine(strID, strName, strSinger,"0");
string strID1 = tr.GetElementsByTagName("TD")[2].InnerText;
string strName1 = SplitName(tr.GetElementsByTagName("TD")[3].InnerText, "MusicName");
string strSinger1 = SplitName(tr.GetElementsByTagName("TD")[3].InnerText, "Singer");
//插入DataTable
strID1 = strID1.Replace(".", "");
AddLine(strID1, strName1, strSinger1,"0");
string strID2 = tr.GetElementsByTagName("TD")[4].InnerText;
string strName2 = SplitName(tr.GetElementsByTagName("TD")[5].InnerText, "MusicName");
string strSinger2 = SplitName(tr.GetElementsByTagName("TD")[5].InnerText, "Singer");
//插入DataTable
strID2 = strID2.Replace(".", "");
AddLine(strID2, strName2, strSinger2,"0");
}
//插入數(shù)據(jù)庫
InsertData(dt);
   
dataGridView1.DataSource = dt.DefaultView;
}
發(fā)表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發(fā)表
主站蜘蛛池模板: 羞羞视频在线观看入口 | 国产欧精精久久久久久久 | 亚洲第一区国产精品 | 91久久久久久久久久久 | 亚州av在线 | 日本久久久久 | 亚洲乱码国产乱码精品精 | 精品国产18久久久久久二百 | 久久综合爱 | 亚洲高清视频二区 | 国产aⅴ爽av久久久久 | 91亚洲国产成人久久精品网站 | 久久精品福利视频 | 亚洲天堂色2017| 天堂一区二区三区在线 | 玖玖玖视频 | 狠狠色噜噜狠狠狠狠69 | 欧美一区永久视频免费观看 | 中字一区| 在线日本看片免费人成视久网 | 黄色在线免费观看视频网站 | 亚洲国产精品第一区二区 | 久久久久亚洲av毛片大全 | 欧美亚洲伦理 | 欧美日韩精品一区二区 | 欧美一级二级视频 | www.久久久久久久久久久久 | 在线欧美视频 | 欧美中文在线观看 | 亚洲免费网站在线观看 | 欧美一级在线观看 | 中文字幕亚洲一区 | 国产精品永久在线 | 亚洲经典视频在线观看 | 亚洲午夜视频在线观看 | 中文字幕av一区二区 | 国产毛片在线 | 亚洲国产午夜 | 国产一区二区视频在线观看 | 日韩免费网站 | 香蕉在线视频免费 |