基于數(shù)據(jù)流挖掘的網頁熱門主題獲取技術研究.pdf

1、隨著網絡的迅速發(fā)展，輿情研究面臨著新的問題和挑戰(zhàn)。網絡輿論提供了一個更為全面更為集中的民意反映，且由于其匿名性等特點，能更真實地反映大多數(shù)民眾對事件的看法。
　　對網絡輿論進行研究，需要收集網絡上發(fā)布的信息并對其進行挖掘，屬于Web挖掘的研究范圍。Web挖掘是以從Web上挖掘有用知識為目標，以數(shù)據(jù)挖掘、文本挖掘、多媒體挖掘為基礎，綜合運用計算機網絡、數(shù)據(jù)庫與數(shù)據(jù)倉庫、人工智能、信息檢索、可視化、自然語言處理等技術，將傳統(tǒng)的數(shù)據(jù)挖掘

2、技術與Web結合起來的一門新興學科。傳統(tǒng)的分類方法根據(jù)挖掘對象的不同將Web挖掘分為三類：Web內容挖掘、Web結構挖掘和Web使用記錄挖掘。為了能夠更容易地對應用進行分類，本文介紹并完善了一種從應用的角度出發(fā)的分類方法。該方法將Web挖掘分為基于生產者的挖掘，基于消費者的挖掘和基于增值服務提供者的挖掘，文中進行了詳細的介紹。
　　通過對用戶所頻繁訪問的網頁主題進行研究，可以了解一段時間內用戶關心的事件，掌握輿情的動向。針對這一需

3、求，本文對實際的網頁傳輸過程進行了研究，總結了網頁傳輸?shù)奶攸c，并針對這些特點對網頁的URL的提取及網頁的主題的提取進行了相應的處理。
　　網絡流量中提取出的主題流可以看作是一個無限的數(shù)據(jù)流，統(tǒng)計其中頻繁出現(xiàn)的主題可看作是數(shù)據(jù)流的頻繁項挖掘問題。由于內存的限制，進行頻繁項統(tǒng)計時所使用的算法需要具備只掃描一遍即可發(fā)現(xiàn)頻繁項和低空間開銷及低時間開銷的特點。改進的LC算法提出了一種不同于原算法的數(shù)據(jù)結構和處理流程，進一步減少了算法的時間開

4、銷，能夠滿足處理要求。為使改進算法能夠適用于輸入數(shù)據(jù)為相似字符串的情況，增加了對輸入數(shù)據(jù)的處理。
　　基于以上理論基礎，本文最后實現(xiàn)了一個基于數(shù)據(jù)流挖掘的網頁熱門主題的獲取系統(tǒng)，屬于基于增值服務提供者的Web挖掘應用。該系統(tǒng)對局域網出入口的網絡流量進行捕獲，過濾出其中的HTTP連接，記錄網頁的URL和標題等信息，采用改進的LC算法對頻繁出現(xiàn)的主題類進行統(tǒng)計，并將頻繁出現(xiàn)的主題類提交給用戶。對該系統(tǒng)進行的實測實驗表明，系統(tǒng)能夠發(fā)現(xiàn)主