Web Mining

Data Mining im Internet

LVA 20-00-0101-iv im Vorlesungsverzeichnis der TU Darmstadt, SS 11. Zur Übungsseite.

Die Klausurergebnisse stehen fest! Die Noten können auf dem Aushang vor Raum S2|02 D203, im Tucan-System oder ausführlicher im WebReg eingesehen werden. Die Noten im Tucan müssen allerdings noch vom Prüfungssekretariat freigegeben werden.

Die Klausureinsicht findet am Dienstag, den 13.09.2011, von 10:30 bis 12:00 Uhr in S2|02 E202 statt.

Übersicht

Das World-Wide Web verschafft jedem Internet-User Zugang zu einer stetig wachsenden Informationsfülle, die ohne entsprechende Unterstützung nicht mehr zu überschauen ist. Web Mining ist eine junge Forschungsrichtung, die versucht, das Problem mit Hilfe von Techniken des Maschinellen Lernens und Data Minings in den Griff zu bekommen. In dieser Vorlesung werden sowohl Grundlagen von Information Retrieval und Text Classification vermittelt, als auch auf die Ausnutzung der Besonderheiten von Web-Dokumenten (d.h., ihre Strukturierung und ihre Vernetzung) eingegangen.

Anrechnung

Diese Vorlesung ist im Diplomstudium Informatik dem Bereich 3 (Anwendungsorientierte Informatik) bzw. im Masterstudium Informatik dem Bereich Data and Knowledge Engineering zugeordnet. Im Bachelorstudium ist sie eine Wahlpflichtveranstaltung. Die Vorlesung ist Pflicht im Masterstudiengang Internet- und Web-basierte Systeme. Die Veranstaltung wird mit 4 SWS / 6 CP angerechnet.

Übungen

In den Übungen werden die Studenten praktische Implementierungen einiger der in der Vorlesung behandelten Techniken erstellen bzw. mit existierenden Systemen arbeiten. Die Teilnahme an den Übungen ist optional, es können aber Bonuspunkte für die Klausur erworben werden, allerdings nur bei Bestehen der Klausur.

Allgemeine Informationen zu den Übungen und die Aufgaben finden Sie auf der Übungsseite. Alles Weitere wird in den Veranstaltungen mitgeteilt oder an dieser Stelle bekannt gegeben.

Zeitplan

Übungstermin ist alle 2 Wochen am Dienstag, Vorlesungen können (aufgrund von Feiertagen und anderer Terminkonflikte) sowohl am Donnerstag als auch am Dienstag stattfinden. Die Veranstaltungen findet jeweils um 12:35 Uhr in Raum S202/C205 statt.

Die vorläufige Planung ist folgende:

Forum

Für diese Veranstaltung existiert bei der Fachschaft ein Forum.

Klausur

Zur Prüfung bitte fristgerecht über TUCaN anmelden. Diplomstudenten bitte per Email an unser Sekretariat mit Angabe von Name, Matrikelnummer und Studienrichtung anmelden.

Die Klausur findet am 21.7.2010 um 11:45 Uhr in Raum C205 statt. Die Bearbeitungszeit beträgt 90 Minuten. Als Hilfsmittel ist ein handbeschriebenes DIN A4 Blatt (Vorder- und Rückseite) erlaubt.

Alte Klausuren:

Topics & Slides:

Momentan verlinkt sind die Folien der letzten Veranstaltung, die auch dieses Jahr die Basis der Vorlesung bilden werden. Gegenfalls werden die Folien jedoch im einigen Punkten angepaßt oder ergänzt. Die modifizierten Version werden dann die alten Versionen ersetzen (spätestens nach der jeweiligen Vorlesung).

Introduction (last update: 16.6.2011)
- Web Mining Overview
- The Web, HTTP, HTML, DOM, XPath
- Data Mining Overview
- Structured, Semi-Structured and Unstructured Data
- Sample Web Mining Tasks
Information Retrieval on the Web (last update: 16.6.2011)
- search engines & web crawlers
- document indexing
- the vector space model
- inverted index
- performance measures (recall & precision)
- relevance feedback
- estimating the size of the web
Text Mining
- text classification (last update: 16.6.2011)
  - document representation
  - induction of classifiers (k-NN, Naive Bayes, SVMs, Rule Learners)
  - Overfitting Avoidance
  - Evaluation of Classifiers
  - Multi-Label Classification
- feature engineering (last update: 16.6.2011)
  - stop words
  - feature subset selection
  - n-grams
  - stemming
  - phrases
  - latent semantic indexing
- semi- and unsupervised learning
  - clustering (k-means, bottom-up agglomerative)
  - semi-supervised learning (active learning, self-training, co-training)
Structure mining (last update: 21.6.2011)
- the Web as a graph
- hyperlink-based relevance ranking (hubs and authorities, page rank)
- hypertext classification (Naive Method, HyperClass, hyperlink ensembles)
Information Extraction & Wrapper Induction (last update: 16.6.2011)
- conventional information extraction (AutoSlog)
- structured text (LR-Wrappers)
- semi-structured text (SoftMealy, WHISK, SRV, RAPIER)
Web Usage Mining
- recommender systems
- memory-based collaborative filtering
- model-based collaborative filtering
- web log mining

Text Books

Ein Großteil des Materials, das in der Vorlesung behandelt wird (und viel mehr), wird in diesem Buch abgedeckt: Soumen Chakrabarti: Mining the Web - Discovering Knowledge from Hypertext Data. Morgan Kaufmann Publishers, 2003. Das Buch kann bei google books eingesehen werden. Folien zu dem Buch gibt es hier.
Einige Teile der Vorlesung werden sich auch an diesem Buch orientieren: Christopher D. Manning, P. Raghavan and H. Schütze, Introduction to Information Retrieval, Cambridge University Press. 2008. Sowohl das Buch selbst als auch Folien zu dem Buch können auf der Buch-Homepage runtergeladen werden.

Additional Readings

Zusätzliche Informationen finden sich in folgenden Resourcen:

General Overviews:
- Soumen Chakrabarti, Data Mining for Hypertext: A Tutorial Survey. ACM SIGKDD explorations 1(2):1-11, January 2000.
- Johannes Fürnkranz, Web Mining, Draft book chapter, 2004.
Graph Properties of the Web:
- A. Broder, F. Maghoul, R. Kumar, P. Raghavan, S. Rajagopalan, R. Stata, A. Tomkins, and J. Wiener. Graph structure in the Web. Computer Networks, 33(1-6):309--320, 2000. Special Issue Proceedings 9th International World Wide Web Conference (WWW9)
Search Engines:
- http://www.searchenginewatch.com/resources/
Text Mining:
- Fabrizio Sebastiani, Machine learning in automated text categorization. ACM Computing Surveys, 34(1):1-47, 2002.
Feature Engineering
- Yiming Yang, Jan O. Pedersen: A Comparative Study on Feature Selection in Text Categorization. Proceedings of the International Conference on Machine Learning (ICML-97), pp. 412-420, 1997.
Hypertext Categorization

Soumen Chakrabarti, Byron E. Dom, and Piotr Indyk. Enhanced Hypertext Categorization using Hyperlinks. In Proceedings of ACM SIGMOD-98, 1998.
Johannes Fürnkranz: Hyperlink Ensembles: A Case Study in Hypertext Classification. Information Fusion 3(4):299-312, December 2002, Special Issue on Fusion of Multiple Classifiers.

Information Extraction:
- Line Eikvil, Information Extraction from World Wide Web - A Survey. Technical Report 945, Norwegian Computing Center, July 1999.
Web Usage Mining:
- J. Srivastava, R. Cooley, M.Deshpande, P.Tan, Web usage mining: discovery and applications of web usage patterns from web data. ACM SIGKDD explorations 1(2):12-23, January 2000.
Recommender Systems:
- John S. Breese and David Heckerman and Carl Kadie, Empirical Analysis of Predictive Algorithms for Collaborative Filtering, Proceedings of the 14th Conference on Uncertainty in Artificial Intelligence (UAI-98), pp. 43-52, 1998.
Software:
- Rainbow (text classification system)

Kontakt

Johannes Fürnkranz, Eneldo Loza Mencía