Maschinelles Lernen: Symbolische Ansätze - WS 13/14

Inhalt

Durch die Entwicklung der Informationstechnologie sind immer größere Datenmengen verfügbar. Diese enthalten oft implizites Wissen, das, wenn es bekannt wäre, große wirtschaftliche oder wissenschaftliche Bedeutung hätte. Data Mining ist ein Forschungsgebiet, das sich mit der Suche nach potentiell nützlichem Wissen in großen Datenmengen beschäftigt, und Maschinelles Lernverfahren gehören zu den Schlüsseltechnologien innerhalb dieses Gebiets.

Die Vorlesung bietet eine Einführung in das Gebiet des Maschinellen Lernens unter dem besonderen Aspekt des Data Minings. Es werden Verfahren aus verschiedenen Paradigmen des Maschinellen Lernens mit exemplarischen Anwendungen vorgestellt. Um das Wissen zu operationalisieren, werden in den Übungen prak­tisch­e Erfahrungen mit Lernalgorithmen gesammelt.

• Organisatorisches
• Einführung (Grundbegriffe, Lernprobleme, Konzepte, Beispiele, Repräsentation)
• Regel-Lernen
  • Lernen einzelner Regeln (Generalisierung und Spezialisierung, Strukturierte Hypothesenräume, Version Spaces)
  • Lernen von Regel-Mengen (Covering Strategie, Evaluierungsmaße für Regeln, Pruning, Mehr-Klassenprobleme)
• Evaluierung und kosten-sensitives Lernen (Accuracy,X-Val,ROC-Kurven,Cost-Sensitive Learning)
• Instanzenbasiertes Lernen (kNN,IBL,NEAR,RISE)
• Entscheidungsbaum-Lernen (ID3, C4.5, etc.) 
• Ensemble-Methoden (Bias/Variance, Bagging, Randomization, Boosting, Stacking, ECOCs)
• Pre-Processing (Feature Subset Selection, Diskretisierung, Sampling, Data Cleaning)
• Clustering und Lernen von Assoziationsregeln (Apriori)

Übungen

In den Übungen erhalten Sie Aufgaben über den Vorlesungsstoff, oft alte Klausur-Aufgaben, die Sie selbst lösen sollen, und die dann in der folgenden Übungsstunde durchbesprochen werden.

• Übung 0, 22.10.13: Organisatorisches
• Übung 1, 29.10.13: Klassifikation - Musterlösung
• Übung 2, 05.11.13: Einzel Regeln - Musterlösung
• Übung 3, 12.11.13: Version Spaces - Musterlösung
• Übung 4, 19.11.13: Separate and Conquer - Musterlösung [corrected: 27.01]
• Übung 5, 26.11.13: Regel Lernen - Musterlösung [corrected: 4.02]
• Übung 6, 03.11.13: Evaluation - Musterlösung
• Übung 7, 10.11.13: Nearest Neighbour [corrected: 10.12] - Musterlösung
• Übung 8, 14.01.14: RISE & KD-Trees - Musterlösung
• Übung 9, 21.01.14: Decision-Trees - Musterlösung
• Übung 10. 28.01.14: Regression-Trees - Musterlösung
• Übung 11. 04.02.14: Ensembles - Musterlösung
• Übung 12. 04/11.02.14: Preprocessing - Musterlösung
• Übung 13. 11.02.14: Apriori - Musterlösung

Klausur

Projekt

Ziel des Projektes ist es, praktische Erfahrungen im Maschinellem Lernen zu sammeln. Hierzu sollen mehrere Projektaufgaben mit Hilfe des Machine Learning Frameworks Weka gelöst werden. Das Projekt kann allein bzw. in einer Kleingruppe (maximal 3 Studenten, Name + Matrikelnr. müssen in der Abgabe und Anmeldung ersichtlich sein) bearbeitet werden. Die Abgabe soll in einem üblichen Präsentationsformat (z.B. OpenOffice, PowerPoint oder PDF) erfolgen. Jede Gruppe muss zudem jeweils eine Aufgabe im Rahmen der Übung präsentieren. (ca. 5-10 min) Die Folien sollten allerdings  selbstredend, also auch ohne den dazugehörigen Vortrag verständlich sein. Senden Sie bitte ihre Anmeldung & Abgabe an diese E-Mail-Adresse: ml-projekt@ke.tu-darmstadt.de.

Das Projekt besteht aus 9 Aufgaben. Benutzen Sie für die Bearbeitung die hier bereitgestellte Sammlung an Klassifikations- und Regressionsdatensätzen. Für die erfolgreiche Bearbeitung gibt es einen Bonus von bis zu 10 Klausurpunkten, allerdings nur bei bestandener Klausur.

Forum