Maschinelles Lernen: Symbolische Ansätze - WS 12/13

Inhalt

Durch die Entwicklung der Informationstechnologie sind immer größere Datenmengen verfügbar. Diese enthalten oft implizites Wissen, das, wenn es bekannt wäre, große wirtschaftliche oder wissenschaftliche Bedeutung hätte. Data Mining ist ein Forschungsgebiet, das sich mit der Suche nach potentiell nützlichem Wissen in großen Datenmengen beschäftigt, und Maschinelles Lernverfahren gehören zu den Schlüsseltechnologien innerhalb dieses Gebiets.

Die Vorlesung bietet eine Einführung in das Gebiet des Maschinellen Lernens unter dem besonderen Aspekt des Data Minings. Es werden Verfahren aus verschiedenen Paradigmen des Maschinellen Lernens mit exemplarischen Anwendungen vorgestellt. Um das Wissen zu operationalisieren, werden in den Übungen prak­tisch­e Erfahrungen mit Lernalgorithmen gesammelt.

• Organisatorisches [update 19.10.]
• Einführung (Grundbegriffe, Lernprobleme, Konzepte, Beispiele, Repräsentation) [update 19.10.]
• Regel-Lernen
  • Lernen einzelner Regeln (Generalisierung und Spezialisierung, Strukturierte Hypothesenräume, Version Spaces) [update 14.11., Korrekturen im Pseudo-Code zu FindG und FindGSet]
  • Lernen von Regel-Mengen (Covering Strategie, Evaluierungsmaße für Regeln, Pruning, Mehr-Klassenprobleme) [update 14.11.]
• Evaluierung und kosten-sensitives Lernen (Accuracy,X-Val,ROC-Kurven,Cost-Sensitive Learning) [update 28.11.]
• Instanzenbasiertes Lernen (kNN,IBL,NEAR,RISE) [update 11.12.]
• Entscheidungsbaum-Lernen (ID3, C4.5, etc.) [update 8.1.]
• Ensemble-Methoden (Bias/Variance, Bagging, Randomization, Boosting, Stacking, ECOCs)
• Pre-Processing (Feature Subset Selection, Diskretisierung, Sampling, Data Cleaning) [update 24.1., einige neue Folien]
• Clustering und Lernen von Assoziationsregeln (Apriori)

Übungen

In den Übungen erhalten Sie Aufgaben über den Vorlesungsstoff, oft alte Klausur-Aufgaben, die Sie selbst lösen sollen, und die dann in der folgenden Übungsstunde durchbesprochen werden.

1. Übung 0, 23.10.12: Übung 0
2. Übung 1, 30.10.12: Klassifikation [Muster Lösung]
   
3. Übung 2, 06.11.12: Einzelregeln [Muster Lösung]
4. Übung 3, 13.11.12: Version Spaces [Muster Lösung]
5. Übung 4, 20.11.12: Regellernen I [Muster Lösung] [update 20.11]
6. Übung 5, 27.11.12: Regellernen II [Muster Lösung]
7. Übung 6, 04.12.12:  Evaluierung [Muster Lösung]
8. Übung 7, 11.12.12: Instance-based learning  [Muster Lösung]
9. Übung 8, 18.11.12: Instance-based learning II [Muster Lösung]
10. Übung 9, 15.01.13: Decision Trees I [Muster Lösung]
11. Übung 10, 22.01.13: Decision Trees II [Muster Lösung]
12. Übung 11, 29.01.13: Ensembles [Muster Lösung]
13. Übung 12. 05.02.13: Preprocessing [Muster Lösung] [update 04.02]
14. Übung 13. 12.02.13: Assoziationsregeln [Muster Lösung] [update 11.02]

Klausur

Die Klausur wird am 19.2.2013 in Raum C205 von 10-12h stattfinden.

Alte Klausuren finden Sie hier, so wie hier. [update 13.2]

Projekt

Ziel des Projektes ist es, praktische Erfahrungen im Maschinellem Lernen zu sammeln. Hierzu sollen mehrere Projektaufgaben mit Hilfe des Machine Learning Frameworks Weka gelöst werden. Das Projekt kann allein bzw. in einer Kleingruppe (maximal 3 Studenten, Name + Matrikelnr. müssen in der Abgabe und Anmeldung ersichtlich sein) bearbeitet werden. Die Abgabe soll in einem üblichen Präsentationsformat (z.B. OpenOffice, PowerPoint oder PDF) erfolgen. Jede Gruppe muss zudem jeweils eine Aufgabe im Rahmen der Übung präsentieren. (ca. 5-10 min) Die Folien sollten allerdings  selbstredend, also auch ohne den dazugehörigen Vortrag verständlich sein. Senden Sie bitte ihre Anmeldung & Abgabe an diese E-Mail-Adresse: ml-projekt@ke.tu-darmstadt.de.

Das Projekt [update 03.12] besteht aus 9 Aufgaben. Benutzen Sie für die Bearbeitung die hier bereitgestellte Sammlung an Klassifikations- und Regressionsdatensätzen. Für die erfolgreiche Bearbeitung gibt es einen Bonus von bis zu 10 Klausurpunkten, allerdings nur bei bestandener Klausur.

Forum