Data Mining und Maschinelles Lernen (Maschinelles Lernen: Symbolische Ansätze) - WS 14/15

Inhalt

Durch die Entwicklung der Informationstechnologie sind immer größere Datenmengen verfügbar. Diese enthalten oft implizites Wissen, das, wenn es bekannt wäre, große wirtschaftliche oder wissenschaftliche Bedeutung hätte. Data Mining ist ein Forschungsgebiet, das sich mit der Suche nach potentiell nützlichem Wissen in großen Datenmengen beschäftigt, und Maschinelles Lernverfahren gehören zu den Schlüsseltechnologien innerhalb dieses Gebiets.

Die Vorlesung bietet eine Einführung in das Gebiet des Maschinellen Lernens unter dem besonderen Aspekt des Data Minings. Es werden Verfahren aus verschiedenen Paradigmen des Maschinellen Lernens mit exemplarischen Anwendungen vorgestellt. Um das Wissen zu operationalisieren, werden in den Übungen prak­tisch­e Erfahrungen mit Lernalgorithmen gesammelt.

• Organisatorisches
• Einführung (Grundbegriffe, Lernprobleme, Konzepte, Beispiele, Repräsentation)
• Regel-Lernen
  • Konzept-Lernen und Versionsräume (Generalisierung und Spezialisierung, Strukturierte Hypothesenräume, Version Spaces)
  • Lernen einzelner Regeln und Subgroup Discovery (Top-down Hill-Climbing, Beam Search, Coverage Space, Heuristiken, Predictive vs. Descriptive Data Mining)
    
  • Lernen von Regel-Mengen (Covering Strategie, Pruning, Mehr-Klassenprobleme)
• Evaluierung und kosten-sensitives Lernen (Accuracy,X-Val,ROC-Kurven,Cost-Sensitive Learning)
• Instanzenbasiertes Lernen (kNN,IBL,NEAR,RISE)
• Entscheidungsbaum-Lernen (ID3, C4.5, etc.) 
• Ensemble-Methoden (Bias/Variance, Bagging, Randomization, Boosting, Stacking, ECOCs)
• Pre-Processing (Feature Subset Selection, Diskretisierung, Sampling, Data Cleaning)
• Clustering und Lernen von Assoziationsregeln (Apriori)

Übungen

In den Übungen erhalten Sie Aufgaben über den Vorlesungsstoff, oft alte Klausur-Aufgaben, die Sie selbst lösen sollen, und die dann in der folgenden Übungsstunde durchbesprochen werden.

• Übung 0, 21.10.14: Organisatorisches
• Übung 1, 28.10.14: Klassifikation - Musterlösung
• Übung 2, 05.11.14: Einzel Regeln - Musterlösung
• Übung 3, 11.11.14: Version Spaces - Musterlösung
• Übung 4, 18.11.14: Regelmengen - Musterlösung
• Übung 5, 25.11.14: Heuristiken - Musterlösung
• Übung 6, 2.12.14: Evaluation - Musterlösung
• Übung 7, 9.12.14: Instanz-basiertes Lernen - Musterlösung
• Übung 8, 16.12.14: Instanz-basiertes Lernen II - Musterlösung
• Übung 9, 13.01.15: Entscheidungsbäume - Musterlösung
• Übung 10, 20.01.15: Entscheidungsbäume II - Musterlösung
• Übung 11, 27.01.15: Ensembles - Musterlösung
• Übung 12, 03.02.15: Preprocessing - Musterlösung
• Übung 13, 10.02.15: Assoziations Regeln - Musterlösung

Klausur

Die Klausur findet statt am Dienstag, dem 17.02.15 von 12:00-14:00 Uhr.

Erlaubte Unterlagen: Sie dürfen ein von Ihnen selbst doppelseitig handbeschriebenes DIN A4-Blatt zur Klausur mitbringen. Ausländische Studenten dürfen ein entsprechendes Wörterbuch mitbringen. Alle anderen Unterlagen, insbesondere Elektronische Hilfsmittel (Taschenrechner, Handy, elektronisches Wörterbuch, etc.) sind nicht erlaubt. Eine englische Übersetzung der Klausur wird bei Bedarf gestellt.

• WS 03/04
• WS 04/05
• WS 05/06 (Musterlösung)
• WS 06/07
• WS 10/11 (mit Musterlösung)

Projekt

Ziel des Projektes ist es, praktische Erfahrungen im Maschinellem Lernen zu sammeln. Hierzu sollen mehrere Projektaufgaben mit Hilfe des Machine Learning Frameworks Weka gelöst werden. Des weiteren folgt im späterem Verlauf eine Implementierungsaufgabe. Das Projekt kann allein bzw. in einer Kleingruppe (maximal 3 Studenten, Name + Matrikelnr. müssen in der Abgabe und Anmeldung ersichtlich sein) bearbeitet werden. Die Abgabe soll in einem üblichen Präsentationsformat (z.B. OpenOffice, PowerPoint oder PDF) erfolgen, sowie der Java-Quellcode für die Programmieraufgabe. Die Abgaben müssen bis spätestens 24:00 am Stichtag erfolgt sein.

Für einen Klausurbonus ist es nicht zwingend nötig alle Aufgaben zu bearbeiten. Bei Teilabgaben kann noch ein entsprechender Teilbonus erreicht werden. Das Implementationsprojekt umfasst etwa 1/3 der zu erreichenden Punkte. 

Senden Sie bitte ihre Anmeldung & Abgabe an diese E-Mail-Adresse: ml-projekt@ke.tu-darmstadt.de.

Dateien: Analyse Aufgaben, Datensätze, Implementations Aufgabe, Framework

Forum