Maschinelles Ler­nen: Sym­bol­is­che Ansätze - WS 12/13

In­halt

Durch die En­twick­lung der In­for­ma­tion­stech­nolo­gie sind immer größere Daten­men­gen verfügbar.​ Diese en­thal­ten oft im­plizites Wis­sen, das, wenn es bekan­nt wäre, große wirtschaftliche oder wis­senschaftliche Be­deu­tung hätte.​ Data Min­ing ist ein Forschungs­ge­bi­et, das sich mit der Suche nach po­ten­tiell nützlichem Wis­sen in großen Daten­men­gen beschäftigt, und Maschinelles Lern­ver­fahren gehören zu den Schlüssel­tech­nolo­gien in­ner­halb dieses Ge­bi­ets.

Die Vor­lesung bi­etet eine Einführung in das Ge­bi­et des Maschinellen Ler­nens unter dem beson­deren As­pekt des Data Minings.​ Es wer­den Ver­fahren aus ver­schiede­nen Paradig­men des Maschinellen Ler­nens mit ex­em­plar­ischen An­wen­dun­gen vorgestellt.​ Um das Wis­sen zu op­er­a­tional­isieren, wer­den in den Übun­gen prak­tisch­e Er­fahrun­gen mit Ler­nal­go­rith­men gesam­melt.

• Or­gan­isatorisches [up­date 19.10.]
• Einführung (Grund­be­griffe, Lern­prob­leme, Konzepte, Beispiele, Repräsen­ta­tion) [up­date 19.10.]
• Regel-Ler­nen
  • Ler­nen einzel­ner Regeln (Gen­er­al­isierung und Spezial­isierung, Struk­turi­erte Hy­pothe­senräume, Ver­sion Spaces) [up­date 14.​11.,​ Korrek­turen im Pseu­do-Code zu FindG und Find­GSet]
  • Ler­nen von Regel-Men­gen (Cov­er­ing Strate­gie, Evaluierungs­maße für Regeln, Prun­ing, Mehr-Klassen­prob­leme) [up­date 14.11.]
• Evaluierung und kosten-sen­si­tives Ler­nen (Ac­cu­ra­cy,X-Val,ROC-Kur­ven,Cost-Sen­si­tive Learn­ing) [up­date 28.11.]
• In­stanzen­basiertes Ler­nen (kNN,IBL,NEAR,RISE) [up­date 11.12.]
• Entschei­dungs­baum-Ler­nen (ID3, C4.5, etc.​) [up­date 8.1.]
• En­sem­ble-Meth­o­d­en (Bias/Vari­ance, Bag­ging, Ran­dom­iza­tion, Boost­ing, Stack­ing, ECOCs)
• Pre-Pro­cess­ing (Fea­ture Sub­set Se­lec­tion, Diskretisierung, Sam­pling, Data Clean­ing) [up­date 24.​1.,​ einige neue Folien]
• Clus­ter­ing und Ler­nen von As­sozi­a­tion­sregeln (Apri­ori)

Übun­gen

In den Übun­gen er­hal­ten Sie Auf­gaben über den Vor­lesungsstoff, oft alte Klausur-Auf­gaben, die Sie selb­st lösen sollen, und die dann in der fol­gen­den Übungsstunde durchbe­sprochen wer­den.

1. Übung 0, 23.10.12: Übung 0
2. Übung 1, 30.10.12: Klas­si­fika­tion [Muster Lösung]
   
3. Übung 2, 06.11.12: Einzel­regeln [Muster Lösung]
4. Übung 3, 13.11.12: Ver­sion Spaces [Muster Lösung]
5. Übung 4, 20.11.12: Regeller­nen I [Muster Lösung] [up­date 20.11]
6. Übung 5, 27.11.12: Regeller­nen II [Muster Lösung]
7. Übung 6, 04.12.12:  Evaluierung [Muster Lösung]
8. Übung 7, 11.12.12: In­stance-based learn­ing  [Muster Lösung]
9. Übung 8, 18.11.12: In­stance-based learn­ing II [Muster Lösung]
10. Übung 9, 15.01.13: De­ci­sion Trees I [Muster Lösung]
11. Übung 10, 22.01.13: De­ci­sion Trees II [Muster Lösung]
12. Übung 11, 29.01.13: En­sem­bles [Muster Lösung]
13. Übung 12. 05.02.13: Pre­pro­cess­ing [Muster Lösung] [up­date 04.02]
14. Übung 13. 12.02.13: As­sozi­a­tion­sregeln [Muster Lösung] [up­date 11.02]

Klausur

Die Klausur wird am 19.2.2013 in Raum C205 von 10-12h stat­tfind­en.

Alte Klausuren find­en Sie hier, so wie hier. [up­date 13.2]

Pro­jekt

Ziel des Pro­jek­tes ist es, prak­tis­che Er­fahrun­gen im Maschinellem Ler­nen zu sammeln.​ Hierzu sollen mehrere Pro­jek­tauf­gaben mit Hilfe des Ma­chine Learn­ing Frame­works Weka gelöst werden.​ Das Pro­jekt kann allein bzw.​ in einer Kle­in­gruppe (max­i­mal 3 Stu­den­ten, Name + Matrikelnr.​ müssen in der Ab­gabe und An­mel­dung er­sichtlich sein) bear­beit­et werden.​ Die Ab­gabe soll in einem üblichen Präsen­ta­tions­for­mat (z.​B.​ OpenOf­fice, Pow­er­Point oder PDF) erfolgen.​ Jede Gruppe muss zudem jew­eils eine Auf­gabe im Rah­men der Übung präsentieren.​ (ca. 5-10 min) Die Folien soll­ten allerd­ings  selb­stre­dend, also auch ohne den dazugehörigen Vor­trag verständlich sein.​ Senden Sie bitte ihre An­mel­dung & Ab­gabe an diese E-Mail-Adresse: ml-projekt@​ke.​tu-darmstadt.​de.​

Das Pro­jekt [up­date 03.12] beste­ht aus 9 Aufgaben.​ Benutzen Sie für die Bear­beitung die hier bere­it­gestellte Samm­lung an Klas­si­fika­tions- und Re­gres­sions­datensätzen. Für die er­fol­gre­iche Bear­beitung gibt es einen Bonus von bis zu 10 Klausurpunk­ten, allerd­ings nur bei be­standen­er Klausur.

Forum