Maschinelles Ler­nen: Sym­bol­is­che Ansätze - WS 13/14

In­halt

Durch die En­twick­lung der In­for­ma­tion­stech­nolo­gie sind immer größere Daten­men­gen verfügbar.​ Diese en­thal­ten oft im­plizites Wis­sen, das, wenn es bekan­nt wäre, große wirtschaftliche oder wis­senschaftliche Be­deu­tung hätte.​ Data Min­ing ist ein Forschungs­ge­bi­et, das sich mit der Suche nach po­ten­tiell nützlichem Wis­sen in großen Daten­men­gen beschäftigt, und Maschinelles Lern­ver­fahren gehören zu den Schlüssel­tech­nolo­gien in­ner­halb dieses Ge­bi­ets.

Die Vor­lesung bi­etet eine Einführung in das Ge­bi­et des Maschinellen Ler­nens unter dem beson­deren As­pekt des Data Minings.​ Es wer­den Ver­fahren aus ver­schiede­nen Paradig­men des Maschinellen Ler­nens mit ex­em­plar­ischen An­wen­dun­gen vorgestellt.​ Um das Wis­sen zu op­er­a­tional­isieren, wer­den in den Übun­gen prak­tisch­e Er­fahrun­gen mit Ler­nal­go­rith­men gesam­melt.

• Or­gan­isatorisches
• Einführung (Grund­be­griffe, Lern­prob­leme, Konzepte, Beispiele, Repräsen­ta­tion)
• Regel-Ler­nen
  • Ler­nen einzel­ner Regeln (Gen­er­al­isierung und Spezial­isierung, Struk­turi­erte Hy­pothe­senräume, Ver­sion Spaces)
  • Ler­nen von Regel-Men­gen (Cov­er­ing Strate­gie, Evaluierungs­maße für Regeln, Prun­ing, Mehr-Klassen­prob­leme)
• Evaluierung und kosten-sen­si­tives Ler­nen (Ac­cu­ra­cy,X-Val,ROC-Kur­ven,Cost-Sen­si­tive Learn­ing)
• In­stanzen­basiertes Ler­nen (kNN,IBL,NEAR,RISE)
• Entschei­dungs­baum-Ler­nen (ID3, C4.5, etc.​) 
• En­sem­ble-Meth­o­d­en (Bias/Vari­ance, Bag­ging, Ran­dom­iza­tion, Boost­ing, Stack­ing, ECOCs)
• Pre-Pro­cess­ing (Fea­ture Sub­set Se­lec­tion, Diskretisierung, Sam­pling, Data Clean­ing)
• Clus­ter­ing und Ler­nen von As­sozi­a­tion­sregeln (Apri­ori)

Übun­gen

In den Übun­gen er­hal­ten Sie Auf­gaben über den Vor­lesungsstoff, oft alte Klausur-Auf­gaben, die Sie selb­st lösen sollen, und die dann in der fol­gen­den Übungsstunde durchbe­sprochen wer­den.

• Übung 0, 22.10.13: Or­gan­isatorisches
• Übung 1, 29.10.13: Klas­si­fika­tion - Musterlösung
• Übung 2, 05.11.13: Einzel Regeln - Musterlösung
• Übung 3, 12.11.13: Ver­sion Spaces - Musterlösung
• Übung 4, 19.11.13: Sep­a­rate and Con­quer - Musterlösung [cor­rect­ed: 27.01]
• Übung 5, 26.11.13: Regel Ler­nen - Musterlösung [cor­rect­ed: 4.02]
• Übung 6, 03.11.13: Eval­u­a­tion - Musterlösung
• Übung 7, 10.11.13: Near­est Neigh­bour [cor­rect­ed: 10.12] - Musterlösung
• Übung 8, 14.01.14: RISE & KD-Trees - Musterlösung
• Übung 9, 21.01.14: De­ci­sion-Trees - Musterlösung
• Übung 10. 28.01.14: Re­gres­sion-Trees - Musterlösung
• Übung 11. 04.02.14: En­sem­bles - Musterlösung
• Übung 12. 04/11.02.14: Pre­pro­cess­ing - Musterlösung
• Übung 13. 11.02.14: Apri­ori - Musterlösung

Klausur

Pro­jekt

Ziel des Pro­jek­tes ist es, prak­tis­che Er­fahrun­gen im Maschinellem Ler­nen zu sammeln.​ Hierzu sollen mehrere Pro­jek­tauf­gaben mit Hilfe des Ma­chine Learn­ing Frame­works Weka gelöst werden.​ Das Pro­jekt kann allein bzw.​ in einer Kle­in­gruppe (max­i­mal 3 Stu­den­ten, Name + Matrikelnr.​ müssen in der Ab­gabe und An­mel­dung er­sichtlich sein) bear­beit­et werden.​ Die Ab­gabe soll in einem üblichen Präsen­ta­tions­for­mat (z.​B.​ OpenOf­fice, Pow­er­Point oder PDF) erfolgen.​ Jede Gruppe muss zudem jew­eils eine Auf­gabe im Rah­men der Übung präsentieren.​ (ca. 5-10 min) Die Folien soll­ten allerd­ings  selb­stre­dend, also auch ohne den dazugehörigen Vor­trag verständlich sein.​ Senden Sie bitte ihre An­mel­dung & Ab­gabe an diese E-Mail-Adresse: ml-projekt@​ke.​tu-darmstadt.​de.​

Das Pro­jekt beste­ht aus 9 Aufgaben.​ Benutzen Sie für die Bear­beitung die hier bere­it­gestellte Samm­lung an Klas­si­fika­tions- und Re­gres­sions­datensätzen. Für die er­fol­gre­iche Bear­beitung gibt es einen Bonus von bis zu 10 Klausurpunk­ten, allerd­ings nur bei be­standen­er Klausur.

Forum