Seminar aus maschinellem Lernen - WS 05/06

Inhalt

Im Rahmen dieses Seminars werden wir neue Forschungsergebnisse aus dem Bereich maschinelles Lernen diskutieren. Ausgewählt werden neuere Publikationen aus den relevanten Journalen des Gebiets, insbesondere aus Machine Learning und dem Journal of Machine Learning Research, sowie aus den wichtigsten Konferenzen.

Jede/r Student/in erhält einen oder mehrere Fachartikel zur Ausarbeitung, deren wesentliche Aspekte dann in einem ca. 30-minütigen Vortrag vorgestellt und im Anschluß von allen diskutiert werden sollen. Die Vorträge und/oder Folien können wahlweise auf Deutsch oder Englisch gehalten werden.

Vorkenntnisse

Da diese Artikel dem letzten Stand der Forschung entsprechen, wird einerseits erwartet, dass entsprechende Grundkenntnisse (und Interesse!) in maschinellem Lernen und Data Mining mitgebracht werden, dass man sich aber andererseits im Zuge der Vorbereitung auch selbständig mit der Thematik weiter vertraut macht und ggf. auch weiterführende bzw. grundlegende Literatur zu Rate zieht (bitte Quellen nennen).

Benotung:

In die Gesamtnote fließen die Ausarbeitung des Vortrags (Folien), die Präsentation, die Beantwortung von Fragen zum Vortrag, sowie die aktive Teilnahme an der Diskussion bei den Vorträgen anderer ein. Eine schriftliche Ausarbeitung ist nicht notwendig.

Im Vordergrund der Gesamtbenotung steht jedoch die selbständige Auseinandersetzung mit dem Problem. Für eine sehr gute (1.x) Beurteilung muß klar sein, dass Sie die fraglichen Arbeiten verstanden haben und von den vorliegenden Papers abstrahieren können. Eine exakte Wiedergabe des Inhalts der Papiere führt nur zu einer Beurteilung mit 2.x, außerordentlich schwache Leistungen in einem der genannten Punkte zu 3.x oder schlechter.

Themen:

• 2.11.2005 Vorbesprechung
• 7.12.2005 Naive Bayes for Continuous Attributes
  • Discretizing Continuous Variables (Darius Gasiorek, Folien)
    • Yang, Y. and G. I. Webb (2002). A Comparative Study of Discretization Methods for Naive-Bayes Classifiers. In Proceedings of PKAW 2002: The 2002 Pacific Rim Knowledge Acquisition Workshop, pages 159-173
    • further references in this paper
  • Using Continuous Variables (Vortrag ausgefallen)
    • John, G., and Langley, P. (1995). Estimating continuous distributions in Bayesian classifiers. Proceedings of the Eleventh Conference on Uncertainty in Artificial Intelligence (pp. 338-345).
    • Remco R. Bouckaert, Naive Bayes Classifiers that Perform Well with Continuous Variables. In Proceedings of the 17th Australian Conference on AI (AI 04), Lecture Notes in AI, Springer. 2004
• 14.12.2005 Naive Bayes for Regression and Ranking
  • Naive Bayes for Regression (Nils Knappmeier, Folien, Handouts)
    • Frank, E., Trigg, L., Holmes, G., & Witten, I. H. (2000). Naive bayes for regression. Machine Learning, 41.
  • Naive Bayes for Ranking (Dieter Schuller, Folien)
    • H. Zhang and J. Su, Naive Bayesian classifiers for ranking, Proceedings of the 15th European Conference on Machine Learning (ECML2004), Springer(2004).
    • H. Zhang, L. Jiang and J. Su, Augmenting Naive Bayes for Ranking, Proceedings of 22nd International Conference on Machine Learning (ICML 2005), pp.1025-1032, ACM (2005).
• 11.1.2006 Naive Bayes: Weakening the Independence Assumption
  • TAN and LBR (Volker Roth)
    • Keogh, E. and Pazzani, M.J. (2002). Learning the Structure of Augmented Bayesian Classifiers. International Journal on Artificial Intelligence Tools, 11:4, pp 587-601.
    • Zheng, Z. and G. I. Webb (2000). Lazy Learning of Bayesian Rules. Machine Learning, 41(1):53-84
  • Comparison and AODE (Steffen Meyer, Folien)
    • Webb, G. I., J. Boughton, and Z. Wang (2005). Not So Naive Bayes: Aggregating One-Dependence Estimators. Machine Learning, 58(1):5-24.
    • Wang, Z. and G. I. Webb (2002). Comparison of Lazy Bayesian Rule Learning and Tree-Augmented Bayesian Learning. In Proceedings of the IEEE International Conference on Data Mining (ICDM-2002), pages 775-778. Los Alamitos, California: IEEE Computer Society.
• 18.1.2006 Naive Bayes and Rule Learning
  • 1BC (Yana Staykova)
    • Peter A. Flach, Nicolas Lachiche: Naive Bayesian Classification of Structured Data. Machine Learning 57(3): 233-269 (2004)
  • Combining Rule Learning with Nearest Neighbor (Alexander Schütz, Folien)
    • Eineborg, M., Boström, H.: Classifying uncovered examples by rule stretching. Proceedings of the Eleventh International Conference on Inductive Logic Programming.
    • Iris Hendrickx and Antal van den Bosch Hybrid algorithms with instance-based classification. Proceedings of the 16th European Conference on Machine Learning (ECML-2005), Porto, Portugal