Deutsch Intern
    Data Science Chair

    Seminar: Ausgewählte Themen des Machine Learning

    Veranstalter: Prof. Dr. Andreas Hotho, Alexander Dallmann, Lena Hettinger

    Bei Fragen, Reservierung eines Themas, wenden Sie sich bitte an Alexander Dallmann.

    WueCampus-Kurs: (Zugang wird nach der Vorbesprechung individuell freigeschaltet)

    BibSonomy Gruppe: (Wird nach der Vorbesprechung angelegt)

    Vorbesprechung: Montag, 16.04.2018 9:30 Uhr Raum: B002 (am Lehrstuhl für Informatik VI)

    Themenvergabe und Vorbesprechung

    Themen können schon vor dem Vorbesprechungstermin reserviert werden. Die Themen werden einige Zeit vor der Vorbesprechung hier auf dieser Seite bekannt gegeben.

    Bei der Vorbesprechung werden die Themen - so nicht schon vergeben - an die anwesenden Seminarteilnehmer verteilt. Grundsätzlich besteht Anwesenheitspflicht. Teilnehmer, die bereits ein Thema bearbeiten, aber ohne Absprache fehlen, verlieren den Anspruch auf ihr Thema. In der Vorbesprechung werden auch die Termine für die Vorträge festgelegt.

    Konzept und Ablauf des Seminars

    Im Zentrum dieses Seminars steht ein wissenschaftlicher Artikel und ein darin verwendetes Konzept. Ein Beispiel wäre das Paper 

    MixedTrails: Bayesian hypothesis comparison on heterogeneous sequential data

    Martin Becker, Florian Lemmerich, Philipp Singer, Markus Strohmaier, Andreas Hotho

    In dem folgendes Konzept eine zentrale Rolle spielt: 

    Bayes Factor 

    Im Rahmen des Seminars soll nun das Konzept aufgearbeitet und verwandte Literatur gesucht werden. Das Ziel ist es, in Ausarbeitung und dem Vortrag des Seminars das gegebene Konzept unter Verwendung entsprechender Referenzen verständlich einzuführen und zu erklären. Außerdem sollen Anwendungsbeispiele oder Erweiterungen des Konzepts aus drei anderen Artikeln beleuchtet werden (dies kann den bereits gegebenen Artikel mit einschliessen). 

    Der Ablauf des Seminar ist wie folgt:

    • Zuerst wird die Ausarbeitung angefertigt. 
    • Dann wird die Arbeit abgegeben und begutachtet. Diese Begutachtung erfolgt durch den Betreuer und  anonym (single-blind) durch zwei andere Seminarteilnehmer. Das heisst, jeder Seminarteilnehmer, muss je zwei Beurteilungen für andere Seminarteilnehmer anfertigen. Die Begutachtungen gehen zurück an den Author, der dann die Möglichkeit hat, seine Ausarbeitung zu überarbeiten. 
    • Dann wird zeitgleich der Vortrag (20 Minuten Vortrag, 5 Minuten Fragen) und eine einseitige Zusammenfassung vorbereitet.
    • Der Vortrag wird dann in Blockveranstaltungen gehalten. Die oben genannten Materialien (Ausarbeitung, Vortrag, Kurzzusammenfassung) müssen vor der ersten Blockveranstaltung abgegeben werden. Bei den Blockveranstaltungen besteht Anwesenheitspflicht. 

    Themen

    Die Grundlage zu den Vorträgen bilden wissenschaftliche Aufsätze (Papers). Jedes hier aufgeführte Paper entspricht einem Thema.

    • themenrelevante Paper sind mit dem Tag thema versehen
    • die einzelnen Themen werden anhand der Tags thema:x, thema:y, etc. unterschieden
    • Ziel des Seminars ist es NICHT den Inhalt des Papers zusammenzufassen, sondern das Thema, das durch das Tag thema:x gegeben ist, aufzuarbeiten.
    • die Tags findet man auf BibSonomy in der entsprechenden Gruppe (siehe oben)

     

    Die Themen werden hier in Kürze bekannt gegeben!

    • Neural Bag-of-Ngrams. Li, Bofang; Liu, Tao; Zhao, Zhe; Wang, Puwei; Du, Xiaoyong. In AAAI, pp. 3067–3074. 2017.
    • Named Entity Recognition with Bidirectional LSTM-CNNs. Chiu, Jason P. C.; Nichols, Eric. In TACL, 4, pp. 357–370. 2016.
    • Language Modeling with Gated Convolutional Networks. Dauphin, Yann N.; Fan, Angela; Auli, Michael; Grangier, David. 2016.
    • Character-level Convolutional Networks for Text Classification. Zhang, Xiang; Zhao, Junbo Jake; LeCun, Yann. In NIPS. 2015.
    • Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift. Ioffe, Sergey; Szegedy, Christian. In CoRR, abs/1502.03167. 2015.
    • Convolutional Neural Networks for Sentence Classification. Kim, Yoon. 2014.
    • A Convolutional Neural Network for Modelling Sentences. Kalchbrenner, Nal; Grefenstette, Edward; Blunsom, Phil. 2014.
    • Distributed representations of words and phrases and their compositionality. Mikolov, Tomas; Sutskever, Ilya; Chen, Kai; Corrado, Greg S; Dean, Jeff. In Advances in neural information processing systems, pp. 3111–3119. 2013.
    • Authorship Attribution of Micro-Messages. Schwartz, Roy; Tsur, Oren; Rappoport, Ari; Koppel, Moshe. In EMNLP, pp. 1880–1891. ACL, 2013.
    • TM-LDA: efficient online modeling of latent topic transitions in social media. Wang, Yu; Agichtein, Eugene; Benzi, Michele. In KDD, Q. Yang, D. Agarwal, J. Pei (eds.), pp. 123–131. ACM, 2012.
    • A unified architecture for natural language processing: deep neural networks with multitask learning. Collobert, Ronan; Weston, Jason. In ICML. 2008.

    Leistungsnachweis

    Die Ausarbeitung muss dem Betreuer zum bekanntgegebenen Termin zum Begutachten als PDF vorliegen.

    Die zwei Begutachtungen anderer Ausarbeitungen, müssen pünktlich zum bekanntgegebenen Termin angefertigt und abgegeben werden.

    Ein (1!) Tag vor dem ersten geplanten Vortrag sind per Email als PDF dem Betreuer abzugeben:

    • eine 6-seitige LaTeX-Ausarbeitung im hier beschriebenen Format (doppelspaltig)
    • eine einseitige Zusammenfassung (die allen Teilnehmern beim Vortrag ausgehändigt wird),
    • der Foliensatz

    Vorherige Absprachen mit dem Betreuer sind ausdrücklich erwünscht. Alle verwendeten Referenzen sind zusätzlich zum Literaturverzeichnis der Ausarbeitung in http://www.bibsonomy.org in der entsprechenden Gruppe (relevant for) mit den folgenden Tags einzugeben:

    den Tags des jeweiligen Themas und weiteren sinnvollen Tags.

    Die Vortragsdauer beträgt verbindlich 20 Minuten, nach dem Vortrag besteht Gelegenheit zur Diskussion (ca. 5 Minuten). Der Vortrag (inkl. Folien und Abstract) geht mit 30% in die Endnote ein, die Ausarbeitung ebenfalls mit 30%. Die angefertigeten Reviews gehen 20% in die Note ein. Die letzten 20% bewerten die Eigenständigkeit der Ausarbeitung, Einhaltung von Terminen, Beteiligung am Seminar etc.

    Bearbeitungshinweise

    Als Richtlinie für die Erstellung einer guten Seminararbeit (inkl. Vortrag und Ausarbeitung) wird das Buch

    Markus Deininger and Horst Lichter and Jochen Ludewig and Kurt Schneider. Studien-Arbeiten: ein Leitfaden zur Vorbereitung, Durchführung und Betreuung von Studien-, Diplom- Abschluss- und Doktorarbeiten am Beispiel Informatik. 5. Auflage. vdf Hochschulverlag, Zürich, 2005. 

    empfohlen, welches beim Betreuer des Seminars (Prof. Dr. Andreas Hotho) ausliegt. Wir empfehlen die Anschaffung dieses Buchs (9,50 €), da es Sie bis zur Masterarbeit (und weiter) begleiten kann. Die Benotung der Seminararbeit erfolgt in Anlehnung an das dort auf Seite 77 angegebene Schema, angepasst auf die Erfordernisse einer Seminararbeit.