Hekalo, Amar - Lehrstuhl für Künstliche Intelligenz und Wissenssysteme

Universität Würzburg
Lehrstuhl für künstliche Intelligenz
und Wissenssysteme
Am Hubland
D-97074 Würzburg

Raum: B001
Telefon: +49 931 / 31 - 86385

amar.hekalo@uni-wuerzburg.de

Über mich

Nach meinem abgeschlossenen Master in Physik bin ich im November 2018 dem Lehrstuhl für Künstliche Intelligenz und Wissenssysteme beigetreten. Seitdem forsche ich, unter anderem mit der Uniklink Würzburg, daran, die Dokumentation in der Medizin mit Hilfe von Sprach- und Bildverarbeitung über Deep Learning und regelbasierte Methoden zu verbessern und effizienter zu gestalten.

Forschungsinteressen

Meine Forschungsinteressen beschäftigen sich besonders mit automatisierter Bildverarbeitung und NLP. Darunter fallen insbesondere Methoden der Informationsextraktion, Bildklassifikation, Bildsegmentierung sowie Objekterkennung, spezifisch aktuelle Architekturen, Verbesserung des Trainings (bspw. Datenaugmentierung und Hyperparameter-Optimierung) sowie medizinische Anwendungen.

Aktuell suche ich nach HiWis mit Erfahrung im Bereich Frontend mit Angular und Backend mit NodeJS, um mich bei der Entwicklung eines Dokumentations- und E-Learning-Tools für die Radiologie zu unterstützen. Bei Interesse könnt ihr mich einfach per Mail erreichen.

Projekte

Ebenso bin ich Mitglied des ESF-ZDEX („Zentrum für digitales Experimentieren“) Projektes, welches sich zum Ziel setzt, aktuelle Themen der Forschung kleine und mittlere Unternehmen (KMUs) im Raum Unterfranken näherzubringen. Zu diesem Zweck sind wir in stetigem Austausch mit unseren Kooperationspartnern in Form von regelmäßigen Meetings, Projekten und Veranstaltungen. Neue Kooperationspartner sind stets willkommen.

Lehre

SS 22	Programmieren neuronaler Netze (Vorlesung und Übung)
WS 21	Softwarepraktikum (Themenvergabe)
SS 21	Programmieren neuronaler Netze (Vorlesung und Übung)
SS 20	Programmieren neuronaler Netze (Vorlesung und Übung)
SS 19	Softwaretechnik (Übung zur Vorlesung)
Seit WS 18/19	Künstliche Intelligenz 2 (Vorlesung und Übung)
Seit SS 19	Seminar "Aktuelle Trends in Künstlichen Intelligenz" (regelmäßige Themenvergabe)

Publikationen

Endoscopic Detection and Segmentation of Gastroenterological Diseases with Deep Convolutional Neural Networks. Krenzer, Adrian; Hekalo, Amar; Puppe, Frank. Vol. 2595, S. Ali; C. Daul; J. Rittscher; D. Stoyanov; E. Grisan (eds.). CEUR-WS, 2020.
- [ BibTeX ]
- [ URL ]
@proceedings{krenzer2020endoscopic, author = {Krenzer, Adrian and Hekalo, Amar and Puppe, Frank}, editor = {Ali, Sharib and Daul, Christian and Rittscher, Jens and Stoyanov, Danail and Grisan, Enrico}, keywords = {myown}, month = {04}, publisher = {CEUR-WS}, title = {Endoscopic Detection and Segmentation of Gastroenterological Diseases with Deep Convolutional Neural Networks}, volume = 2595, year = 2020 }

Bsiher betreute Arbeiten

Datenaugmentierung mit Online Bilevel Optimierung zur Pathologie-Klassifikation in Röntgen-Thorax-Aufnahme. Gäullein, Fabian. 2021.
- [ BibTeX ]
- [ Download ]
@unpublished{Gaeullein.2021, abstract = {Die Motivation dieser Bachelorarbeit war es, eine neue Methode für Datenaugmentierung auf Thorax-Röntgenbildern anzuwenden und zu evaluieren. Dazu wurden vier Experimente durchgeführt, um die Veränderung der Performance eines Classifiers zu sehen, der mit verschiedenen Arten von Augmentierungen trainiert wurde. Zuerst wurden das ResNET18 und das DenseNet121 ohne Augmentierungen auf dem CheXpert Datensatz trainiert. Danach wurden für das Training der beiden Classifier Augmentierungen, die inspiriert durch Related Work auf Röntgenbildern sind, auf dem Datensatz angewendet. Die dritte Methode war die Anwendung des Online Bilevel Algorithmus auf dem ResNET18 und dem DenseNet121 mit CheXpert Datensatz. Als letztes wurden die vortrainierten Augmentierungsnetze aus dem dritten Experiment verwendet, um das ResNET18 zu trainieren. Der Bilevel Augment Algorithmus ist zusammengesetzt aus einem inneren und einem äußeren Loop. Im inneren Loop wird ein Classifier mit den Augmentierungen aus dem Augmenternetz trainiert. Auf dem Classifier wird dann im äußeren Loop der Validationloss berechnet und mit diesem Validationloss wird dann das Augmenternetz trainiert. Die Änderungen durch die vier verschiedenen Augmentierungsmethoden wurden experimentell gezeigt. Der durchschnittliche AUC-Score des ResNET18s verbessert sich Schritt für Schritt mit den verschiedenen Augmentierungsmethoden. Dadurch wurde gezeigt, dass der Bilevel Augment Algorithmus nützlich für die Augmentierung von medizinischen Bildern sein kann.}, author = {Gäullein, Fabian}, keywords = {student:thesis}, school = {Universität Würzburg}, title = {Datenaugmentierung mit Online Bilevel Optimierung zur Pathologie-Klassifikation in Röntgen-Thorax-Aufnahme}, type = {Bachelorarbeit Informatik}, year = 2021 }
Automatisierte Kardiomegalie Erkennung durch auf Deep Learning basierter Objektdetektion. Dienesch, Nils. 2021.
- [ BibTeX ]
- [ Download ]
@unpublished{Dienesch.2021, abstract = {Im Bereich der Kardiomegalie Erkennung basierend auf Deep Learning, wurden bisher nur Neuronale Netze zur Klassifikation und zur Segmentierung evaluiert.[44] Beim Ansatz der Segmentierung werden aus ausgegebenen Masken der Querdurchmesser des Herzens und der Brust berechnet. Aus diesen beiden Werten ergibt sich der Herz- Thorax-Quotient, welcher ab einemWert über 50% Kardiomegalie indiziert.[5] Doch für die Berechnung der Querdurchmesser wären auch Rahmen um die Organe ausreichend, welche von Objektdetektions Neuronalen Netzen ausgeben werden können. In bisherigen Veröffentlichungen zur automatischen Berechnung des Herz-Throax-Quotienten mithilfe Neuronaler Netze, wurde diese Option jedoch nicht betrachtet. In dieser Arbeit wird das vortrainierte Neuronale Netz Faster R-CNN[35] aus Detectron2[52] für die Erkennung von Herz und Lunge trainiert, um das Potential von Objektdetektoren in der Kardiomegalie Erkennung zu untersuchen. Auf einem privaten Testdatensatz, mit von einem Radiologen gemessenen Herz-Thorax-Quotienten, erreichte Faster R-CNN eine Sensitivity von 100% und eine Specificity von 82%. Dabei weisen die gemessenen Werte eine mittlere Differenz von 0, 0291 ± 0, 0889 zu den Werten des Radiologen auf. Des Weiteren wurde in Zusammenarbeit mit einem Radiologen der Uniklinik Würzburg die Anwendbarkeit des trainierten Netzes als Warnsystem im klinischen Alltag getestet. Dabei konnten vielversprechende Ergebnisse erzielt werden, welche zeigen, dass das Neuronale Netz bei einer schnellen Erkennung von Verdachtsfällen mit der Effektivität eines Radiologen mithalten kann. Um Vergleichswerte für den Ansatz der Segmentierung zu erhalten, wurde das U-Net[37] aus der Bachelorarbeit von Hasler[14] auf dem privaten Datensatz dieser Arbeit neu ausgewertet. Diese Werte konnten übertroffen werden. Ebenfalls wurde das Netz Mask R-CNN[16] aus Detectron2 trainiert, um zu testen, ob die Kombination aus Objektdetektion und Segmentierung weitere Verbesserungen erzielen kann. Ausschlaggebende Verbesserungen zeigten sich jedoch nicht.}, author = {Dienesch, Nils}, keywords = {student:thesis}, school = {Universität Würzburg}, title = {Automatisierte Kardiomegalie Erkennung durch auf Deep Learning basierter Objektdetektion}, type = {Bachelorarbeit Informatik}, year = 2021 }
Vergleich von konditionalem und flachem Training von CNNs zur Klassifikation von Röntgen-Thorax-Bildern mit verschiedenen Labeling-Methoden. Rost, Lisa. 2021.
- [ BibTeX ]
- [ Download ]
@unpublished{Rost.2021, abstract = {Röntgen-Thorax-Aufnahmen werden in der Medizin unter anderem für die Diagnose von verschiedenen Herz- und Lungenerkrankungen genutzt. Im Bereich der künstlichen Intelligenz spielen Convolutional Neural Networks für die Verarbeitung von Bilddaten eine große Rolle. Bei einer Verarbeitung von Röntgen-Thorax-Aufnahmen werden diese für das Erkennen von Pathologien genutzt. In dieser Arbeit wird hierarchische Multi- Label Klassifizierung umgesetzt, um Röntgen-Aufnahmen des CheXpert Datensatzes mit 14 Klassen einzuordnen. In dieser Arbeit wird das Konzept der Label Smoothing Regularization und des konditionalen Trainings untersucht. Ersteres wird genutzt, um unsichere Labels für das Training der Modelle verwenden zu können, indem diese durch Werte nahe bei 0 und 1 ersetzt werden. Dabei wird ein Vergleich zu strikten Methoden gezogen und eine neue Label Smoothing Methode U-Random getestet, welche unsichere Labels durch zufällige Werte zwischen 0 und 1 ersetzt. Außerdem wird konditionales Training umgesetzt, um die hierarchische Struktur der Pathologien zu nutzen. Damit wird eine Klasse unter der Bedingung ihrer Eltern-Klasse betrachtet und die Beziehungen zwischen Pathologien in das Training mit einbezogen. Basierend auf den vortrainierten Keras Netzen DenseNet121 und EfficientNetB4, werden Modelle auf einem eigens erstellten Datensplit des öffentlichen CheXpert Datensatzes trainiert und evaluiert. Zusätzlich wird für die Evaluation das Validierungsset des CheXpert Datensatzes herangezogen, um Vergleiche mit bestehenden Arbeiten zu ermöglichen. Die neue Label Smoothing Regularization Methode U-Random erzielt den größten durchschnittlichen AUC von 0,8695 auf dem Validierungsset, bei einem flachen Training von EfficientNetB4. Diese erhält unter anderem bessere Ergebnisse als die Label Smoothing Regularization Methoden U-Ones-LSR und U-Zeros-LSR, beispielsweise bei einem flachem Training über 5 Epochen mit EfficientNetB4, sowohl bei der Evaluation auf dem Testset, als auch auf dem Validierungsset. Das konditionale Training erlangt im Durchschnitt niedrigere Ergebnisse als vergleichbares flaches Training der beiden Netze. Flaches Training erreicht einen Durchschnitt über alle, im ersten Teil der Arbeit evaluierten Methoden auf dem Testset, von 0,8194, während konditionales Training im Vergleich einen AUC-Wert von 0,7954 erlangt. Die Verwendung von Label Smoothing Regularization bewirkt geringe Verbesserungen der Ergebnisse bei dem Großteil der evaluierten Modelle bei flachem Training. Ebenso zeigt sich eine geringe Steigerung der durchschnittlichen AUC-Werte für das EfficientNetB4, im Vergleich zu flachem Training mit DenseNet121. Schließlich wurden die erzielten Ergebnisse mit der bestehenden Arbeit von Pham et al. [27] verglichen. Die darin erlangten Höchstwerte werden in dieser Arbeit nicht erreicht, darin bestand jedoch nicht das Ziel der Arbeit. Das bestand darin, neue Erkenntnisse im Bereich des konditionalen Trainings und der Label Smoothing Regularization zu erlangen.}, author = {Rost, Lisa}, keywords = {student:thesis}, school = {Universität Würzburg}, title = {Vergleich von konditionalem und flachem Training von CNNs zur Klassifikation von Röntgen-Thorax-Bildern mit verschiedenen Labeling-Methoden}, type = {Bachelorarbeit Informatik}, year = 2021 }
Automatische Positionserkennung und Transport verschiedener Paketsorten in der Logistik. Benyaala, Oussama. 2020.
- [ BibTeX ]
- [ Download ]
@unpublished{Benyaala2020, abstract = {Diese Arbeit beschäftigt sich mit der Erkennung verschiedener Paketsorten in der Logistik und dem Greifen der detektieren Objekten mit einem Roboter. Ziel dieser Arbeit ist es, Deep Learning als eine Möglichkeit der Objekterkennung zu untersuchen und die Begrenzungen einer 2D Kamera zu testen. Um die Pakete in 2D-Bildern zu erkennen, wird Deep Learning verwendet. Es werden verschiedene Modelle auf eigens erstellten und gelabelten Bildern trainiert, wobei sich das Faster R-CNN mit ResNet101 Backbone als bestes erwies, mit einem mAP von 74% und mAR von 73%. Das trainierte Deep Learning Modell wird mit einem programmierbaren Roboterarm kombiniert und als Gesamtsystem evaluiert. Zur Evaluation des Roboters mit dem Erkennungssystem werden zwei Hauptexperimente durchgeführt. Im ersten Experiment werden Pakete gleicher Größe verwendet. Im zweiten Experiment werden Pakete verschiedener Größen verwendet. Für jedes Experiment werden die Pakete mit unterschiedlichen Abständen evaluiert. Die Ergebnisse der Objekterkennung zeigen, dass Deep Learning ein geeigneter Ansatz für die Erkennung verschiedener Paketsorten ist. Von insgesamt 177 Pakete werden 94,915% Pakete mit 182 Greifversuche gegriffen. Der Programmcode und das erstelle Datenset ist unter https://github.com/obenyaala/ BA_Object_detection zu finden.}, author = {Benyaala, Oussama}, keywords = {student:thesis}, school = {Universität Würzburg}, title = {Automatische Positionserkennung und Transport verschiedener Paketsorten in der Logistik}, type = {Bachelorarbeit Informatik}, year = 2020 }
Automated Detection of Lung Nodules in CT Scans using Convolutional Neural Networks. Angelov, Ivaylo. 2020.
- [ BibTeX ]
- [ Download ]
@unpublished{Angelov.2020, abstract = {The present thesis examines the usage of neural networks, in particular Convolutional Neural Networks, for the detection of lung nodules in CT scans. The aim of this work is the implementation of a nodule detection framework that allows the integration of different datasets and models. For this purpose it initially provides a detailed overview of the current state of research, thereby focusing on image preprocessing, data augmentation and promising network architectures. Employing the LNDb-dataset[1] released in 2019 and an auspicious model architecture, the training procedure of a lung nodule detection network is demonstrated. The model is based on the architecture presented in [2] and uses a custom 3D-Single-Shot-Detector as a detector head. The model output is evaluated with the common object detection metrics precision and recall, as well as with the FROC-score, which is a popular metric in medical applications. We achieve a maximal recall of 0.68 at 42963 false positives per scan according to the FROC-calculation procedure in the LNDb-Challenge[3]. The calculation of precision and recall on the COCO IoU-range as well as the FROC-score for the typical set of { 18 , 1 4 , 12 , 1, 2, 4, 8 } FPs per scan yield a result of zero due to the low accuracy of box predictions and the herefrom resulting lack of true positives. Thus the method presented in this work is still not well enough trained in order to perform lung nodule detection. However, more training time and the incorporation of additional datasets, image processing procedures and training steps that are mentioned promise to lead to a significantly better performance in the future.}, author = {Angelov, Ivaylo}, keywords = {student:thesis}, school = {Universität Würzburg}, title = {Automated Detection of Lung Nodules in CT Scans using Convolutional Neural Networks}, type = {Bachelorarbeit Luft- und Raumfahrtinformatik}, year = 2020 }

Amar Hekalo, M. Sc.