Rückblick Building Interpretable Neural Networks with Keras and LIME

Es gab am 11.4.2019 einen Vortrag von Shirin Glander zu Keras und LIME. Damit wir alle Shirin besser kennenlernen konnten, haben wir (Florian, Philipp und Meike) uns drei Fragen überlegt, die unsere Referenten*innen in Zukunft vor ihrem jeweiligen Vortrag in der Vorstellungsrunde beantworten müssen.

 (1) In welchem Kontext hast du das erste Mal mit Daten gearbeitet?

Während des Biologiestudiums beim Laborexperiment. Es hatte etwas mit Mäusen in Gläsern und deren Sauerstoffgehalt zu tun…

 (2) Der Data Scient ist ist eine Mischung aus Hacker, Mathe Nerd und Business Mensch: wie sind die Anteile bei dir verteilt?

Durch das Biologiestudium sehe ich bei mir den Hauptanteil im Bereich klassischer Statistik

 (3) Dein persönliches Data Fuck Up: welche Frage konntest du nicht mit Daten beantworten?

Ein richtiges Data Fuck Up gab es bis jetzt nicht, eher die Probleme, dass von Kunden Daten kommen, die gemerged werden sollen und nach 3 Tagen wird bemerkt: Ups, falscher Auszug aus der Datenbank…

(Die Antworten stammen aus dem Gedächtnisprotokoll).

Beim Vortrag hat Shirin ein Convolutional Neuronales Netz zur Bilderkennung von Früchten, welches sie mit Keras gebaut hatte, gezeigt. Keras hat sie dabei als Baukastensystem beschrieben, mit dem alle Varianten an Neuronalen Netzen gebaut und geschätzt werden können. Um das Neuronale Netz besser zu verstehen, kam dann im zweiten Schritt LIME zum Einsatz, um herauszufinden, aufgrund welcher Pixel in den Testbildern ein Bild beispielsweise als Banane klassifiziert worden ist. Den Code gibt es zum Nachlesen auf Shirins Blog: (1)  Image Classification with Keras und (2) Explaning Keras image classification models with lime.  Außerdem auch noch den Link zum empfohlenen Video zur weiteren Erläuterung von LIME.

Diese Informationen plus die Slides findet ihr auch in unserem Git Repository.

We need to make sure that our models are not going to cause harm to people or society.

Building Interpretable Neural Networks with Keras and LIME

Wie bereits angekündigt, wird am 11. April 2019 Shirin Glander bei uns einen Vortrag halten. Die Details:

„Building Interpretable Neural Networks with Keras and LIME“ von Dr. Shirin Glander, Data Scientist codecentric AG.

Keras is a high-level open-source deep learning framework that by default works on top of TensorFlow. Keras is minimalistic, efficient and highly flexible because it works with a modular layer system to define, compile and fit neural networks. It has been written in Python but can also be used from within R. Because the underlying backend can be changed from TensorFlow to Theano and CNTK (with more options being developed right now) it is designed to be framework-independent. Models can be trained on CPU or GPU, locally or in the cloud.
Shirin will show an example of how to build an image classifier with Keras. We’ll be using a convolutional neural net to classify fruits in images. But that’s not all! We not only want to judge our black-box model based on accuracy and loss measures – we want to get a better understanding of how the model works. We will use an algorithm called LIME (local interpretable model-agnostic explanations) to find out what part of the different test images contributed most strongly to the classification that was made by our model.
Shirin will introduce LIME and explain how it works. And finally, she will show how to apply LIME to the image classifier we built before, as well as to a pre-trained Imagenet model.

Über die Vortragende: Shirin Glander hat in Bioinformatik promoviert und nutzt von Statistik bis Machine Learning verschiedene Methoden, um aus Daten spannende und neue Erkenntnisse zu gewinnen. Regelmäßig bloggt sie über Data-Science-Themen (https://www.shirin-glander.de/), führt Projekte in und rundum Data Science durch und gibt Schulungen, unter anderem zu Deep Learning mit Keras.

Alle weiteren Infos und Anmeldung zum Event über meetup.com.