Interpretation neuronaler Netze im Bereich der Bildklassifizierung

Interpretation neuronaler Netze im Bereich der Bildklassifizierung

Heutige Smartphones können Gesichter und Fingerabdrücke erkennen – zweifellos ein bequemes Sicherheitsfeature. Dahinter stecken lernfähige Algorithmen, die immer stärker auch in anderen Bereichen eingesetzt werden, so etwa in Kliniken bei der Auswertung von Röntgenaufnahmen. Doch wie eine solche KI-Software dabei im Detail vorgeht, ist oftmals kaum nachvollziehbar. In gewisser Weise ist sie eine Art Blackbox, was in manchen Fällen zu unzuverlässigen Ergebnissen führt. Diesem Problem widmete sich Bennet Meyer in seinem Projekt. Er entwickelte ein Programm, das – bildlich gesprochen – feststellen kann, welche „Vorstellungen“ sich ein Mustererkennungs-Algorithmus macht, wenn er ein Bild einer bestimmten Kategorie zuordnet. Auf diese Weise lässt sich der Algorithmus verbessern, sodass die Erkennungsrate steigt.