Netzwerktreffen Explainable Artificial Intelligence (XAI) am 20.09.2022

Am 20.09.2022 konnten wir mit Herrn Dr. Maximilian Förster einen ausgewiesenen Experten aus dem Themenbereich der „Erklärbaren Künstlichen Intelligenz“ (KI) (Englisch „Explainable Artificial Intelligence“ und abgekürzt „XAI“) als Speaker gewinnen. Herr Dr. Förster hat sich mit dem Thema XAI unter anderem im Rahmen seiner Promotion und in seiner Position als Post-Doc an der Universität Ulm intensiv auseinandergesetzt.

Folgende Einblicke aus der Forschung und Take-Aways wurden den Teilnehmenden des Netzwerktreffens vermittelt:

• Die Entscheidungen, die von einer KI getroffen bzw. vorgeschlagen werden, betreffen zum Teil sehr kritische Bereiche unseres Lebens, wie z.B. die Diagnose von Krankheiten und das autonome Fahren. Aufgrund der Komplexität hinter KI ist der Prozess der Entscheidungsfindung für den menschlichen Anwender oftmals jedoch nur schwer nachzuvollziehen. Diese mangelnde Nachvollziehbarkeit hat häufig zur Folge, dass Nutzerinnen und Nutzer der KI nicht vertrauen und diese nicht verwenden.
• Erklärbare KI zielt darauf ab, die Ergebnisse von KI-Systemen für Menschen verständlicher zu machen und die interne Funktionsweise von KI-Systemen offenzulegen. Dies geschieht dadurch, dass XAI-Methoden Erklärungen zu KI-Systemen bzw. deren Ergebnissen automatisiert generieren.
• Auch im Rahmen von Social Media Management Anwendungen, z.B. bei automatisierten Analysen von Social Media Posts bietet XAI wertvolle Potentiale. Beispielsweise könnten schwer nachvollziehbare Entscheidungen hinsichtlich der inhaltlichen Klassifikation von Social Media Posts (z.B. bei mehreren sich überschneidenden inhaltlichen Äußerungen in Social Media Posts) durch den Algorithmus gegenüber der Anwenderin oder dem Anwender erklärt werden. Infolgedessen könnte z.B. die Trainingsgrundlage des Algorithmus angepasst werden und solche Unschärfen gezielt vermieden werden.