21. März 2023

Künstliche Intelligenz
Wie zuverlässig ist sie wirklich?

Die neueste Veranstaltung des AKWPW hatte ein brandaktuelles Thema "Künstliche Intelligenz - Wie zuverlässig ist sie wirklich?". Den Vortrag dazu hielt Prof. Dr. Gitta Kutyniok, Inhaberin des Bayerischen KI Lehrstuhls für mathematische Grundlagen von Künstlicher Intelligenz an der Ludwig-Maximilians-Universität München und LMU-Direktorin der Konrad Zuse School of Excellence in Reliable AI. Vorsitzender Tobias Kurzmaier begrüßte die über 100 erschienenen Mitglieder und zitierte zu Beginn der Veranstaltung den Physiker Stephen Hawking, der gesagt hat "Die KI ist wahrscheinlich das Beste oder das Schlimmste, was der Menschheit passieren kann." Er fragte Frau Prof. Kutyniok, für welche Antwort sie sich entscheiden würde? Die Referentin antwortete mit "das Beste".

Am Anfang Ihres Vortrags definierte Prof. Kutynik zunächst einmal die KI als die Nachahmung menschlicher Intelligenz. Die Lehrstuhlinhaberin führte dann aus, in welchen Bereichen heute KI schon überall zum Einsatz kommt. Die wichtigsten sind Verkehr, hier insbesondere das autonome Fahren, Medizin, v.a. die medizinische Bildverarbeitung (z.B. Computer Tomographie), Verwaltung und Telekommunikation. Prof. Kutyniok erläuterte, wie KI eigentlich funktioniert, nämlich durch das ständige Trainieren eines künstlich neuronalen Netzes. Es braucht Unmengen von Trainingsdaten, die dann zu Testdaten transferiert werden, damit die KI funktionieren kann. Darin liegt laut Prof. Kutyniok auch der derzeitige große Erfolg der KI begründet, dass das heutige Datenzeitalter riesige Mengen von Trainingsdaten liefert und eine enorm gestiegene Rechenleistung das Training von tiefen neuronalen Netzen ermöglicht.

Hier liegt aber auch zugleich das größte Problem Künstlicher Intelligenz: ihre (noch) fehlende Zuverlässigkeit. Die Qualität der Trainingsdaten ist Kutyniok zufolge die oberste signifikante Fehlerquelle. Sind die Trainingsdaten zu schlecht, zu einseitig oder einfach zu wenig, führt das zu Problemen mit der Robustheit der KI. Dann kommt es zu unvorhergesehenen falschen Entscheidungen und Prozessen oft nach dem "Trial-and-Error"-Prinzip, auch weil der KI ein tiefes theoretisches Verständnis fehlt. So erklären sich u.a. Unfälle mit Robotern und bei selbstfahrenden Autos, Datenschutzverletzungen sowie unfaire Entscheidungen. Beim aktuell sich in aller Munde befindlichen ChatGPT kann es daher sein, dass viele Antworten falsche Informationen beinhalten, die Texte sich dennoch sehr glaubwürdig anhören. Prof. Kutyniok wies darum auf die Wichtigkeit der Kontrolle der KI hin, die durch den AI Act der Europäischen Union und der KI-Strategie der Bundesregierung gegeben sei.

Als Fazit gab sie aus: Die KI ist kein Allerheilmittel, aber eine großartige Chance für die Menschheit. Das vorderste Ziel ist für sie, dass die KI eine echte Zuverlässigkeit erreicht und als Vision für die Zukunft formulierte sie die Diskussion mit der KI über die Gründe einer Entscheidung wie mit einem Menschen.

Vorsitzender Tobias Kurzmaier überreichte am Ende der Veranstaltung Prof. Kutyniok das traditionelle Gastgeschenk des Vereins: den AKWPW-Regenschirm.

v.l.n.r.: Helmut Six (Beirat), Hans Fritz (Beirat), Gabriele Appel (Beirat), Tobias Kurzmaier (Vorsitzender), Prof. Dr. Gitta Kutyniok, Hans-Georg Augustinowski (Schatzmeister), Wolfgang Durner (Beirat), Andreas Goppel (Beirat).

Über 100 Mitglieder und Ehrengäste, unter Ihnen u.a. der Präsident des Bayerischen Landeskriminalamts Polizeipräsident Harald Pickert, lauschten konzentriert und interessiert dem Vortrag der Frau Professorin.