Wenn Professor Dr. Antonio Krüger „es ist möglich“ sagt, dann darf sich auch die Bundesregierung auf die Schulter klopfen. Krüger arbeitet beim Deustchen Forschungszentrum für Künstliche Intelligenz (DFKI) als Vorsitzender der Geschäftsführung und sitzt in der KI-Enquetekommission des Deutschen Bundestages. Wenn Professor Dr. Antonio Krüger „es ist möglich“ sagt, hat er aber auch selbst eine Lernkurve hingelegt. Denn ihm war bis dahin nicht in Gänze klar, dass Deutschland bei der Digitalisierung im Gesundheitswesen in Europa unterdurchschnittlich abschneidet. Erst als die Kommission sich mit KI im Gesundheitswesen beschäftigt hatte, wurde ihm dieser Nachholbedarf klar.

In seiner Funktion als technisch-wissenschaftlicher Geschäftsführer des DFKI obliegt ihm eine unemotionale also analytische Bewertung dessen, was grad in unserem Land in Sachen Digitalisierungsgrad los ist. Und diese Bewertung klassifiziert er mit dem Satz: „Es ist möglich“ und will damit sagen, dass die digitalen Möglichkeiten im Land lediglich brachliegen und bloß erweckt werden müssen. Er attestiert der Bundesregierung also die Kompetenz, diesen diffusen Nachholbedarf aufzuholen. „Krisen sind Wasserstandsanzeiger und Motoren zugleich“, sagt er. Schulter klopfen also gerechtfertigt.

Krüger tritt als verbindende Perle auf in einer Kette namens KI – The Rising of New Technologies. Doch so New sind die Technologien gar nicht. Dennoch umweht sie eine geheimnisvolle Aura des Verbindens, des Miteinanders und Füreinanders. Alle müssten an einem Strang ziehen: Wirtschaft, Forschung, Politik und Gesellschaft, findet Krüger. Und mit diesem Urteil ist er nicht allein. Dr. Thomas Thiele von der Deutschen Bahn sagt sogar, dass KI eine politische Frage sei. Denn „wir erleben auch einen gesellschaftlichen Umbruch durch den Einsatz der Verfahren von Künstlicher Intelligenz.“ Thomas Thiele ist verantwortlich für die KI-Strategie bei der Deutschen Bahn (DB).

Das Fundamentale

Wenn Krüger nun „es ist möglich“ sagt und damit eigentlich von etwas noch zu Tuendem redet, warum wird so viel von KI in der Öffentlichkeit gesprochen als gäbe es sie bereits flächendeckend? „KI und Digitalisierung werden oft vermischt. Die Grenzen sind nicht trennscharf. Manchmal wird von KI gesprochen, aber gemeint ist Digitalisierung.“ Das kann auch Thiele bestätigen und nennt uns ein Beispiel aus seinem Hause.

Die Reisendeninformation macht die DB seit rund zwei Jahren mit klassischen Machine-Learning-Verfahren, also KI-Methoden. Da arbeitet ein Prognoseverfahren, um die Pünktlichkeit der Züge zu ermitteln. „Sichtbar ist es für die Reisenden nur mittels grünem Plus-Icon in der Bahn-App. Sonst bemerkt man diese KI gar nicht. Aus der normbasierten Prognose ist nun ein KI-basiertes Vorhersageverfahren geworden. Und Thiele führt aus: „Weil die Menschen den Einsatz der KI da gar nicht merken, muss es Rahmenbedingungen geben, um die Gesellschaft vor Missbrauch zu schützen. Denn so wie unsere Anwendung unsichtbar ist, sind das viele weitere auch. Deshalb brauchen wir schützende Bedingungen.“

Simon Lochbrunner von MaibornWolff unterstreicht das. Oft merke man gar nicht, dass eine Software genutzt werde, die die Entscheidungen trifft, siehe Netflix oder Spotify. Diese Plattformen sind mittlerweile maßgeblich an der Geschmacksbildung von Menschen beteiligt. „Wir stellen uns unwissend in den Dienst von Algorithmen, die uns Empfehlungen liefern, die wir selbstverständlich anklicken. Das ist zwar komfortable, prägt uns jedoch viel mehr als wir es womöglich wahrhaben. Denn irgendwann sparen wir uns die Mühe, uns zu fragen, was wir eigentlich selbst wollen.“

Lassen wir den Blick jetzt mal in die Ferne schweifen

Bekommen wir durch Krisen eine neue Sicht auf die KI? Wohl wahr, „ja das glaube ich“, sagt Krüger. Der Blick habe sich jetzt geweitet, was Digitalisierung für die Gesellschaft tun könnte und Krisen wie diese könnten auch den Mindset derjenigen verändern, die dem Thema unbeholfen gegenüber stünden. „Wir haben uns bislang ja den Luxus gegönnt, das nicht so wichtig zu nehmen. Was jetzt passiert, hat mich positiv erstaunt. Das zeigt, dass in Deutschland was geht. Es ist möglich.“ Und auch er beschwört ein neues Miteinander.

Wir fragen auch hier wieder: Warum bringt ausgerechnet die Künstliche Intelligenz so viel Füreinander hervor. Was hat sie, was andere IT-Bewegungen nicht hatten? Für Krüger sind es die selbstlernenden Verfahren (Maschinelles Lernen), die mit KI verknüpft werden. „Im Gegensatz zur klassischen Programmierung, gibt hier der Programmier nur den Rahmen vor, das Lernen selbst aber basiert größtenteils auf den Daten.“ KI richtig verstanden, bedeute eine interdisziplinäre Sicht auf die Dinge. „Denn die Daten, mit denen die KI lernt, kommen nicht vom Programmierer, sondern aus der realen Welt. Und anhand dieser Daten lernt das System dann ein bestimmtes Verhalten.“

Auch Thiele hat da eine einleuchtende Antwort parat: „Es ist der Automatisierungsgedanke, der den Unterschied macht. Denn der wird bei lernenden Verfahren aufgeweicht. Diese Verfahren entwickeln kognitiv eine Erkenntnis, die eine Handlung herbeiführt, die dann in der realen Welt etwas manipuliert. Und diese Umstände führen dazu, dass a) Austausch wichtig ist und b) sich die KI von anderen Methoden abhebt.“

Müllentscheidungen

Der alte Informatikerinnenspruch scheint demnach immer noch Gültigkeit zu haben „Garbage in, garbage out. Wenn man Mülldaten reinschiebt, kommen auch Müllentscheidungen raus. Sind wir damit an der Ethikgrenze? „Ja, in einigen kritischen Bereichen sollten wir uns fragen, auf welcher Grundlage KI-Entscheidungen wie zum Beispiel Kreditvergaben oder Tumorbehandlungen zu Stande kommen und konsequenterweise müssten wir dann auch über Diskriminierung reden. Denn diese ist in vielen Daten, die zum Lernen verwendet werden, schon angelegt und prägt dann das Verhalten des Lernverfahrens.

Aha. Und wie geht’s weiter? Da fällt Krüger eines ein: Wir brauchen Selbsterklärungskomponenten, die offenbaren, warum eine Maschine eine Entscheidung vorschlägt, beispielsweise im medizinischen Bereich. Und er komplettiert diese Ansicht mit der Erkenntnis, dass wir aufmerksam bleiben sollten. „Irgendwann wird der Doktor zu faul, das ganze jedes Mal wieder neu zu hinterfragen. Denn das System hat ihm ja schon häufig gute Lösungen angeboten. Häufiger als schlechte.“

Auch wenn es schwierig zu sein scheint, Krüger ist mit dieser Sicht nicht allein. Auch Lochbrunner proklamiert das. Die Ergebnisse, die ein Algorithmus liefert, müssen erklärbar sein: Keiner könne von den Nutzern verlangen, dass sie den hoch komplexen Algorithmus verstehen. Man müsse jedoch zumindest erklären können, nach welchem Muster er trainiert wurde und wie er zu dieser und jener Entscheidung gekommen ist. Was einfach und banal klingt hat weitreichende Konsequenzen, die über die reine Programmierung hinausgehen. Krüger findet: „Wir müssen uns mit der Frage beschäftigen, inwiefern Algorithmen verantwortungsvoll designt werden. Nämlich genau diejenigen Algorithmen, die Aufgaben erledigen, die bisher Menschen vorbehalten waren.“

Ausblick

Krüger setzt sich für ein Systemdesign ein, das menschliche Entscheidungen unterstützt. Es soll Balance zwischen der Maschine und dem Mensch herrschen. Wenn wir das sauber hinkriegen, ist das ein riesen Gewinn für uns alle. Ein für Deutschland wichtiges Thema ist die Mensch-Roboter-Kollaboration in der Industrie.

KI-Systeme entfalten ihre Pracht, so Krüger, wenn Entscheidungen mit Unsicherheit behaftet sind. Denn sie haben die Unsicherheit gelernt.

Mensch und Maschine arbeiten gemeinsam an der Werkbank. Der Roboter bringt die repitivien Fähigkeiten und vor allem seine Kraft mit und der Mensch die Feinmotorik und die Fexibilität. Bosch und Airbus forschen hier gemeinsam mit dem DFKI. Aber auch im Rahmen des Innovative Retail Laboratory von Globus will man herausfinden, wie KI und Robotik im Handel der Zukunft eingesetzt werden können. Wir sind froh, dass Professor Dr. Antonio Krüger die Bundesregierung berät. Der Mann kennt sich aus. Und auch so gesehen kann sich die Regierung auf die Schulter klopfen, dass sie sich einen solchen Experten geangelt hat.

Danke, Herr Krüger, für dieses Gespräch.