Wenn wir über künstliche Intelligenz (KI) und Ethik sprechen, dann beziehen wir uns nicht in erster Linie auf dystopische Anwendungen, in denen ein autonomer Roboter stur und ohne menschliche Kontrolle in Terminator-Manier Entscheidungen über Leben und Tod trifft. Das soll natürlich nicht heißen, dass ein kritischer Diskurs zum Beispiel über autonome Waffen nicht dringend erforderlich wäre – im Gegenteil, wie das Slaughterbots-Video vom Future of Life Institute und dem renommierten Berkeley-Professor Stuart Russell sehr eindrucksvoll vor Augen führt.
Aber so weit müssen wir gar nicht gehen: Bereits aktuelle KI-Anwendungen haben bisweilen erhebliche Auswirkungen auf Verbraucher und stellen daher Unternehmen vor wichtige Fragen in Sachen Governance und Ethik. Der Einsatz von KI in der Wirtschaft dient unter anderem dazu, Entscheidungen zu automatisieren, die bislang von einem Menschen, also zum Beispiel einem Sachbearbeiter oder Experten, getroffen wurden: Ein Credit-Scoring beurteilt meine Kreditwürdigkeit als Bankkunde. Eine Versicherung entscheidet in ihrem automatisierten Underwriting, ob sie bereit ist, meine persönlichen Risiken zu versichern. Der Dermatologe bewertet mittels Bildanalyse mein Hautkrebsrisiko. All das ist heute schon Realität und fordert von anwendenden Unternehmen Erklärbarkeit und Transparenz. Wir müssen nicht erst das moralische Dilemma bemühen, in dem sich selbstfahrende Autos (und nebenbei: auch menschliche Fahrer) befinden, wenn sie nur noch die Wahl haben zwischen einem Frontalaufprall, dem Ausweichen nach links in eine Gruppe von drei Greisen oder dem Ausweichen nach rechts in eine Kleinfamilie.
Konsequenzen besser gut durchdenken
Wir sprechen von viel banaleren, aber dennoch folgenschweren Entscheidungen. So wusste beispielsweise die US-Supermarktkette Target bereits über die Schwangerschaft einer Teenagerin Bescheid, noch bevor ihr Vater im Bilde war. Das geht mit dem Sammeln von Warenkorb- und Verbraucherinformationen relativ einfach: Wenn eine 19-jährige Frau aus Portland im März eine Kakaobutter-Lotion, eine große Tasche, Zink- und Magnesiumpräparate und einen hellblauen Teppich kauft, kann ein Scoring-Algorithmus daraus eine recht hohe – sagen wir mal 87-prozentige – Wahrscheinlichkeit für eine Schwangerschaft mit einem Geburtsdatum Ende August ermitteln. Ist es eine gute Idee, dieses Wissen jetzt auszuspielen und Gutscheine für Babyartikel oder Glückwünsche zur Schwangerschaft zu versenden? Target jedenfalls hat die junge Frau in einer Kampagne angeschrieben und einschlägige Coupons geschickt – sehr zur Überraschung des künftigen Großvaters 😊. Das anschließende Vater-Tochter-Gespräch dürfte ziemlich emotional gewesen sein.
Dieses Beispiel zeigt deutlich, dass Unternehmen die Konsequenzen ihrer automatisierten Entscheidungen und auch die gelernten Regeln für die Kundenansprache besser gut durchdenken sollten. In der Tat sind sich viele Unternehmen schon bewusst, dass mangelhafte oder problematische Ergebnisse negativ auf sie zurückfallen können, und es leuchtet ein, dass sie daher Maßnahmen für einen ethischen Umgang mit KI ergreifen und die Kontrolle behalten wollen.
KI-Thought-Leader legen viel Wert auf ethisches Handeln
SAS hat eine Forbes-Studie unterstützt, die die Wechselwirkungen von KI und Ethik untersucht. Die Forscher haben 305 Business Leader weltweit befragt, darunter CIOs, CTOs oder Chief Analytics Officer. Die Ergebnisse zeigen, dass 70 Prozent der Unternehmen weltweit, die KI bereits einsetzen, Ethiktrainings für ihre IT-Mitarbeiter durchführen. 63 Prozent verfügen sogar über Ethikkommissionen, um den Umgang mit KI zu bewerten. Dabei gibt es auch einen Zusammenhang zwischen Thought Leadership und ethischem Bewusstsein: 92 Prozent der Unternehmen, die ihre KI-Implementierung als „erfolgreich“ bezeichnen, trainieren ihre Technologieexperten in ethischen Fragen – im Vergleich zu gerade mal 48 Prozent der Unternehmen, die in Sachen KI-Nutzung noch nicht so weit sind.
Jetzt die Ergebnisse der Studie ansehen.Die Beschäftigung mit KI und Ethik ist also keine rein philosophische und gesellschaftspolitische Angelegenheit. Sie stellt Unternehmen heute vor die konkrete Aufgabe, sich mit Governance, Transparenz und Erklärbarkeit auseinanderzusetzen. Im zweiten Teil dieses Blogs zu KI und Ethik skizziere ich Möglichkeiten aus Prozess- und Technologiesicht, sich diesen Fragen zu nähern.
Blicken Sie hinter den Hype. Die Podcastreihe “KI kompakt” bringt Sie in nur 15 Minuten pro Sendung auf den neusten Stand der Dinge in Sachen Artificial Intelligence.