Eine verlässliche KI-Governance etablieren

Artikel als PDF (Download)

 

Künstliche Intelligenz (KI) hält immer stärker Einzug in den Unternehmensalltag – auch in Führungs­etagen von Unternehmen. Für Verantwortliche stellt sich dann allerdings schnell die Frage: Wie haftet man eigentlich, wenn man „falsche Entscheidungen“ aufgrund von „falschen“ KI-Ergebnissen trifft?

KI als Unterstützung für Managemententscheidungen

In diesem Beitrag geht es um die Haftung von Verantwortlichen bei Nutzung von künstlicher Intelligenz – ein Thema mit zunehmender Relevanz und Brisanz. Denn die Arbeit von Vorstandsmitgliedern, Geschäftsführern und Aufsichtsräten wird in Anbetracht steigender Herausforderungen komplexer, unter anderem im Zusammenhang mit der Digitalisierung und der aktuellen weltwirtschaftlichen Situation.

Verständlich also, dass Verantwortliche Unterstützung ­suchen, um Aufgaben effizient erledigen zu können. ­Warum dann nicht auch auf KI zurückgreifen? Denn gerade bei datengetriebenen Themen kann KI hilfreich sein, um auf effiziente Weise Entscheidungsgrundlagen zu schaffen.

KI als nichtmenschlicher Entscheidungshelfer

Doch was passiert, wenn die künstliche Intelligenz ­„Fehler“ macht und unbrauchbare Ergebnisse liefert, auf deren Grundlage falsche und schädigende Unternehmensentscheidungen getroffen werden? Müssen sich menschliche Entscheider diese Fehler zurechnen lassen?

Hier stößt das etablierte Haftungssystem des gesetzlichen Deliktrechts an Grenzen. Denn KI-Systeme treffen Entscheidungen auf der Grundlage von Daten und Algorithmen – ohne menschliche Einwirkung. Verantwortlichkeit im rechtlichen Sinne auf „die KI“ abzuwälzen funktioniert nicht.

EU-Recht für KI-Einsatz entsteht

Im Hinblick darauf, ob und wie künstliche Intelligenz im Unternehmen eingesetzt wird, sind Verantwortliche im Rahmen ihrer Entscheidungskompetenz frei – zum Beispiel im Hinblick darauf, ob ein Mensch oder eine KI ­Informationen als Entscheidungsgrundlage aufbereitet.

Künftig wird allerdings eine EU-Verordnung (KI-VO-E) einen rechtlichen Rahmen für den Umgang mit künst­licher Intelligenz in Unternehmen vorgeben. Dabei sieht der aktuelle Entwurf unter anderem ein Pflichten­programm für den Einsatz von KI vor. Die Verletzung von Pflichten kann dann Strafen zur Folge haben und sich auch auf die Haftung von Verantwortlichen aus­wirken.

Wie mit KI umgehen?

Wegen potentieller Haftungsrisiken auf den Einsatz von künstlicher Intelligenz zu verzichten wird mittelfristig ­keine Lösung sein. Es gilt also, einen Weg zu finden, der effiziente Unterstützung der Managementarbeit bietet, aber keine unkalkulierbaren Haftungsrisiken birgt.

Damit das gelingt, ist es zunächst wichtig, verwendete bzw. geplante KI-Systeme zu erfassen, um mit den verantwortlichen Stellen im Unternehmen eine Risikobewertung (Datenschutz, IT-Sicherheit, Geschäftsgeheimnisse etc.) vorzunehmen.

Wird KI eingesetzt, sollte das außerdem möglichst nachvollziehbar sein und genau dokumentiert werden. Gleichzeitig ist sicherzustellen, dass künstliche Intelligenz nicht autonom schaltet und waltet, sondern eine menschliche Kontrolle durch qualifiziertes Fachpersonal stattfindet. Und nicht zuletzt müssen Strukturen und Verantwortlichkeiten geschaffen werden, die das Vorstehende überwachen. Kurzum: Es gilt, eine verlässliche KI-Governance zu ­etablieren.

Kein Blindflug beim Einsatz von KI

„Augen zu und durch“ funktioniert im Umgang mit KI im Unternehmen nicht. Wer in den Vorstands­etagen künstliche Intelligenz einsetzen will, muss auf enge ­Zusammenarbeit mit den Bereichen IT, Datenmanagement und Recht & Compliance setzen, um Haftungs­risiken zu minimieren.

Denn wer passende KI-Systeme mit maximaler Verlässlichkeit zum Einsatz bringt, wird nicht für Fehlentscheidungen auf der Basis von falschen KI-Berechnungen haften: Haben Verantwortliche bei der Entscheidung über und im Umgang mit KI im Rahmen ihrer Geschäftsführung die Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters angewendet (vgl. § 93 Abs. 1 Satz 1 AktG), kann sich nichts anderes ergeben.

Fazit

Die wichtigsten Eckpunkte für den Umgang mit künst­licher Intelligenz im Unternehmen lauten zusammen­gefasst:

• Der Einsatz von künstlicher Intelligenz im Rahmen von Managemententscheidungen ist möglich.
• Bei Einführung und Nutzung von KI-Systemen müssen Verantwortliche eng mit den Bereichen IT, Daten­management und Recht & Compliance zusammen­arbeiten (KI-Governance).
• Handeln Verantwortliche mit der Sorgfalt eines ordentlichen und gewissenhaften Geschäftsleiters, minimieren sich Haftungsrisiken, die auf der Grundlage „falscher“ KI-Ergebnisse getroffen wurden.

 

Hinweis der Redaktion:
Siehe hier auch den Beitrag „Haftung für Schäden durch Künstliche Intelligenz: Worauf muss sich HR vorbereiten?“ von Dr. Michael Eschenbacher. (tw)