Können wir künstlicher Intelligenz vertrauen?

Vor gut einem Jahr wurde in Berlin das Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) gegründet. Im Mittelpunkt seiner Arbeit steht der Schutz von Verbraucherinnen und Verbrauchern: Wie lässt sich sicherstellen, dass KI-Lösungen vertrauenswürdig sind? Wie lassen sich faire, verlässliche und transparente KI-Systeme erkennen und fördern? Die ZVKI-Mitarbeiterinnen Jaana Müller-Brehm (links) und Verena Till geben Antworten.

Künstliche Intelligenz (KI) war noch vor einigen Jahren ein Begriff, der sehr stark an Science Fiction erinnerte. Inzwischen sind wir fast alle in unserem privaten und beruflichen Leben von KI-Lösungen umgeben.

Eine Anwendung, die KI-Verfahren nutzt und die viele nicht mehr missen möchten und als vertrauenswürdig beurteilen, ist das Navigationsgerät. Nur wenige ziehen die Vorschläge ihres „Navis“ in Zweifel. Doch das Vertrauen in das Navigationsgerät kann auch fatale Folgen haben: Schon mehr als einmal sind Autos in Flüssen gelandet, weil es sie dorthin geführt hat.

Wenn KI in unserem Leben immer mehr Raum einnimmt, dann stellt sich die Frage: Unter welchen Bedingungen können wir KI-Software vertrauen? Und was bedeutet das für unsere Gesellschaft, in der KI-Verfahren an Bedeutung gewinnen? Das ZVKI (Zentrum für vertrauenswürdige Künstliche Intelligenz) hat sich diese und andere Fragen auf die Fahne geschrieben und arbeitet an verschiedenen Projektbestandteilen rund um das Thema „vertrauenswürdige KI“. Die Einrichtung wurde im Dezember 2021 als ein Projekt des unabhängigen Think Tank iRights.Lab in Zusammenarbeit mit den Fraunhofer-Instituten AISEC und IAIS sowie der Freien Universität Berlin gegründet. In einem Interview erklären uns Projektkoordinatorin Verena Till und ihre Kollegin Jaana Müller-Brehm, was genau KI und Vertrauen miteinander zu tun haben – und vor welche Herausforderungen uns das in Zukunft stellen wird.

Verbraucherschutz im Mittelpunkt

Verena Till erläutert die Tätigkeit des Zentrums: „Das ZVKI ist ein Förderprojekt des Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV). Ziel ist es, eine Schnittstelle zwischen Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft zu bilden, um die ethischen Grundlagen für KI näher zu beleuchten.“ Dabei steht die Frage im Mittelpunkt, unter welchen Bedingungen KI-Anwendungen als vertrauenswürdig gelten können. Aus der Perspektive des Verbraucherschutzes soll ermittelt werden, wie informiert sich die Bevölkerung beim Thema KI fühlt, welche Informationen fehlen und welche Rahmenbedingungen vertrauenswürdige KI sicherstellen. Sowohl Verbraucherinnen und Verbraucher als auch Wirtschaft und Politik sollen für dieses wichtige Thema sensibilisiert werden, erklären die beiden Mitarbeiterinnen des ZVKI.

Ob Roadshows, Publikationen oder Zertifizierung für KI-Produkte: Das Spektrum der Aktivitäten und Ansätze des ZVKI ist breit. Und das ist verständlich und wichtig, wie Verena Till erklärt: „KI nimmt eine immer größere Relevanz in unserem Leben ein, die Diskussion um die gesellschaftlichen Auswirkungen muss daher ebenfalls an Fahrt aufnehmen. Es stellen sich eine Reihe von Fragen, um die technologischen Entwicklungen in eine für unsere Gesellschaft wünschenswerte Richtung zu lenken. Themen und Aufgaben gibt es genügend.

Befasst man sich mit dem Thema KI, dann stellt sich zunächst die Frage nach der Definition. „Damit haben wir schon die erste Herausforderung“, so Jaana Müller-Brehm. „Der Begriff 'künstliche Intelligenz' stammt aus den 1950er-Jahren. Damals verband man damit das Anliegen, menschliche Intelligenz mithilfe von Computern und Software nachzubauen. Dieses Vorhaben lässt sich als gescheitert ansehen.“ Inzwischen, so die beiden Expertinnen weiter, werde der Begriff KI deutlich breiter benutzt. Unter KI-Lösungen fallen selbstlernende Systeme, die mithilfe von Verfahren des sogenannten Maschinellen Lernens Algorithmen entwickeln, um ganz spezifische Probleme zu lösen. Entsprechende Programme werden dafür eingesetzt, um riesige Datenmengen zu analysieren und darin Muster und Ähnlichkeiten zu erkennen. So analysieren beispielsweise KI-Anwendungen bei Viedeoplattformen Muster aus dem Klickverhalten der Nutzerinnen und Nutzer und leiten unter anderem daraus Empfehlungen für Inhalte ab. Oftmals werden allerdings auch recht einfache Systeme, deren Codes komplett von Entwicklern vorgegeben wurden als KI bezeichnet. Solche sehr eingeschränkten Lösungen finden sich zum Beispiel im Kundenservice in Form von einfachen Chat-Bots.

„Wir müssen eine Klammer für diese Vielzahl an Methoden und Ansätzen finden, die unter dem Begriff 'KI' firmieren. Häufig geht es bei künstlicher Intelligenz um verschiedene Methoden maschinellen Lernens. Wir unterscheiden daher zwischen lernenden und nicht-lernenden algorithmischen Systemen“, so die Erläuterung der Expertinnen.

Für Verena Till ist es im Kontext der Verbraucherinformation allerdings nicht entscheidend, ob ein System oder eine Methode wirklich als „KI“ bezeichnet werden kann oder nicht. Viel wesentlicher ist aus ihrer Sicht, dass Algorithmen und KI-Systeme eine immer stärkere Rolle im Alltag der Menschen spielen und damit die Frage nach der Vertrauenswürdigkeit dieser rasant zunehmenden Technologien zunehmend zentraler wird. Jaana Müller-Brehm fasst diesen Gedanken etwas weiter: „Technologische Entwicklungen wie die Digitalisierung sind immer zweischneidig. Es ist wichtig, die positiven Möglichkeiten zu fördern und die negativen Auswirkungen zu minimieren – also den Gestaltungsspielraum wahrzunehmen.“

Mittels verschiedener Studien, Meinungsumfragen (siehe Grafiken) sowie im Rahmen von Veranstaltungen versucht das ZVKI, sich ein Bild von der Meinung der Bevölkerung in Sachen artifizielle Intelligenz zu machen. Dabei zeige sich ein in gewisser Hinsicht widersprüchliches Bild, erläutern die Expertinnen. „Bei allgemeinen Umfragen äußern sich Verbraucherinnen und Verbraucher eher skeptisch gegenüber KI“, erzählt Jaana Müller-Brehm. „So glauben nur wenige daran, dass KI für faire Ergebnisse sorgt, und die Furcht vor Missbrauch ist sehr groß.“ Auch misstraue man KI-gestützten Methoden in einigen Einsatzgebieten sehr stark, so zum Beispiel im Bereich Pflege, im Finanzsektor oder in der Rechtsprechung, erklärt sie weiter.

Andererseits sei der konkrete Umgang mit KI oftmals recht unkritisch, so als gelte gegenüber der Technologie blindes Vertrauen – etwa bei den Werten einer Fitness-App oder dem eingangs erwähnten Navi im Auto.

Für die Expertinnen des ZVKI zeigt sich in dieser Ambivalenz der Mangel an Wissen rund um KI. „Wenn wir auf Veranstaltungen oder Roadshows unterwegs sind, hören wir immer wieder den Wunsch nach mehr Aufklärung. Dies ist aus unserer Sicht ein zentrales Thema.“ Es müsse eine bessere Versorgung mit zielgruppengerechten Informationen geben und eine verständlichere Aufbereitung. „Wir wollen mündige Verbraucherinnen und Verbraucher, die über das notwendige Wissen verfügen, um die Chancen und Risiken von KI-Lösungen besser beurteilen zu können“, so der Wunsch der Mitarbeiterinnen des ZVKI.

Sind denn Hersteller und Entwicklungsunternehmen von KI an einer solchen Aufklärung der Kundschaft ebenfalls interessiert? Nach den Erfahrungen von Till und Müller-Brehm unterstützt die Wirtschaft die Aktivitäten des ZVKI durchaus: „Wir machen da sehr gute Erfahrungen. Natürlich arbeiten nicht alle Unternehmen mit, aber eine Reihe wichtiger Partner sind schon dabei. Sie sehen durchaus die Vorteile, wenn gegenüber neuen Technologien Vertrauen aufgebaut wird.“

So werde beispielsweise über eine Zertifizierung von KI-Lösungen nachgedacht. Diese wäre ein wichtiger Beitrag, um die Vertrauenswürdigkeit von KI-Software besser beurteilen zu können, so die beiden ZVKI-Kolleginnen. Solche Zertifikate können als Gütesiegel fungieren und den Verbraucherinnen und Verbrauchern mehr Sicherheit geben. Ob das tatsächlich gelingt, ist abhängig davon, wie Zertifizierungsprozesse gestaltet werden. Dazu zählt beispielsweise, ob die Prüfung entsprechender Anwendungen durch externe Gutachter erfolgt. Zugleich stellen Standards, Zertifikate und Siegel nur einen Baustein von vielen dar, um KI-Systeme so zu gestalten, dass sie den Einzelnen und der Gesellschaft nicht schaden.

Was bedeutet „vertrauenswürdige KI“?

Um die Idee einer Zertifizierung und weitere Maßnahmen zu konkretisieren, muss zunächst geklärt werden, was „vertrauenswürdige KI“ konkret bedeutet. „Den Begriff Vertrauen eindeutig zu definieren, kann keine Aufgabe für uns als ZVKI sein. Darüber diskutieren verschiedenste Disziplinen schon seit Jahrhunderten“, erläutert Verena Till. „Wir brauchen eine praxistaugliche Herangehensweise. Unsere Fragestellung lautet: Was bedeutet Vertrauenswürdigkeit in Verbindung mit KI-Technologie?“ Um darauf eine Antwort zu finden, breche man den Begriff Vertrauen auf einzelne Aspekte herunter, erläutern die Expertinnen weiter. Als wesentliche Bausteine von vertrauenswürdiger KI hat das ZVKI unter anderem die Aspekte „Fairness“, „Verlässlichkeit“ oder „Transparenz“ identifiziert.

Um eine KI-Lösung hinsichtlich ihrer Vertrauenswürdigkeit zu beurteilen, ist es erforderlich zu überprüfen, wie die jeweilige Software programmiert wurde, erläutert Verena Till. Man schaut also, ob eine Lösung so aufgesetzt wurde, dass sie für den jeweiligen Anwendungsfall faire, verlässliche und transparente Ergebnisse liefert.

Das Beispiel Verlässlichkeit, so die Expertinnen, mache deutlich, dass KI-Verfahren nicht unabhängig von ihren Einsatzkontexten beurteilt werden können. So zeige eine KI-gestützte Produktionsanlage zum Beispiel keine Ermüdung und kann deshalb theoretisch durchgehend mit einer ziemlich konstanten Leistung arbeiten. „Dadurch und durch die Auswertung der Produktionsabläufe können Ausschuss und Materialverschwendung sinken“, so Jaana Müller-Brehm. Sie ergänzt, dass andererseits eine KI-Lösung, die auf fehlerhaften Vorannahmen basiert, Unverlässlichkeit automatisieren und damit auch vervielfachen könne. Zudem können gesellschaftliche Stereotype und Vorurteile an verschiedenen Stellen der KI-Entwicklung und des -Einsatzes in KI-Anwendungen getragen werden. Sie werden durch den Einsatz einer solchen KI-Anwendung immer wieder reproduziert. „Methoden zu entwickeln und sichtbar zu machen, um solche Mechanismen aufzudecken ist ein Ziel unserer Arbeit“, erklären Verena Till und Jaana Müller-Brehm.

Das ZVKI hat seit Projektbeginn Strukturen geschaffen und Maßnahmen umgesetzt, um das Thema vertrauenswürdige KI interdisziplinär zu diskutieren. Es wurde ein Netzwerk aufgebaut, welches Stakeholder aus Wissenschaft, Wirtschaft, Politik, Kultur und Zivilgesellschaft sowie deren Ansätze und Ideen zusammenbringt.

„Wir hoffen, dass es uns in den kommenden Jahren gelingt, eine nachhaltige und möglicherweise auch international vernetzte Plattform zu etablieren, die den Dialog von Wirtschaft, Wissenschaft und Politik auch in Zukunft sicherstellt“, so die beiden ZVKI-Mitarbeiterinnen.

Im Fokus des Projekts steht daher derzeit auch die Gründung eines gemeinnützigen Vereins, der die Projektziele über die Förderungsphase hinaus weiterverfolgen soll.

Für die beiden ZVKI-Mitarbeiterinnen ist das Thema Verbraucherinformation und Aufklärung ebenso wie die Frage nach Zertifikaten nicht in ein oder zwei Jahren abschließend gelöst: „Die technischen Entwicklungen sind rasant und dynamisch. Darauf muss immer wieder neu reagiert werden. Der technologische Fortschritt sollte mit einer Diskussion um Ethik und Werte gekoppelt sein, damit wir sicherstellen, dass die Technologieentwicklung eine gesellschaftlich positive Richtung nimmt.“