In Trust We Trust

Heute wird es wieder etwas technischer. Aber wir schlagen auch heute letztlich wieder den Bogen zurück zu Mensch und Arbeit, versprochen.

Künstliche Intelligenz wird immer allgegenwärtiger. Und mit der immer stärker werdenden Durchdringung unseres Alltags durch KI wächst auch die Skepsis. Wir in Deutschland gelten ja eh oft schon als fortschrittsfeindlich. Und jetzt haben wir hier noch eine neue Technologie, ja vielleicht sogar eine neue Kulturtechnik, die an unsere Türe klopft und das Potenzial innehat, uns Entscheidungen abzunehmen.

Ja, wir mögen es nicht sonderlich, offensichtlich bevormundet zu werden. Und wenn wir schon auf die Empfehlung, welchen Film wir als Nächstes schauen sollen, steil gehen, was passiert dann wohl, wenn KI unsere Fahrzeuge lenkt, medizinisches Diagnosen stellt oder darüber entscheidet, wer wo arbeiten darf oder wie hoch die eigenen Versicherungsprämien ausfallen?

Tatsächlich sind wir mit der Problematik nicht allein. International wird an diesem Thema geforscht, auch interdisziplinär. Ich hatte zum Beispiel gerade erst die Gelegenheit, eine wirklich großartige Keynote von Prof. Rebecca Nugent vom AI Institute for Societal Decision Making an der Carnegie Mellon University zu hören, die zeigt: auch über den großen Teich hinwegsieht es nicht viel anders aus mit dem Vertrauen in KI.

Was also können wir tun, damit AI vertrauenswürdiger wird? Nun, vieles. Und irgendwie zugleich auch erschreckend wenig, solange Menschen nicht vertrauen.

Aber bleiben wir bei der Technik. Werfen wir einen Blick auf TrustworthyAI.

Was ist Trustworthy AI?

In der EU haben wir nicht nur einen AIAct (der im Übrigen sehr viel besser ist als sein Ruf und um den uns viele andere Staaten der Welt beneiden – das habe ich mir zumindest von vertrauenswürdig erscheinenden Personen sagen lassen), wir haben auch Ethik-Leitlinien für vertrauenswürdige KI (und das schon seit 2019). Schauen wir uns deren sieben Kernforderungen doch einmal an:

1. Vorrang menschlichen Handels und menschlicher Aufsicht

2. Technische Robustheit und Sicherheit

3. Privatsphäre und Datenschutz, Schutz der Datenqualität

4. Transparenz

5. Vielfalt, Nichtdiskriminierung und Fairness

6. Gesellschaftliches und ökologisches Wohlergehen

7. Rechenschaftspflicht

Liest sich gar nicht mal so schlecht, oder? Wenn man diese Forderungen aber mit dem abgleicht, was momentan so abgeht, scheint Trustworthy AI nur ein Wunschtraum zu sein. Ja, gerade die großen Techplayer scheinen sich keinen Deut für auch nur eins dieser Kriterien zu interessieren.

Ich halte es deshalb für umso wichtiger, den Blick vielleicht etwas mehr schweifen zu lassen. Was passiert abseits der riesigen (und immer größer werdenden) generativen KI-Modelle? Und liegen in diesen oft unscheinbaren Nebenschauplätzen vielleicht Möglichkeiten, diese Kriterien zu erfüllen?

Ich denke: ja, das ist der Fall. Kleinere Modelle und einfachere Algorithmen sorgen für mehr Nachvollziehbarkeit. Besser kuratierte und auf den Anwendungszweck erstellte Daten reduzieren Bias-Effekte und sorgen für bessere Privatsphäre. Isoliert und lokal betriebene Modelle bieten mehr Sicherheit und Datenschutz. Und selbst im LLM-Bereich bieten europäische Wege Alternativen an, die nicht nur all dies, sondern auch rechtliche und regulatorische Aspekte von vornherein abdecken.

Vertrauen?

Trustworthy AI ist aber mehr als nur eine Reihe technischer Spezifikationen und rechtlicher Vorgaben. Es geht um nicht weniger als die Schaffung einer Vertrauenskultur zwischen Mensch und Maschine. Vertrauen ist die Grundlage jeder produktiven Beziehung – sei es zwischen Mensch und Mensch oder zwischen Menschen und Technologie (ihr ahnt vielleicht schon, wo das hinführt). Ist ein grundsätzliches Vertrauen gegeben, so eröffnet dies neue Möglichkeiten. Da, wo Vertrauen herrscht, ist Platz für

• Effizientere Zusammenarbeit, insbesondere in komplexen Entscheidungsprozessen.

• Größere Innovationspotenziale, denn Vertrauen bringt oft genug auch den Mut zum Experimentieren, gemeinsame Erfolge, aber auch das gemeinsame Durchstehen von Fehlschlägen mit sich.

• Höhere Akzeptanz von Meinungen und Veränderungen. Wenn Vertrauen gegeben ist, sind alle Beteiligten optimistischer und blicken konstruktiver auf unterschiedliche Perspektiven. Sie sind auch eher bereit, Veränderungen, die eine Verbesserung versprechen, in Kauf zu nehmen.

Und das gilt offensichtlich sowohl zwischenmenschlich als auch in der Mensch-Maschine-Interaktion.

Mehr Vertrauen in KI durch vertrauenswürdigeren Umgang mit KI

Um das volle Potenzial von KI zu erschließen, müssen wir aktiv an der Schaffung vertrauenswürdiger Systeme arbeiten. Handlungsfelder gibt es hier einige, nennen möchte ich zum Beispiel:

• Mehr Transparenz. KI-Hersteller müssen besser und offener kommunizieren, wie ihre Systeme und Prozesse funktionieren und mit welchen Daten ihre Systeme trainiert.

• Ethik. Es braucht klare Grenzen für den Einsatz von KI. KI ist ein großartiges Werkzeug, aber wir sollten uns vom Gedanken, dass KI in gewissen Bereichen Menschen ersetzt, verabschieden.

• Vor allem aber Bildung und Aufklärung. In einer Welt, in der KI allgegenwärtig ist, müssen alle Menschen die Chance bekommen, die Wirkprinzipien von KI zu verstehen. Datenkompetenz zu entwickeln. Und damit Menschen überhaupt erst die Möglichkeit zu geben, KI zu vertrauen.

Vertrauen ist menschlich

Menschen, die anderen Menschen nicht vertrauen, werden auch KI nicht vertrauen.

Vertrauen ist das Fundament jeder erfolgreichen Beziehung, ob in der Familie, unter Freunden, Kollegen, Geschäftspartnern oder in der Gesellschaft als Ganzes. Vertrauen ist der Klebstoff, der Teams zusammenhält, Innovationen ermöglicht und Unternehmen wachsen lässt.

In einer Welt, die zunehmend von Technologie geprägt ist, wird die Fähigkeit, Vertrauen aufzubauen und zu pflegen, zu einer Schlüsselkompetenz (und damit, nebenbei gesagt, wird Vertrauen zu können zu einem Fundament für die sog. Future Skills).

Und man merkt es vielleicht schon: Die Prinzipien der Trustworthy AI spiegeln viele der Eigenschaften wider, die wir in vertrauensvollen menschlichen Beziehungen schätzen:

• Wir wünschen uns Transparenz und Offenheit in der Kommunikation. Egal, ob wir mit Menschen agieren oder technische Systeme nutzen.

• Fairness und Nichtdiskriminierung sind Grundlagen respektvollen Umgangs. Wir meiden Menschen, von denen wir uns unfair behandelt fühlen. Und genauso meiden wir KI-Systeme, die uns unfair behandeln.

• Erfolgreiche menschliche Zusammenarbeit ist davon geprägt, dass Menschen Verantwortung für ihr Handeln übernehmen. Auch die Herstellung und der Einsatz von KI sind von solchen Verantwortlichkeiten geprägt. Und spiegeln sich in ethischen und regulatorischen (Selbst-)Verpflichtungen wider.

Eine Kultur des Vertrauens

Viele Organisationen stehen heutzutage vor der wichtigen Entscheidung, ob und in welchem Maß sie auf den KI-Zug aufspringen sollen.

KI wird meiner Meinung, abseits des Hypes, ihr volles Potenzial dort entfalten können, wo sie als vertrauensvolle KI auf Organisationen trifft, deren gesamte Kultur bereits auf einem tiefen Vertrauen aller Beteiligten zueinander trifft.

Wo Werte wie Transparenz, Offenheit und Diversität auf kontinuierliche Kommunikation, Empathie, konstruktiven Umgang und Wertschätzung treffen.

Der Titel des Artikels, “In Trust We Trust”, ist mehr als ein Wortspiel – Vertrauen ist eine Notwendigkeit für die erfolgreiche Integration von KI in unsere Gesellschaft und für unser Zusammenleben im Allgemeinen. Indem wir in vertrauenswürdige KI und vertrauensvolle menschliche Beziehungen investieren, schaffen wir eine Grundlage für Innovation, Zusammenarbeit und nachhaltigen Erfolg.

Damit sind wir für heute durch. Ich halte es immer wieder für erstaunlich, wie viel wir durch die Betrachtung von moderner künstlicher Intelligenz über das eigentliche Menschsein lernen können. Das sind wirklich spannende Zeiten, in denen wir leben.

Ich bin Hendrik und ich mache Digitalisierung für normale Menschen. Damit das Leben und Arbeiten im Digitalzeitalter lebenswert bleibt. Dazu gehört es auch, über KI und ihre Einsatzmöglichkeiten aufzuklären und dieses Wissen für bessere Wertschöpfung zu nutzen.