Prof. Dr. Frens Kroeger ist selbständiger Berater im Bereich Organisationsentwicklung und Technologie. Er hat an Universitäten in Großbritannien, der Schweiz, den USA und Japan gearbeitet, Forschungsprojekte auf vier Kontinenten geleitet und berät heute Unternehmen vom Mittelstand bis zu multinationalen Konzernen. Im ARIC-Interview haben wir mit ihm über Vertrauen, KI und Ökosysteme für Innovation gesprochen.
ARIC Hamburg: Wer bist du und was machst du?
Ich komme aus der Vertrauensforschung, mit einem Fokus auf Organisationen und Technologie. Das ist tatsächlich eine ziemlich seltene Kombination, weil Vertrauen lange vor allem zwischen Menschen gedacht wurde und weniger im Zusammenhang mit Technologie.
Heute arbeite ich als selbständiger Berater und beschäftige mich genau mit dieser Schnittstelle: Wie gehen Organisationen mit neuen Technologien um, und wann sind diese Systeme eigentlich wirklich vertrauenswürdig?
Woraus besteht deine Arbeit?
Ein großer Teil meiner Arbeit kommt aus der Organisationsentwicklung sowie der Informations- und Cybersicherheit, und jetzt immer mehr aus der Beschäftigung mit KI.
In der Praxis spreche ich da oft mit Unternehmen, die sagen: Wir wissen, dass KI wichtig ist, aber was heißt das konkret für uns?
Also: Was kann KI bei uns wirklich leisten? Welche Systeme passen zu uns, und wie binden wir sie so ein, dass sie nicht nur ein Experiment bleiben, sondern echten Mehrwert bringen? Welche Daten dürfen und sollten wir überhaupt nutzen? Und sind wir als Organisation überhaupt bereit dafür, also sind wir „AI ready“?
Und da sind wir oft ganz schnell bei Fragen von Trustworthy AI.
Wie war denn dein Weg zum Thema Trustworthy AI?
Ich habe früh angefangen, mich mit Vertrauen zu beschäftigen – schon seit meiner Promotion in Cambridge – und habe dann später zunehmend mit Tech-Unternehmen zusammengearbeitet. Da habe ich aus erster Hand mitbekommen, wie stark KI alles verändern kann, bei Unternehmen wie IBM, Google, DeepMind oder OpenAI. Und Vertrauen war dabei immer ein Riesenthema.
Dabei wurde mir schnell klar: Die eigentliche Frage ist gar nicht nur, was diese Technologien können, sondern wie Organisationen damit umgehen, und ob sie das auf eine Weise tun, die am Ende auch funktioniert.
Du schreibst auf deiner Website: Trust is at the root of everything we do. It is crucial to successful business, policy and technology. Warum ist Vertrauen deiner Meinung nach so wichtig?
Ohne Vertrauen funktioniert überraschend wenig, vor allem in komplexen Situationen.
Und genau das ist ja unsere Welt: Wir haben ständig mit Dingen zu tun, die wir nicht vollständig verstehen oder kontrollieren können. Wenn wir alles absichern wollten – mit Wissen, mit Regeln, mit Verträgen – würden wir nie ins Handeln kommen. Vertrauen ist im Grunde das, was uns erlaubt, trotzdem Entscheidungen zu treffen.
Und deshalb ist es so zentral, in Unternehmen, in der Politik, und gerade auch bei Technologie. Bei KI wird das besonders sichtbar, weil sie ein neues Niveau an Komplexität mitbringt und ganz konkret beeinflusst, welche Entscheidungen wir treffen.
Was genau bedeutet eigentlich Vertrauen?
Vertrauen heißt im Kern, dass wir mit Unsicherheit umgehen, also dass wir handeln, obwohl wir nicht alle Risiken ausschließen können.
Aber ganz wichtig: Es ist nicht einfach ein „Gefühl“, es darf kein blindes Vertrauen sein. Es muss immer auf bestimmten Grundlagen aufbauen: auf Informationen, auf Erfahrungen, auf begründeten Erwartungen darüber, wie sich jemand oder ein System verhalten wird.
Und genau deshalb kann Vertrauen auch gerechtfertigt sein – oder eben nicht.
Was können wir davon für aktuelle KI-Debatten mitnehmen?
Für die KI-Debatte heißt das vor allem: Weder übermäßiges Vertrauen noch pauschales Misstrauen sind hilfreich.
Wir müssen unser Vertrauen auf feste Füße stellen und die Grundlagen dafür aktiv schaffen. Also verstehen: Kann ein System wirklich das leisten, was wir von ihm erwarten? Geht es verantwortungsvoll mit unseren Daten um? Und arbeitet es auch effizient – oder produziert es z. B. Ergebnisse, die erst mal plausibel scheinen, aber sich später inhaltlich als falsch erweisen? Denn all das entscheidet darüber, ob Vertrauen gerechtfertigt ist oder nicht.
Und genau das ist im Kern die Idee von Trustworthy AI.
Welche Rolle spielen Ökosysteme, wenn es um vertrauenswürdige KI geht?
Eine sehr große. Ökosysteme sind wichtig, weil sie überhaupt erst die Grundlage schaffen, um Vertrauenswürdigkeit sicherzustellen. KI-Nutzung passiert ja nicht im luftleeren Raum, sondern im Zusammenspiel vieler Akteure: Anbieter, Plattformen, Datenquellen, interne und externe Partner. Und Vertrauenswürdigkeit muss sich durch diese gesamte Kette ziehen.
Das Problem ist nur: Diese Komplexität erzeugt auch eine enorme Unübersichtlichkeit. Die entscheidende Frage ist oft nicht, ob es Lösungen gibt, sondern welche man sinnvoll einsetzen kann – und woran man erkennt, ob sie wirklich vertrauenswürdig sind.
Und genau an dieser Stelle gibt es aus meiner Sicht gerade eine zentrale Lücke, an der ich auch mit einem Partner arbeite. Nämlich Orientierung zu schaffen für die ganz praktische Frage: Welche Formen von KI sind in einem konkreten Unternehmenskontext wirklich vertrauenswürdig?
Was kann ein interdisziplinäres Zentrum wie das ARIC leisten?
Ein interdisziplinäres Zentrum wie das ARIC kann genau an dieser Stelle einen echten Unterschied machen. Wir müssen alle zusammenarbeiten, um solche komplexen Fragen gemeinsam zu durchdringen, und ARIC ist besonders stark darin, dafür die richtigen Leute zusammenzubringen.
Gerade bei einem Thema wie Trustworthy AI ist das entscheidend, weil es eben nicht nur eine technische Frage ist. Es geht immer auch um Organisation, Prozesse und Entscheidungen.
Und ARIC kann helfen, dabei Orientierung zu entwickeln – also nicht nur Wissen zu teilen, sondern auch ein gemeinsames Verständnis davon zu schaffen, was in der Praxis funktioniert und was nicht.
Willst du noch etwas hinzufügen?
Ich würde Unternehmen vor allem mitgeben: Wartet nicht zu lange, und bleibt nicht einfach nur bei den LLMs hängen, also bei ChatGPT und Co. Firmen, die sich jetzt ernsthaft mit KI beschäftigen, bauen sich gerade echte Vorteile auf.
Gleichzeitig sollte man sich aber auch nicht blind reinstürzen. Gerade bei KI entscheidet sich oft schon bei der Auswahl und der Art der Einbindung, ob sie am Ende wirklich funktioniert, oder ob man sich Probleme ins Haus holt.
Und genau deshalb ist Trustworthy AI kein „nice to have“, sondern die Grundlage dafür, dass KI im Alltag wirklich funktioniert.
Interview: Sabrina Pohlmann
Mit unseren Interviews wollen wir euch verschiedenen Perspektiven und Akteure im Themenfeld KI vorstellen. Die Positionen unserer Interviewpartner:innen spiegeln nicht zwingend die Positionen des ARICs wider.
Weitere Interviews:
