In unserer neuen Reihe „ARIC fragt...” führen wir Kurzinterviews mit interessanten Persönlichkeiten aus der KI-Branche und beginnen dabei mit Robert Kilian, dem Geschäftsführer von CertifAI, einem KI-Zertifizierungs- und Softwareanbieter für KI-Systeme. Seine Keynote zum Thema Software-Testing und risikobasierte Regulierung als Grundlage für das Vertrauen in KI streamen wir live auf dem ARIC Linkedin-Kanal.
ARIC: Was ist CertifAI? Was genau macht CertifAI?
Robert Kilian: CertifAI ist ein Test- und Prüfunternehmen für KI-Systeme, das als Joint Venture zwischen PwC, DEKRA und der Stadt Hamburg gegründet wurde. Mit unseren Experten für KI-Technologie und Regulierung sind wir in der Lage, KI-Systeme nach Kriterien wie Robustheit, Sicherheit und Fairness, aber auch auf ihre Konformität mit regulatorischen Anforderungen zu bewerten. Letztlich sorgen wir für Qualitätssicherung vor allem in den Zielbranchen Automotive, Banking, Smart Manufacturing und Healthcare. Dafür entwickeln und betreiben wir Software für das Testen von KI-Systemen und führen Audits zur Prüfung und Zertifizierung dieser Systeme durch.
Wann ist eine KI deiner Meinung nach verantwortungsvoll?
Wir definieren Vertrauenswürdigkeit von KI entlang von sieben Dimensionen:
- Fairness
- Autonomie & Kontrolle
- Zuverlässigkeit
- Datenschutz
- Transparenz
- Sicherheit
- Nachhaltigkeit
In diesem Zusammenhang spiegelt sich zum Beispiel die Fairness eines KI-Systems vorrangig in den Daten für dessen Training und Testen wieder. Diese müssen ausgeglichen und repräsentativ sein, um eine spätere Diskriminierung beim Einsatz der KI zu vermeiden. Autonomie & Kontrolle des Menschen betreffen die Aufgabenverteilung zwischen Mensch und KI sowie die damit einhergehende Befähigung der KI-Nutzer.
Darüber hinaus folgt unser Modell für verlässliche KI-Entwicklung einem vierstufigen Ansatz, an dem sich auch ausrichtet, wie wir KI-Systeme testen. Er setzt sich zusammen aus einem verlässlichen Entwicklungsprozess, einer gezielten Risikoanalyse, ODD-basierten Edge-Case-Tests sowie statistischen Nachweisen von Fehlerquoten.
Dr. Robert Kilian ist CEO und Geschäftsführer von CertifAI, einem Testing- und Zertifizierungsanbieter für KI-Systeme. Er ist Gründer des Datenanalyse-Unternehmens Beams, lehrt an der Humboldt-Universität zu Berlin zum Thema KI-Regulierung und ist Vorstand beim KI-Bundesverband. Zudem ist er Aufsichtsrat unter anderem bei N26, wo er von 2015 bis 2020 als Generalbevollmächtigter und General Counsel alle regulatorischen Themen verantwortete. Robert Kilian war zudem langjähriges Mitglied im FinTechRat des Bundesfinanzministeriums sowie Gründungsmitglied und erster Präsident der European FinTech Association (EFA). Seine berufliche Laufbahn begann er im Bereich M&A bei der Kanzlei Hengeler Mueller.
Welche Chancen bietet ein Zertifizierungssystem?
Erstens ist die Zertifizierung von KI-Systemen – insbesondere von solchen, die hohe Risiken bergen – entscheidend, um das Vertrauen in KI zu stärken. Ein Zertifikat ist schließlich nichts anderes als ein unabhängiges Prüfsiegel, das die Konformität des Systems mit bestimmten rechtlichen oder unverbindlichen Qualitätsstandards bestätigt. Zweitens stellt ein Zertifizierungssystem sicher, dass KI-Systeme zuverlässig funktionieren. Wenn KI-Systeme eine unabhängige Prüfung durchlaufen müssen, bevor sie in Verkehr gebracht werden, bekommen wir leistungsfähigere und tatsächlich marktreife Systeme. Drittens bietet ein Zertifizierungssystem Rechtssicherheit für die entwickelnden KI-Unternehmen. Sie können darauf vertrauen, die gesetzlichen Anforderungen an ihre Systeme zu erfüllen, wenn sie bestimmte Standards einhalten, welche für eine Zertifizierung verlangt werden. Damit erhöhen Zertifizierungen die Investitionsbereitschaft in die KI-Entwicklung und fördern Innovation. Auch der europäische Gesetzgeber hat die bereits genannten Vorteile eines Zertifizierungssystems aufgegriffen und mit dem AI Act eine Konformitätsbewertung von KI-Systemen in Anwendungsbereichen mit hohen Risiken zur Voraussetzung für die Marktzulassung solcher Systeme gemacht. Ähnliches beobachten wir aktuell weltweit in jeder großen Industrieregion.
Über welches KI-Thema sollten wir mehr sprechen?
Über die aktuell zu entwickelnden technischen Standards und harmonisierten Normen im Zusammenhang mit dem Testen von KI-Systemen. Denn sie zeigen auf, wie wir Produktsicherheit und damit Vertrauen in die Technologie bekommen. Bei ausreichender Beteiligung über die Normungsorganisationen kann das auch ein echter Vorteil für Unternehmen sein.
Mit unseren Interviews wollen wir euch verschiedenen Perspektiven und Akteure im Themenfeld KI vorstellen. Die Positionen unserer Interviewpartner:innen spiegeln nicht zwingend die Positionen des ARIC wider.
Weitere Interviews:
