Im Rahmen der Veranstaltung hielten vier von der LARG eingeladene Expertinnen und Experten Vorträge zu verschiedenen Aspekten rund um den Themenkomplex der Transparenz und Erklärbarkeit von Künstlicher Intelligenz (KI). Im Anschluss an die Vorträge hatten die knapp 20 Seminarteilnehmer Gelegenheit, mit den Referenten zu diskutieren und dabei auch auf Fragestellungen aus ihrer eigenen Forschung einzugehen. Das Seminar wurde von den Leiterinnen der LARG, Dr. Charlotte Schindler und Dr. Sophie Burchardi, organisiert.
Vorschriften zur Transparenz und Erklärbarkeit im AI-Act
Den Auftakt des Seminars machte Kai Zenner, Büroleiter und Digitalpolitik-Berater des Europaabgeordneten Axel Voss. Er gab interessante Einblicke in den mitunter selbst nicht besonders transparenten politischen Prozess hinter dem AI-Act.
Inhaltlich erläuterte Zenner die verschiedenen Transparenzpflichten, die der AI-Act für verschiedene Regelungsadressaten vorsieht. Zenner betonte die Bedeutung der Transparenz entlang der gesamten Wertschöpfungskette von KI-Systemen und hob die Herausforderungen hervor, die mit der Umsetzung des AI-Acts verbunden sind.
Erklärbarkeit und Effective Human Oversight
Dr. Kevin Baum, Leiter des Center for European Research in Trusted AI (CERTAIN) am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), widmete sich in seinem Vortrag dem Thema der Erklärbarkeit von KI-Systemen aus einer technischen Perspektive. Baum führte zu Beginn den Begriff der „Perspikuität“ als Überbegriff für Transparenz, Erklärbarkeit und Nachvollziehbarkeit ein.
Im weiteren Vortrag ging er die grundsätzlichen Anforderungen an Erklärbarkeit ein und stellte verschiedene Ansätze vor, wie etwa Local Interpretable Model-Agnostic Explanations (LIME). In der anschließenden Diskussion betonte Baum, dass es bei großen KI-Modellen aktuell aus technischen Gründen unmöglich sei, im Einzelnen nachzuvollziehen, wie ein bestimmtes Anwendungsergebnis zu Stande komme.
Mensch oder Maschine? Vertrauen durch Transparenz nach dem AI-Act
Dr. Sophie Burchardi, LL.M. (London), wissenschaftliche Assistentin an der Bucerius Law School, legte in ihrem Vortrag den Fokus auf Art. 50 AI-Act.
Dieser statuiert für Anbieter und Betreiber bestimmter KI-Systeme Informations-, Aufklärungs- und Offenlegungspflichten. Burchardi zeigte insofern Unklarheiten und Widersprüchlichkeiten im Wortlaut der Regelungen auf und stellte eigene Lösungsansätze für die sich ergebenden Auslegungsprobleme vor. In der anschließenden Diskussion konnte Kai Zenner wertvolle Erkenntnisse aus dem Gesetzgebungsverfahren liefern, die bei der Lösung der Probleme helfen.
Aufgeklärte Nutzer, aufgeklärte KI-Anbieter? – Ein Blick aus der Praxis
Den Abschluss des Seminars bildete der Vortrag von Dr. Julian Staben, Associate Legal Counsel im Bereich Regulatory bei Google. Staben stellte zu Beginn Chancen und Perspektiven der Nutzung von KI vor. Er betonte, dass man bei der Regulierung von KI stets bedenken müsse, wie diese sich in positiver und negativer Hinsicht auf die Möglichkeit technischer Innovation auswirke.
In Bezug auf den AI-Act berichtete Staben, dass Unklarheiten – wie die bereits von Dr. Sophie Burchardi aufgezeigten – in der Praxis zu Rechtsunsicherheit führen würden. Staben sagte mit Blick auf den von Zeitdruck und von politischen Kompromissen geprägten Gesetzgebungsprozess, dass bei der Auslegung des AI-Acts ein zu starker Fokus auf den Wortlaut zu Problemen führe. Die klassischen Auslegungskanones – Wortlaut, Systematik, Telos, Historie – würden an ihre Grenzen geraten.
Wissenschaft braucht Austausch
Ziel der LARG-Seminare ist es, die Teilnehmenden miteinander zu vernetzen und ihnen neue Impulse für die eigene Forschung zu geben. Mitorganisatorin Dr. Charlotte Schindler resümierte beim abschließenden Mittagessen: „Wissenschaft lebt vom Austausch. Manchmal kommt man gedanklich an einem halben Seminartag weiter als in zwei Wochen Literarturrecherche.“
Die LARG bedankt sich herzlich beim Hamburger Verein für Arbeitsrecht e. V. für die großzügige finanzielle Unterstützung des Seminars.
