Expert:innen aus Psychologie, Literaturwissenschaft und Datenschutzrecht diskutierten über die Auswirkungen intimer Beziehungen von Menschen zu künstlicher Intelligenz und die damit verbundenen gesellschaftlichen und rechtlichen Herausforderungen.
Am 19. Februar 2026 fand die Bucerius IP Lecture „KI und Intimität – Verändert KI die Struktur unserer Gesellschaft?“ im Rahmen des Debattenforums statt.
Die Veranstaltung brachte Ijoma Mangold (Autor und kulturpolitischer Korrespondent DIE ZEIT), Dr. Maxi Nebel (Universität Kassel) sowie Lisa Mühl (Doktorandin der Sozialpsychologie, Universität Duisburg-Essen) zusammen. Moderiert wurde die Veranstaltung von Prof. Dr. Kristoff Ritlewski (Counsel des Bucerius IP Center).
KI zwischen Fortschritt und Überregulierung
Prof. Dr. Linda Kuschel (akademische Direktorin des Bucerius IP-Centers)läutete den Abend mit dem Hinweis ein, dass KI-Systeme nach aktuellen Statistiken besonders häufig für „Therapy and Companionship“ genutzt werden.
Ijoma Mangold nahm einen KI- und technologieoffenen Standpunkt ein. Er hob hervor, dass der öffentliche Diskurs über die jüngsten Entwicklungen moralisch aufgeladen sei. Dies sei zwar nachvollziehbar, da moralische Bewertungen für alle zugänglich seien, führe jedoch nicht zu differenzierten Einschätzungen und begünstige vorschnelle Urteile. Im Zuge dessen warnte er vor einer europäischen Überregulierung, die die Chancen von KI ausbremsen könnte.
Anhand der Frage, ob ein Large Language Model (ein KI-System, das auf Basis großer Textmengen Sprache verarbeitet und generiert) Stil beherrsche, machte er die weiterhin bestehenden Unterschiede zwischen Sprachmodellen wie Claude und Menschen deutlich. Claude erführe keinen Widerstand in der realen Welt und verfüge nicht über ein ästhetisches Verständnis. Mit Blick auf zukünftige Entwicklungen hob er mögliche Produktivitätsgewinne durch KI hervor und stellte die Frage nach deren Auswirkungen auf Geld. Wenn Geld primär dazu diene, knappe Güter zu erwerben, könnte ein KI-bedingter Überfluss diese Logik verändern und dazu führen, dass analoge, begrenzte Güter an Wert gewinnen.
Warum Menschen emotionale Beziehungen zu KI aufbauen
Lisa Mühl beleuchtete die Frage, warum Menschen auf künstliche Systeme reagieren. Sie ging darauf ein, dass KI-Chatbots eine deutlich stärkere Wirkung entfalten könnten als Film und Fernsehen, die bereits seit langer Zeit parasoziale Beziehungen hervorrufen. Zudem sprach sie über verschiedene Ursachen romantischer Beziehungen zu KI, wie etwa die Befriedigung sonst tabuisierter Bedürfnisse. Sie stellte fest, dass der häufig genannte Faktor Einsamkeit in der bisherigen Forschung nicht eindeutig sei.
Abschließend gab Lisa Mühl Einblicke in eine eigene Langzeitstudie, in der 73 Personen über vier Wochen hinweg mit ChatGPT interagierten – einmal mit einer personalisierten Version und einmal mit der Standardversion. Engere Beziehungen seien dabei eher zur Standardversion entstanden, da viele Teilnehmende die personalisierte Version als „zu viel“ empfunden hätten. Kritisch hob sie hervor, dass zahlreiche private Informationen mit den Chatbots geteilt wurden, und schlug vor, Nutzende deutlicher darauf hinzuweisen, dass sie mit KI interagieren.
AI Companions in der Liste der Hochrisiko-KI?
Dr. Maxi Nebel ging auf mögliche Regulierung von KI-Chatbots als Gefährten (AI Companions) ein. Zwar räumte sie Vorteile für die sexuelle Selbstbestimmung und Gesundheitsversorgung ein, warnte jedoch zugleich vor Risiken wie Überwachung und Diskriminierung. Rechtlich betroffen seien insbesondere die KI-Verordnung sowie die Datenschutz-Grundverordnung der Europäischen Union. Dabei kam sie zu dem Schluss, dass die KI-VO im Hinblick auf AI Companions bislang nur begrenzt hilfreich sei. Die DSGVO wiederum sei zu einem Zeitpunkt entstanden, als KI noch keine vergleichbare gesellschaftliche Rolle gespielt habe. Problematisch seien insbesondere Fragen der Einwilligung und ihres Widerrufs, wenn KI-Systeme mit personenbezogenen Daten trainiert wurden. Fraglich sei zudem, ob ein berechtigtes Interesse an der Nutzung dieser Daten bestehe.
Als mögliche Lösungen schlug sie vor, AI Companions in die Liste der streng regulierten Hochrisiko-KI in der KI-Verordnung aufzunehmen und die KI-Anbieter zu mehr Suizidprävention zu verpflichten.
Kommentar
Im Nachgang zur Veranstaltung hat sich unsere Studentin Nilan Mansouripour Gedanken über die Diskussion gemacht und teilt diese in einem Kommentar mit uns.
Zwar ist es wirtschaftlich von großer Bedeutung, dass Anreize geschaffen werden, KI nach Europa zu holen, doch dürfen dabei nicht grundsätzliche Wertungen unseres Rechtssystems ausgehöhlt werden.
Kommunikative Intimität in Freund- und Partnerschaften war immer ein menschliches Alleinstellungsmerkmal und etwas, das uns keine Maschine geben konnte. Nun scheint das nicht nur möglich zu sein und natürlich zu werden, es bringt auch Wechselwirkungen in Bezug auf unser reales Leben mit sich: Sind uns Beziehungen in Zukunft noch Konflikte wert, wenn die KI uns niemals widerspricht? Lassen wir uns noch auf Imperfektionen ein, wenn die KI genau so ist, wie wir sie gerne hätten? Zwar ist es noch eine absurde Vorstellung, dass Chatbots reale Beziehungen ersetzen könnten, weil sie besser sind, doch besteht durchaus die Gefahr, dass wir mit der Zeit unfähiger werden, echte Beziehungen zu echten und somit auch imperfekten Menschen aufzubauen, weil unsere Erwartungshaltung ins Unermessliche steigt.
Die Sicherheit intimer Chats und der persönlichen Nutzerdaten darf deshalb nicht dem Wohlwollen der KI-Anbieter überlassen werden. Diese haben ein Interesse daran, möglichst viele Daten zu sammeln und damit ihre KI zu trainieren. KI-Verordnung und Datenschutz-Grundverordnung müssen genau an dieser Stelle im Interesse der Nutzer eingreifen. Denkbar und weniger eingriffsintensiv wäre dazu, auch auf Warnhinweise zu setzen. Zwar müsste die Wirkung einer solchen Warnung noch empirisch untersucht werden. Wenn sie aber ausreichend wirksam ist, stellt sie einen Kompromiss zwischen dem Schutz der Nutzer und den Interessen der Betreiber dar.
Janka Aldag (Wissenschaftliche Mitarbeiterin, Center for Transnational IP, Media and Technology Law and Policy)
Nilan Mansouripour, Studentin der Bucerius Law School
