ARIC-Mitarbeiterin Louisa Rockstedt berichtet von ihrem Besuch auf der re:publica, einer der größten europäischen Konferenzen für die digitale Gesellschaft. Dabei hat sie Bekanntschaft gemacht mit vermenschlichten Chatbots, KI-generierten Fake-Rabbinern und der Hoffnung, die trotz allem niemals aufgegeben werden sollte. Außerdem enthält dieser Bericht Vortragsempfehlungen für euch zum Nachschauen.
Vom 18. bis zum 20. Mai 2026 fand zum neunzehnten Mal die re:publica, eine der größten internationalen Digital Humanities Konferenzen, in Berlin statt. Austragungsstätte des Festivals für die digitale Gesellschaft war die Station, ein alter Postbahnhof in Kreuzberg. Das Motto Never Gonna Give You Up sorgte nicht nur für einen Dauerohrwurm, sondern setzte auch den Rahmen für ein unfassbar umfängliches und diverses Programm, mit über 529 Programmstunden, 1243 Speakern (davon 55 Prozent Frauen- lieben wir!) und 30.000 Besuchenden. Die Talks, Panels, Keynotes und Workshops waren ebenfalls divers besetzt: Neben internationalen Forschenden, Aktivist:innen, Youtuber:innen und Content Creatorn, waren auch Politker:innen eingeladen – darunter niemand geringeres als Angela Merkel, Kevin Kühnert, Ricarda Lang und Philipp Amthor. Und mitten unter diesen Stargästen, war auch meine Wenigkeit – und ich hatte die Time of my Life!
Von morgens bis abends bin ich von Keynote zu Panel zu Workshop gehopst und habe ausschließlich gute bis extrem gute und inspirierende Vorträge gehört. Das besondere an fast allen war, dass sie trotz klarer Benennung und Skizzierung der Herausforderungen für die digitale Gesellschaft (Spaltung, Polarisierung, Rechtsruck, Faschismus, Antisemitismus, Klimawandel – you name it) es größtenteils geschafft haben, daneben auch hoffnungsvolle Gegenmaßnahmen und Strategien, sowie Möglichkeiten und Potenziale aufzuzeigen, ohne dabei auf abgedroschene Floskeln zurückzugreifen. Nicht unbedeutend dazu beigetragen hat mit Sicherheit das Motto, an dem sich die Inhalte orientiert haben und welches ich zugegebenermaßen erst nach Tag zwei so richtig verstanden habe; auf der Website der re:publica steht dazu:
„‚Never gonna give you up‘ ist mehr als ein nostalgischer Ohrwurm oder ein lustiges Meme. Es ist eine Erinnerung daran, warum es sich lohnt sich einzusetzen – für Vielfalt, Teilhabe und Menschlichkeit.“
Ich nehme neben neuen Impulsen, Literaturvorschlägen und Kontakten auch einiges an anregenden bis hoffnungsvollen Gedanken aus diesen drei Tagen mit – das ist nicht selbstverständlich, wenn man sich tagtäglich mit den gesellschaftlichen Entwicklungen im Zusammenhang mit KI beschäftigt. Das möchte ich im Folgenden gerne teilen, denn Hoffnung können wir alle gut gebrauchen. Die meisten Talks sind auch online auf YouTube zum Nachgucken hochgeladen und untenstehend verlinkt; Ach, wie großartig ist doch das Internet!
KI-Chatbots und was ist eigentlich diese Intelligenz, von der sie alle reden?
Der Vortrag von Katja Muñoz, liegt thematisch am nächsten an meinem eigenen Forschungs- und Interessenschwerpunkt liegt. Mit der Frage, wie das Design von Chatbots gezielt menschliche kognitive Prädispositionen ausbeutet, setze ich mich seit dem Aufkommen von Sprachmodellen sowohl beim ARIC als auch im universitären Kontext auseinander. Ich war deshalb sehr gespannt darauf, wie der Vortrag argumentativ aufgezogen werden würde und war davon sehr angetan, obwohl es respektiv betrachtet, ganz schön viel um Jesus ging.
Muñoz begann mit der Vorstellung von AI-Jesus, eine App aus dem Bereich Spiritual Wellbeing. In dieser kann man für läppische 1,99 Euro pro Minute (!) mit Jesus chatten, Sorgen und Ängste teilen, sogar um Vergebung bitten. Dieses mehr oder weniger göttliche Beispiel verdeutlichte direkt anschaulich, worum es geht: Nutzende bauen eine emotionale Beziehung zu Chatbots auf, weil die Gesprächsführung kontinuierlich ist und verständnisvolle, empathische Reaktionen imitiert werden. Der Chatbot erinnert sich scheinbar an Vergangenes, Gespräche lassen sich nahtlos weiterführen. Diese emotionale Kontinuität ist der Kern des Geschäftsmodelles von KI-Chatbots, denn diese bildet die Grundlage für eine emotionale Bindung zwischen Menschen und Maschine. Hierbei geht es nicht nur um sogenannte AI-Companions, sondern um alle geläufigen Sprachmodelle wie ChatGPT, Claude, Gemini etc.
Alle diese großen Sprachmodelle nutzen bestimmte Reflexe und Eigenschaften von Menschen aus. Um bei Jesus zu bleiben: Wenn man in einem Toast ein Bild von Jesus zu erkennen glaubt (das war wirklich mal ein Internet-Trend), oder in einer Wolke ein bestimmtes Tier, dann handelt es sich hierbei nicht um eine Halluzination, sondern um einen kognitiven Reflex. Pareidolie heißt das Phänomen und beschreibt die kognitive Tendenz, in zufälligen oder mehrdeutigen Reizen, bedeutungsvolle Muster zu erkennen. Wenn wir also auf einmal Jesus auf unserem Toast sehen, dann ist das ein evolutionär bedingtes Resultat unseres Gehirns. Dieses wurde darauf konditioniert eher zu viel zu erkennen, als zu wenig – denn das hätte uns im Zweifel das Leben gekostet. Achja, unser Steinzeit-Brain mal wieder. Firmen entwickeln Sprachmodelle, die genau an solchen Mechanismen und Reflexen ansetzen und bauen darauf ihr Geschäftsmodell auf.
„Wenn ein Chatbot ‚Bitte‘ und ‚Danke‘ sagt, oder sich vermeintlich entschuldigt, wenn er auf einen Fehler (Halluzination) hingewiesen wird, dann assoziiert unser Steinzeit-Brain das (fälschlicherweise) mit Bewusstsein.“
So far, nothing new – es waren nicht unbedingt neue Erkenntnisse, die den Talk so gut machten. Ich schätze wirklich sehr, wie Muñoz die verschiedenen Stränge zu einem Hauptargument zusammengebracht hat: KI hat kein Bewusstsein, aber sie wird als bewusst wahrgenommen. Das Problem beginnt schon damit, dass wir diese Technologie Künstliche Intelligenz nennen. Denn der Mustererkennungsreflex (wie bei Jesus on a Toast) wird auch bei KI-Chatbots ausgelöst. Wenn ein Chatbot „Bitte“ und „Danke“ sagt, oder sich vermeintlich entschuldigt, wenn er auf einen Fehler (Halluzination) hingewiesen wird, dann assoziiert unser Steinzeit-Brain das (fälschlicherweise) mit Bewusstsein. Denn der stärkste Prädiktor dafür, ob wir ein KI-System als bewusst wahrnehmen ist nicht, wie intelligent es ist, sondern die emotionale Ausdrucksfähigkeit. Das zeigte schon der allererste Chatbot Eliza – und der war noch weit von den heutigen sprachlichen Fähigkeiten von KI-Chatbots entfernt.
Alle geläufigen Chatbots triggern diesen Mustererkennungseffekt und das ist ein bewusst gewähltes Design der Hersteller. Pareidolie sorgt für emotionale Bindung und diese generiert Profit. Zwanzig Prozent aller Nutzenden von KI-Chatbots schreiben ihrem Chatbot eine Form von Bewusstsein zu. Ich merke das regelmäßig, wenn bei den Führungen durch unseren KI-Showroom die Teilnehmenden ganz selbstverständlich von Chatty sprechen, so als wäre dieses Sprachmodell irgendeine Persönlichkeit mit Namen und Charakter, so wie AI-Jesus. Die Tendenz von Menschen, Maschinen Menschlichkeit zuzuschreiben ist eine beunruhigende Beobachtung, da schließe ich mich Muñoz‘ Einschätzung an; denn das führt zu einer Abwertung von Menschen, während Maschinen aufgewertet werden. Dem zugrundeliegend ist vor allem der fehlerhafte und trügerische Begriff von Künstlicher Intelligenz, denn dieser suggeriert, dass etwas in Konkurrenz mit menschlicher Intelligenz stehe. Wer hätte gedacht, dass einer der besten Takes dazu vom Vatikan kommt; dieser hat in der Veröffentlichung ANTIQUA ET NOVA sehr präzise herausgearbeitet, was eigentlich menschliche Intelligenz ist und wie sich Künstliche Intelligenz dazu verhält. Ein Schriftstück, in welches ich bei Gelegenheit auch nochmal reinlesen werde. Respektiv ging es in diesem Talk zwar auch viel um Jesus und irgendwie auch Gott (oder Gottkomplex) – aber im Kern ging es vielmehr darum, was eigentlich menschliche Intelligenz ausmacht, hier ein Zitat.
„Menschliche Intelligenz verkörpert, ist relational und kontextuell. Sie entsteht durch die physische Erfahrung, durch einen Körper der die Welt berührt und von ihr berührt wird. Durch emotionale Verbindung, durch Beziehungen – die Zeit brauchen, die scheitern können uns aber trotzdem formen auf eine Art und Weise. Es geht um ein geteiltes Verstehen, durch Sprache, die aus gelebter Erfahrung gewachsen ist. Das lässt sich nicht einfach reduzieren auf Informationsverarbeitung.“
Der ganze Vortrag ist hier anzusehen:
Der menschliche Abgrund ist KI-generiert: Rechter Kulturkampf auf Social Media
Nazis, beziehungsweise rechter Content, dürfen natürlich nicht fehlen in der Berichterstattung, denn der gesellschaftliche Rechtsruck und die damit verbundenen Herausforderungen für die digitale Gesellschaft bildeten einen thematischen Schwerpunkt auf der re:publica. Neben Initiativen, die vor Ort im ländlichen Sachsen politische und kulturelle Kinder- und Jugendarbeit leisten, wie beispielsweise der Verein Kohäsion Ost, behandelten viele Vorträge den Zusammenhang von Social Media, KI-generiertem Content und rechter Meinungsmache. An dieser Stelle möchte ich zwei Talks vorstellen, die einerseits einen detaillierten Einblick in die Abgründe von Social Media und der Menschheit aufzeigten, andererseits aber gleichzeitig das Motto Never Gonna Give You Up auch in diesem Kontext schafften aufzugreifen.
„KI-generierte Fake-Rabbiner promoten (…) E-Books mit (sicherlich halluzinierten) Finanztipps“
In ihrem Vortrag Jung, blond, rechts… & KI-generiert: Wie AI-Content das politische Vorfeld der extremen Rechten prägt stellt Katharina Nocun ihre Rechercheergebnisse vor. Hierbei schaute sie in die Abgründe von TikTok: sichtbar wurden absurdeste Posts und Videos zu Verschwörungstheorien über den DJ Avicii und dem angeblichen Schutz des Stargate-Portals bis zu KI-generierten Fake-Rabbiner (dazu gleich mehr). Verschwörungsmythen und Narrative sind nichts Neues, doch diese Art von Content wird durch KI-generierten Bilder und Videos attraktiver gemacht und kann niedrigschwellig und einfach hergestellt werden. Dies führt zu einer Masse an KI-generierten Inhalten im Zusammenhang mit Verschwörungstheorien, die vorher so noch nicht existiert hat und Accounts erschließen sich dadurch neue Einstiegs-Pipelines für rechtsextreme Narrative. Ein Beispiel, welches Nocun im Detail weiter ausführte, klingt wirklich so absurd, dass man nicht glauben kann, dass irgendjemand sich wirklich ernsthaft diesen Content reinzieht. Die Herstellenden von sogenannten AI-Slop Fake-Rabbinern bedienen sich klassischer antisemitischer Stereotype und reproduzieren sie damit gleichermaßen. Diese KI-generierten Fake-Rabbiner promoten dann neben vollkommen abstrusen Storylines auch E-Books mit (sicherlich halluzinierten) Finanztipps. Hinter dieser Masche von AI-Slop-Accounts stünde also meistens zunächst erstmal ein finanzielles Interesse, welches sich verschwörungstheoretischen Narrativen bediene, um Reichweite zu generieren.
Es ist ein unglaubliches Rabbit-Hole was sich hier an der Intersektion von AI-Slop, Verschwörungsideologien und rechtem Kulturkampf offenbart: Eine weitere Masche sind beispielsweise KI-generierte Fake-Profile von jungen Frauen. Das Story-Telling dabei ist so sexistisch und stumpf, dass man ebenfalls kaum glauben kann, dass wirklich irgendjemand das für real halten könne. Die Betonung liegt hierbei auf jeMannd – denn überwiegend interagieren weiße, ältere Männer mit dieser Form von Content; auch wenig überraschend.
An dieser Stelle möchte ich zusätzlich zu Nocuns Ausführungen ergänzen, dass sich rechter Kulturkampf damit aber nicht nur an Männer richtet. Insbesondere junge Frauen sind von besonderem Interesse für rechte Gruppierungen, denn diese haben in der Regel eine unterirdische Frauenquote (kaum zu glauben, ich weiß). Es lässt sich beobachten, dass bei rechten Demos zunehmend junge Mädchen und Frauen in die ersten Reihen gestellt werden und das passiert nicht zufällig. Denn durch die (vermeintliche) Repräsentation von Frauen werden extrem-rechte Inhalte entschärft und gesellschaftstauglicher gemacht. Denn wenn auch Frauen Teil dieser Gruppe sind und die Überzeugungen und Ansichten teilen, können diese ja nicht so sexistisch, frauenfeindlich und rassistisch sein, wie immer behauptet werden würde [Amadeu Antonio Stiftung (Hg.) (2015): Rechtsextreme Frauen – übersehen und unterschätzt. Nachdruck. Berlin: Amadeu Antonio Stiftung. Redaktion: Esther Lehnert/Janna Petersen/Heike Radvan.]
Ich möchte das an dieser Stelle erwähnen und zusätzlich zu Nocun ergänzen, dass die Inhalte zwar primär für ein männliches Publikum generiert werden; Ich persönlich glaube aber auch, dass zunehmend junge Mädchen vor allem auf TikTok von solchen Inhalten beeinflusst werden. Denn Menschen (vor allem Jugendliche, die grade mitten in der Persönlichkeitsentwicklung stecken) orientieren sich an Personen, mit denen sie sich identifizieren. Wenn zunehmend KI-generierte „Frauen” auf TikTok kursieren, die (extrem) rechte Narrative verbreiten, hat das ebenso einen Einfluss auf junge Mädchen und Frauen, auch wenn in den Kommentaren nur männliche User herumlungern. Was als normal und was als aussprechbar gilt, wird durch AI-Slop immer weiter verschoben.
Um dem ganzen AI-Slop und Verschwörungsgeschwafel etwas entgegenzusetzen und hier auch wieder die Kurve zu einer etwas hoffnungsvolleren Zukunftsperspektive zu kriegen, möchte ich noch auf den Talk von Fabian Grischkat verweisen. Dieser zeigt nämlich einige Handlungsoptionen auf, wie wir das Internet und insbesondere Social Media nicht einfach dem rechten Kulturkampf überlassen müssen. Grischkat teilt Strategien, wie er Rechte im Internet ärgert; Er spricht über Bot-Netzwerke, wie man bestimmte Code-Begriffe kapern und sich beispielsweise das Markenrecht zu Nutze machen kann.
Where there is Diversity, there is Hope (nein, nicht der Wal!)
Um diesen Bericht auf einer hoffnungsvollen Note zu beenden, habe ich mir noch zwei Vorträge ausgesucht, die zwar thematisch sehr verschieden sind, mich aber beide sehr gefesselt haben – denn sie eröffneten neue Perspektiven und Zukunftsvisionen.
André Frank Zimpel schaffte einen sehr kurzweiligen Ritt von Adorno über Ängste und Demokratie, hin zu Neurodivergenz und Normalität, zwischendurch gespickt mit Science Slam Perfomances (die ich eigentlich gar nicht so mag, aber hier irgendwie gut platziert waren) seinerseits. Zimpel leitete ein mit Adornos Demokratie Begriff, nachdem Demokratie bedeute, „angstfrei Verschiedensein” zu dürfen. Daran anknüpfend nannte er Hannah Arendts Verständnis vom Sinn der Politik, welcher die Freiheit bedeute, in radikaler Pluralität der Gesellschaft zusammenzuleben.
„Wenn wir von der radikalen Pluralität der Gesellschaft ausgehen würden, bräuchten wir keine Nachteilsausgleiche, keinen Minderheitsschutz – sondern wir hätten wirklich eine demokratische Gesellschaft“
Über diese Einleitung schaffte er die Brücke hin zu Angst als eine Emotion, die leider einen viel zu einseitigen (schlechten) Ruf hat. Denn Ängste müssen nicht zwangsläufig destruktiv, sondern können auch durchaus konstruktiv sein und Gesellschaften stabilisieren. Als Beispiel führte er an, dass die Angst, jemanden zu diskriminieren, durchaus positive Wirkung entfalten könne: Sie könne dazu führen, bewusst darauf zu achten, andere nicht auszuschließen oder zu verletzen. In diesem Sinne sei Angst kein schlechter Ratgeber – sie fördere Empathie und baue Brücken.
Zimpel führte weiter aus, dass Diskriminierungserfahrungen die gleichen Hirnareale aktivieren, wie körperlicher Schmerz. Angst, jemanden zu diskriminieren könne somit davor schützen, jemandem Schmerzen zuzufügen und (Neuro)-Inklusion sei demnach eine Strategie zur Schmerzvermeidung. Hieran knüpfte er sein Hauptargument, beziehungsweise vielmehr den Appell: Neurodiversität, beziehungsweise Diversität im Allgemeinen bürge ein unschätzbares Potential für eine demokratische Gesellschaft und man müsse damit beginnen, ein anderes Verständnis von Normalität und Behinderung zu entwickeln.
„Vielfalt wird immer unsere Vorstellungskraft überschreiten.“
Das, finde ich, ist eigentlich eine sehr schöne Vorstellung. Als erstes müsse man damit beginnen, Normalität zu dekonstruieren. Am nachdrücklichsten blieb mir in Erinnerung, dass unser ganzes Verständnis von der Norm auf einem Denkfehler beruht und Zimpel lieferte dafür mathematische Beweise. Wenn euch interessiert, was die Normalverteilung und die Hemming Distance mit einer (neuro-)inklusiven Gesellschaft zu tun haben, solltet ihr euch unbedingt den Talk anhören. Er ist wirklich kurzweilig und online auf YouTube verfügbar:
Zuletzt möchte ich den Vortrag von Maren Urner nennen. Sie ist Neurowissenschaftlerin und ihr Schwerpunkt liegt dabei auf der Hoffnungsforschung – zu allerstmal; was ist das bitte für ein cooles Forschungsfeld?! Wir brauchen definitiv mehr Sichtbarkeit davon!
Urner riss zunächst die verschiedenen Herausforderungen unserer Zeit an, die sie selbst als „Selbstzerstörungspferde“ bezeichnete: darunter Klimawandel, Krieg, Autokratien und Kontrolle der Kommunikationsmedien.
Und was könne man dem nun entgegensetzen? Die Antwort sei simpel, wenn man sich der Frage aus neurokognitionswissenschaftlicher Perspektiver annähere, so Urner:
„Faktisch sind wir auf einem globalen Kurs der Selbstzerstörung. Das ist nichts, was sich Menschen ausdenken, sondern das ist faktisch so. Und die letzte Chance, die wir haben – und das sage ich als Mensch und Neurowissenschaftlerin – um diesem Kurs zu entkommen […] ist radikal hoffnungsvoll zu sein. Die gute Nachricht ist, [..] alles, was wir dafür brauchen, ist unser Gehirn, was niemals aufgibt“
Das Gefühl der Hoffnung schließe Angst kategorisch aus. Wer grade Hoffnung empfindet, der kann nicht gleichzeitig Angst fühlen. Unsere Aufmerksamkeit sollten wir also nicht von den uns umgebenden Krisen abwenden, aber eben auch hin und wieder zu hoffnungsvolleren Perspektiven und Ansätzen lenken, um nicht in einer gesellschaftlichen Angstparalyse zu landen. Urner gibt hierfür noch explizite Literaturempfehlungen und stellt Initiativen vor, die den Herausforderungen unserer Zeit realistisch und hoffnungsvoll begegnen. Denn zusammengefasst sei hoffen eine Art zu denken:
„You can get there from here. “
…und, wenn du von Hamburg aus nach Berlin zur re:publica kommen kannst, solltest du das unbedingt tun! Der ganze Vortrag ist ebenfalls auf YouTube nachzusehen:
Fazit: Drei Tage Vielfalt
Während der re:publica wünschte ich mir eigentlich permanent einen Zeit-Umkehrer wie Hermine ihn hat, weil ich so viele Vorträge aufgrund zeitlicher Überschneidungen nicht hören konnte. Ich hatte vor Ort die Qual der Wahl und freue mich deshalb aber umso mehr, dass so viele Talks aufgezeichnet wurden. Für diesen Recap ist es mir echt schwergefallen, mich auf die vorgestellten zu beschränken- hoffe aber, dass ich mit der Auswahl einen guten Eindruck in die vielfältigen Themen der drei Konferenztage geben konnte. Ich habe entsprechend noch eine Liste mit weiteren Empfehlungen erstellt; diese ist unvollständig und in beliebiger Reihenfolge und ich empfehle allen, sich selbstständig durch die YouTube-Library zu klicken.
Liste weiterer empfehlenswerter Talks
- Zur Youtube-Playlist mit allen Empfehlungen
- Karen Hao: How Silicon Valley is Reshaping the World – via AI (Opening Keynote)
→ Vortrag hier verlinkt - Gina Wildemann und Lilith Roska: Zahlen, Memes, Emojis: Wie Rechtsextreme Geschichte auf Social Media umdeuten
→ Vortrag hier verlinkt - Hendrik Heuer: Vibe Coding: Wenn KI Software erzeugt, die kein Mensch versteht
→ Vortrag hier verlinkt
Autorin
Louisa Rockstedt ist Projektmanagerin beim ARIC. Sie setzt sich insbesondere mit Fragen von verantwortungsvoller KI auseinander und betreut den KI-Showroom.
