Das Internet galt lange als Raum für Austausch, Teilhabe und demokratische Öffentlichkeit. Doch mit der rasanten Verbreitung generativer Künstlicher Intelligenz (KI) verändert sich die digitale Sphäre grundlegend: Im Netz stimmt etwas nicht mehr. Wer heute sucht, liest oder scrollt, landet immer öfter bei Texten, die niemand geschrieben hat. Bei Bildern, die niemand gemacht hat. Bei Empörung, die niemand gefühlt hat. „AI Slop" – KI-Schrott – ist die Bezeichnung für ein hartes Geschäftsmodell: Generative KI macht Desinformation billig, skalierbar und schwer erkennbar. Content Farms und politische Akteur:innen fluten Plattformen, weil es sich rechnet. Algorithmen sorgen dafür, dass diese Inhalte nicht verschwinden, sondern ganz oben landen.

Was das langfristig kostet, ist Vertrauen. Nicht nur in einzelne Quellen, sondern in den Diskurs selbst. Wenn sich nicht mehr sicher sagen lässt, ob eine Debatte echt ist, zieht sich ein Teil der Menschen zurück – und ein anderer Teil glaubt ohnehin nichts mehr. Beides schwächt demokratische Öffentlichkeit.

Was bedeutet diese Entwicklung für unsere Gesellschaft?
Im Zentrum der Veranstaltung stehen nicht nur Fragen nach der Qualität von Inhalten, sondern vor allem die systemischen Auswirkungen:
Wie verändern Empfehlungsalgorithmen den Umgang mit KI-generierten Inhalten? Wer profitiert von der massenhaften Produktion synthetischer Beiträge – und mit welchen politischen oder ökonomischen Interessen? Was passiert mit öffentlicher Meinungsbildung, wenn sich nicht mehr eindeutig unterscheiden lässt, ob ein Diskurs „echt“ ist?
Gemeinsam mit der Journalistin und Desinformationsexpertin Karolin Schwarz und dem KI-Forscher Dr. Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz (digital zugeschaltet) werfen wir einen interdisziplinären Blick auf diese Entwicklungen. Dabei geht es auch um die Frage, ob KI-Systeme künftig zunehmend mit von KI erzeugten Daten trainiert werden – und welche Risiken damit verbunden sind („Model Collapse“).

Wir diskutieren politische und gesellschaftliche Handlungsoptionen und wir nehmen uns konkrete Hebel vor: Was leistet der EU AI Act tatsächlich, und wo sind seine Lücken? Welche Verantwortung müssen Plattformen endlich übernehmen, statt sie an Nutzer*innen weiterzureichen? Und was können Medien, Bildungseinrichtungen und alle, die online unterwegs sind, selbst tun, um ein Netz zu verteidigen, das mehr sein soll als ein Schaufenster für KI-Müll?

Die Veranstaltung richtet sich an alle, die die Hintergründe der digitalen Welt besser verstehen möchten und gemeinsam darüber nachdenken wollen, wie ein gerechteres digitales Zeitalter gestaltet werden kann.
Wir freuen uns auf einen offenen Austausch!

Karolin Schwarz — Journalistin & Expertin für Desinformation, Rechtsextremismus im Netz und KI-Fakes. Gründerin von Hoaxmap.org, Autorin von „Hasskrieger".

Dr. Aljoscha Burchardt — KI- und Sprachtechnologie-Experte am DFKI Berlin. Forscht zu Künstlicher Intelligenz, maschineller Übersetzung und gesellschaftlichen Folgen von KI.

Die Veranstaltung findet in Präsenz im Gerty-Spies-Forum in Mainz und als Livestream statt. Zur besseren Planung bitten wir um Anmeldung für die Teilnahme in Präsenz über diese Seite. Dies sichert Ihnen auch einen Platz vor Ort. Aber auch kurzentschlossene Besucher*innen sind willkommen.

Die Veranstaltung wird parallel dazu über Youtube gestreamt. Der Zugang zum Stream erfolgt ohne Anmeldung.
Der Link zum Stream wird kurz vor der Veranstaltung hier bekannt gegeben.

Eine Veranstaltung in Kooperation mit der Sächsischen Landeszentrale für politische Bildung (SLpB), der Landeszentrale für politische Bildung des Saarlandes, der Landeszentrale Politische Bildung Rheinland-Pfalz, der Hessischen Landeszentrale für politische Bildung und der Volkshochschule Dresden.