Evangelische Akademie Frankfurt

Digital Dreams

Zwischen Faszination, Verunsicherung und Demokratiefragen

„KI wird uns retten – nein, KI wird uns killen! Social Media ist toll – nein, die Plattformen sind voller manipulativer Algorithmen, die Deepfakes verbreiten.“ Ungefähr so fasste ein von der Evangelischen Akademie Frankfurt und der EKHN Stiftung einberufener Jugendbeirat vor einem Jahr den Stand der Debatte zu aktuellen informations- und kommunikationstechnologischen Entwicklungen zusammen. Aussage: ambivalent, widersprüchlich. Gefühlslage: Neugier, Lust, Verunsicherung. Die „Digital Dreams“-Konferenz für 40 junge Menschen sollte Orientierung bieten: Informationen und Einschätzungen von Profis, aber auch Gelegenheit, den eigenen Medienkonsum zu reflektieren, neue KI-Tools selbst auszuprobieren und sich dem Thema praxisorientiert zu nähern.

© Christof Jakob

Ein Fake-Ärzte-Song über Pandas und Nutellakekse

Im Workshop „Intelligente Zukunft“ wurde ein KI-Hopping betrieben, das auf die Teilnehmenden wie ein Feuerwerk gewirkt haben muss. Einen Jazz- oder Popsong über Pandas, Nutellakekse und den Planeten Merkur erstellen? Kein Problem! Er soll klingen wie ein Song der Ärzte? Darf die KI zwar nicht, macht sie aber trotzdem. Stimmen klonen, Dialoge schreiben, Bilder generieren, Goethes „Faust“ einer Neunjährigen erklären? Kommt sofort! Zwar merkt man im Ergebnis einen Hang zu Klischees und dass eine Brezel doch ein ziemlich komplexes Bildmotiv darstellt (und ein Handstand erst!), dennoch war der Referent überzeugt: „Es ist eine magische Zeit, jung zu sein“.

In Kontrast dazu stand der praxisorientierte Sicherheitscheck am eigenen Handy. In einem Workshop konnten die Jugendlichen überprüfen, ob ihre E-Mail-Adressen in öffentlichen Datenbanken gelandet sind, wie viele Tracker in ihren Browsern aktiv waren und wo im Netz ihre Gesichter zu finden sind – für einige überraschende Erkenntnisse. Alternativ konnten sie sich nebenan mit der Konstruktion von „Wahrheit“ in digitalen Räumen auseinandersetzen, mit tendenziöser Berichterstattung und Desinformation. Sie lernten Faktoren kennen, die unsere Aufmerksamkeit lenken (Bekanntheit, Konflikt, Tragik, Überraschung) und konnten diese selbst „testen“ und nachempfinden.

Viele der Jugendlichen haben zudem das Angebot genutzt, sich in einem nicht-wertenden Raum mit dem eigenen Medienkonsum auseinanderzusetzen. Im Workshop „Zwischen Dopamin und Depression“ reflektierten sie, wann das Gefühl von nice zu nervig kippt. Zwar nutzen viele Menschen Social Media, um abzuschalten und zu entspannen – doch zeigen Untersuchungen, dass es unsere mentalen Kapazitäten hoch beansprucht, durch einen Feed zu scrollen. Das addictive Design macht es uns extra schwer, uns loszureißen. Von den Teilnehmenden selbst kamen Tipps, wie man dennoch für Balance sorgt: Apps in Graustufen darstellen, Verzögerungen beim App-Start einbauen, regelmäßige Code-Abfragen als Unterbrechung einstellen.

KI im Zusammenspiel mit Demokratie und Psyche

Im Abendteil der Konferenz ging es um die Gretchenfrage, wie es um das Verhältnis von KI und Demokratie steht. Die Jugendlichen waren aufgefordert, sich in Kleingruppen vorab Fragen zu überlegen. Eingeladen waren drei spannende Personen aus der Wissenschaft: Nikolai Horn (Thinktank iRights.Lab), Vera Schmitt (TU Berlin) und Christian Montag (Universität Ulm). Die Abendveranstaltung ist hier auf dem Youtube Kanal der Evangelischen Akademie Frankfurt nachzusehen.

Wenig überraschend stellte sich heraus, dass KI von Natur aus weder inhärent demokratiefördernd noch demokratiegefährdend ist. Ihre Auswirkungen hängen von ethischen Überlegungen und werteorientierter Programmierung ab – und natürlich von ihrer Anwendung. In vielen Fällen wird es gesellschaftspolitische Lösungen brauchen, um mit den Herausforderungen der digitalen Transformation umzugehen. So sollte über das Modell bedingungsloses Grundeinkommen (verbunden mit sinnstiftenden Tätigkeiten für die Gemeinschaft) nachgedacht werden, da durch KI und Automatisierung viele Arbeitsplätze wegfallen. Zwar entstehen auch neue Arbeitsplätze, diese werden aber voraussichtlich höhere Qualifikationen erfordern. Ebenso sollten wir das Risiko im Bereich Teilhabe und Gleichheit erkennen. Schon jetzt sind kostenpflichtige Tools deutlich besser als Freeware. Wir könnten demnach zu einer Gesellschaft werden, in der die Verfügbarkeit beziehungsweise der Zugang zu Intelligenz von der Größe des elterlichen Geldbeutels abhängt. Hier sollten Schulen und Bibliotheken Ausgleich schaffen.

© Christof Jakob

Und was ist mit Deepfakes und Datenschutz?

Wir kommen als Gesellschaft um KI-Tools nicht herum. Wir brauchen intelligente Entscheidungsunterstützung im medizinischen Bereich, zur Datenverarbeitung in Wissenschaft und Verwaltung und auch im privaten Bereich seien Gewinne zu erwarten. Auf die Frage der Jugendlichen, wie es mit Datenschutzrisiken aussieht, gingen die Antworten etwas auseinander. Auf der einen Seite könnte etwa die Überwachung öffentlicher Plätze durch KI-Anwendung sogar datenschutzfreundlicher und diskriminierungsärmer werden, da eine KI eher auf Verhaltensmuster als auf persönliche äußerliche Merkmale schauen würde. Auf der anderen Seite gibt es in im privaten Bereich den so genannten „Bequemlichkeitsfaktor“. Schon jetzt nutzen die meisten Menschen Google Maps, ohne sich Gedanken über die Übermittlung ihrer Standortdaten an den Konzern dahinter zu machen. Sprich, auch wenn wir wegen Datenschutz Bedenken haben sollten, haben wir diese oft nicht unbedingt, wenn der private Nutzen überwiegt.

Auch bei KI-erstellten Desinformation und Deepfakes kommt uns übrigens der Bequemlichkeitsfaktor in die Quere. Zwar gibt es viele gute Tools zur Überprüfung von Inhalten, aber wer nutzt sie im Alltag? De facto lassen wir uns auf social Media oft passiv berieseln und konsumieren Fakes als „Beifang“. Was die Fachleute hiergegen empfehlen: „Mischkonsum“ von ausgewogenen Medien, am besten in Kombination mit „Realitychecks“. Zusätzlich braucht es laut Montag eine „digitale Schuluniform“ als Bildungsoffensive (einen Digitalisierungskanon und sonst Smartphone-Verbot im Unterricht). Und wir sollten das gesamtgesellschaftliche Verständnis entwickeln, dass wir uns auf lebenslanges Lernen einstellen müssen.

Nicht alles auf die Jugendlichen abwälzen!

Und was wünschen sich die jungen Teilnehmenden? „Sollte es – wie in Australien – ein Social Media-Verbot für unter 16-Jährige geben?“, fragten wir und bekamen sofort die Rückmeldung, dass die Jugendlichen sich die Frage so nicht stellen wollten. Es kann ja nicht sein, dass die ganze Verantwortung ständig auf sie abgewälzt wird: selbst verzichten, selbst begrenzen, selbst abschalten, weggucken, dubiose Posts melden, Cookies wegdrücken, Nutzungsbedingungen und Datenschutzerklärungen kritisch überprüfen und Fakes erkennen. Was es braucht – was die Teilnehmenden sich wünschten -, ist Jugendschutz! Und zwar auch im digitalen Raum: Regeln und Rahmenbedingungen, die es für Jugendliche unbedenklicher machen, soziale Apps zu nutzen.

Letztendlich sind wir also alle gefragt: die Tech-Szene, die Politik, Privatpersonen, sogar die Kirche. „Wie wir mit Technik umgehen, beeinflusst unser seelisches Wohlbefinden“, wie Kirchenpräsidentin Christine Tietz es im Grußwort ausdruckte. Die Gesellschaft hat den Auftrag, Jugendliche zu unterstützen, zu begleiten und ihnen einen sicheren Rahmen zu bieten, in dem sie ihre digitale Welt navigieren, reflektieren und dann irgendwann selbst gestalten und verbessern können. Jugendbildung kann hier einen wichtigen Beitrag leisten. Und Akademien können für Diskursräume sorgen, in denen es um Werte und Digitalethik geht und darum, wie wir die digitale Transformation gesellschaftlich begleiten wollen.

Kontakt: Stina Kjellgren