Was, wenn wir einfach den Stecker ziehen?

Ein Gedankenexperiment.

Marko Kovic (40)

Selbstverletzendes Verhalten auf TikTok, psychologische Manipulation durch Dark Patterns, Geldmacherei mit süchtig machenden Games, die Explosion von KI-Deepfakes: Der Cyberia-Newsletter ist ein Gruselkabinett des digitalen Horrors. Horror, der leider nicht aus erfundenen Schauermärchen besteht. Der Horror ist der gelebte Alltag von Milliarden von Menschen. Besonders von jungen Menschen.

Social Media dominieren die Lebenswelt jüngerer Menschen grundlegend und umfassend. Mehr als 95% der 14- bis 19-jährigen Jugendlichen in der Schweiz sind auf Social Media. 20% der Jugendlichen wünschen sich, von Beruf Influencer zu werden. Das muss man sich auf der Zunge zergehen lassen: Ein Fünftel der jungen Bevölkerung ist der Illusion verfallen, Influencer sei eine realistische und erstrebenswerte Karriere. Zu diesem digitalen Alltag der Jungen ist vor wenigen Jahren noch künstliche Intelligenz hinzugekommen. Rund 85% der Jugendlichen nutzen bereits generative KI wie ChatGPT regelmässig. Die Sättigung mit KI dürfte bald ähnlich hoch sein wie die Sättigung mit Social Media.

Mehr, schneller, intensiver. Wenn es um digitale Technologien geht, gehen die Entwicklung und Nutzung nur in eine Richtung. Und zwar offenbar unabhängig davon, wie viele Leute wie hier im Cyberia-Newsletter über die Risiken und Probleme dieser Entwicklung nachdenken. Auch wenn wir die Probleme immer besser benennen können: Sie werden trotzdem grösser. Wir kommen nicht vom Fleck.

Warum? Ich glaube, ein zentraler Grund ist die Asymmetrie im digitalen Wettrüsten. Grosse Tech-Unternehmen fluten die Welt mit Apps und Produkten, nach dem bekannten Disruptions-Motto «move fast and break things». Rückendeckung erhalten sie dabei zunehmend von der Politik. Die Tech-Industrien in den USA und China sind längst verlängerte Arme der Regierungen in Washington und Peking. Die Zivilgesellschaft – also wir alle als Menschen, die diesen Entwicklungen ausgesetzt sind – steht dieser Übermacht hilflos gegenüber. Die Zivilgesellschaft ist fragmentiert und schwach. Die öffentliche Debatte über Technologie reagiert immer nur auf die Entwicklungen, die die Tech-Unternehmen vorgeben. Die Firmen machen in Eigenregie hundert Schritte vorwärts. Die Zivilgesellschaft reagiert, indem wir darüber reden, ob wir vielleicht unter Umständen und in einer langjährigen Diskussion und unter Einbezug der Tech-Lobbyisten möglicherweise eventuell einen halben Schritt zurückrudern könnten. Ich übertreibe hier, aber ich übertreibe nur wenig, fürchte ich.

Die Asymmetrie kann man auch anders beschreiben: Die CEOs der Tech-Konzerne, die Mark Zuckerbergs und Elon Musks und Sundar Pichais dieser Welt, sind Visionäre. Das meine ich durchaus mit ernstgemeintem Respekt. Sie wagen es, grosse Ideen zu haben. Und in ihrem Versuch, diese umzusetzen, erschaffen sie die Welt, in der wir leben. Wir als Zivilgesellschaft hingegen sind weitgehend visionslos, ideenlos, mutlos. Wir geben den Takt nicht vor, sondern wir reagieren nur. Wir reagieren auf die Welt, die die Tech-CEOs erschaffen. Gegenentwürfe haben wir keine.

Das muss sich ändern. Wenn wir immer nur auf vollendete Tatsachen reagieren, verlieren wir automatisch.

Wie sollen die Visionen für einen Gegenentwurf zur Welt der Tech-Unternehmen aussehen? Ich weiss es nicht. Wir müssen diese Visionen erst erarbeiten. Eine hilfreiche Methode dazu können Gedankenexperimente sein: Absichtlich unrealistische Szenarien, die uns gerade darum erlauben, den Denkmodus zu ändern. Weg vom Alltagsrealismus und der Frage, was im Kleinen machbar sei, und hin zu Idealismus und der Frage, was im Grossen und Grundsätzlichen richtig wäre. Ein solches Gedankenexperiment möchte ich an dieser Stelle durchführen.

Und plötzlich: Aus die Maus

Die Prämisse für unser Gedankenexperiment ist folgendes Szenario: Social-Media-Plattformen wie Instagram, Facebook, TikTok, Snapchat, LinkedIn, Twitter / X, Discord und andere sowie Chatbots wie ChatGPT, Claude, Gemini und andere sind plötzlich offline. Von einem Moment auf den anderen gibt es Social Media und Chatbots nicht mehr. Wie es dazu kam, ist in diesem Gedankenexperiment irrelevant. Es geht um den blossen Zustand der Welt, die plötzlich ohne Social Media und ohne Chatbots ist.

Was wäre das für eine Welt?

Auf einer banalen Ebene könnte man sagen, es wäre eine Welt, wie sie eben vor Social Media und vor Chatbots war. Damals konnten Menschen auch gut leben, also könnten wir es auch heute. Das stimmt grundsätzlich, aber ganz so einfach ist es nicht. Denn die Welt im Jahr 2026 ist auf viele Arten eine andere als die Welt Anfang der 2000er Jahre, oder in den 1990er Jahren, oder den 1980er Jahren. Und so fort. Das ist im Kontext von Technologiekritik ein häufiger Denkfehler: Nostalgie. Früher war alles besser, hat man oft das Gefühl. Das ist Wunschdenken. Und es ist nicht Gegenstand unseres Gedankenexperiments. Die Frage ist nicht, ob man vor Social Media und Internet leben konnte. Natürlich konnte man das. Aber die Vergangenheit ist eben nicht die Zukunft. Uns interessiert, wie eine Zukunft A im Vergleich zu einer Zukunft B wäre. Die Frage ist also, ob die Welt im Jahr 2026 und darüber hinaus mit oder ohne Social Media und Chatbots eine bessere wäre.

Das ist ohne den Denkfehler der Nostalgie deutlich schwieriger einzuschätzen. Positive Auswirkungen von Social Media und Chatbots gingen verloren. Negative Auswirkungen von Social Media und Chatbots blieben uns erspart. Und darum ist eine Abwägung nötig.

Inwiefern die Welt schlechter wäre

Ich mag wie ein eingefleischter Tech-Kritiker wirken, aber ich sehe mich viel mehr als Realist. Die meisten Technologien haben durchaus einen Nutzen. Auch Social Media und Chatbots.

Über die positiven Seiten von Social Media wurde auch hier in Cyberia geschrieben. Social-Media-Plattformen sind Orte, an denen wir uns mit anderen Menschen vernetzen und mit ihnen kommunizieren können. Das ist ein zentrales psychologisches Bedürfnis, das wir alle haben. Die Möglichkeit, sehr einfach öffentlich zu kommunizieren, ist aus gesellschaftlicher Sicht zudem eine Form der Demokratisierung. Früher haben klassische Massenmedien (Zeitung, Fernsehen, Radio) den öffentlichen Diskurs dominiert. Heute können wir alle öffentlich mitreden. Die demokratische Debatte wurde pluralistischer.

Social Media sind auch ein wichtiger Ort für unsere individuelle Identitätskonstruktion. Gerade Jugendliche wollen herausfinden, wer sie sind, was sie interessiert, wo sie dazugehören wollen. Social Media können dabei eine wichtige Rolle spielen. Nur ein Beispiel zur Veranschaulichung: Wenn man vor 50 Jahren in einem kleinen Dorf lebte und sich für Reggae-Musik interessierte, war der Zugang zu dieser Community deutlich schwieriger als für jemanden, der heute im selben kleinen Dorf lebt — Social Media sei Dank.

Social Media haben zudem auch eine ganz einfache hedonische Funktion: Es ist lustig. Content auf Social Media ist oft unterhaltsam und ein kurzweiliger Zeitvertrieb. Manchmal ist der Inhalt auch traurig, manchmal inspirierend, manchmal macht er uns wütend. Emotionsregulation über Social Media ist grundsätzlich eine positive Funktion.

Auch Chatbots sind nützlich. Sie sind gut darin, uns Arbeit abzunehmen. Sie können relativ gut Texte erstellen, Texte für uns lesen und zusammenfassen und uns Dinge erklären. Chatbots können auch unsere Freunde werden: Immer mehr Menschen nutzen Chatbots für soziale Beziehungen; als Freunde und als romantische und sexuelle Partner. Und sie fühlen sich dadurch weniger einsam.

Jenseits dieser psychologischen und gesellschaftlichen Ebene wird mit Social Media und Chatbots auch viel Geld gemacht. Das ist für sich genommen auch positiv. Meta, der Konzern mit Instagram, Facebook und WhatsApp, hat im Jahr 2024 einen Gewinn nach Steuern in Höhe von 62 Milliarden Dollar erzielt. Viel Umsatz und Gewinn bedeutet, dass viel Geld in andere Bereiche der Wirtschaft und an die öffentliche Hand fliesst. Das ist gut.

Inwiefern die Welt besser wäre

Wenn es Social Media nicht mehr gäbe, würden wir viel gewinnen. Der öffentliche Diskurs wäre zwar weniger pluralistisch. Das wäre ein Verlust. Aber er wäre auch weniger hasserfüllt, weniger polarisiert und enthielte weniger Fehlinformationen. Social Media sind nicht der einzige, aber ein wesentlicher Treiber einer Entwicklung, die ich «Informationskollaps» nenne. Die Logiken von Social Media führen zu einer stetigen Verschärfung der Aufmerksamkeitsökonomie. Immer mehr Stimmen wollen Aufmerksamkeit erhalten — es gibt ein immer grösseres Angebot an Meinungen und Content. Um in diesem wachsenden Ozean an Stimmen die ersehnte Aufmerksamkeit zu erhalten, muss man auffallen. Wie fällt man auf? Mit Inhalten, die emotional möglichst stark sind und die möglichst direkt und intensiv stimulieren.

Der Informationskollaps ist auch eine direkte Konsequenz des Geschäftsmodells der Social-Media-Plattformen. Social Media wurden hier in Cyberia ganz treffend als «Aufmerksamkeitsgefängnis» beschrieben. Die Plattformbetreiber wollen, dass wir möglichst viel Zeit vor dem Bildschirm verbringen. So verdienen die Plattformen nämlich Geld: Sie sammeln Daten über uns und servieren uns handkehrum personalisierte Werbung. Wir User sind auf den Plattformen nicht die Kunden, sondern das Produkt. So funktioniert Überwachungskapitalismus. Die Inhalte, die wir im Feed sehen, sind vom Algorithmus darum so kuratiert, dass sie Engagement maximieren. Es sind oft Inhalte, die emotional packend sind. Mehr und mehr vom Gleichen; maximal starke Superstimuli, die in unser limbisches System hacken und unser Belohnungssystem kurzschliessen. Jeder neue Reel ist die Chance auf den nächsten Dopamin-Kick.

Diese Dynamiken haben nicht nur gesellschaftliche, sondern auch individuelle Folgen. Social Media sind eine Belastung für die psychische Gesundheit, besonders von Jugendlichen. Von Aufmerksamkeitsstörungen und Angststörungen über selbstverletzendes Verhalten und Depression bis hin zu Suizidalität: Die Nutzung von Social Media hat eine Reihe gravierender negativer Effekte auf die psychische Gesundheit. Das bedeutet nicht, dass alle Jugendlichen, die auf Social Media sind, psychisch schwer krank werden. Natürlich nicht. Es handelt sich nicht um deterministische, sondern um probabilistische Effekte. Social Media sind ein signifikanter Risikofaktor. Ständige soziale Vergleiche, Fomo (Fear of Missing Out), die Normalisierung selbstverletzenden Verhaltens, Cybermobbing und andere Mechanismen erhöhen das Risiko psychischer Probleme.

Und wie sieht es mit den Chatbots aus? Auch sie haben negative Effekte. Einerseits führt die intensive Nutzung von Chatbots dazu, dass wir das Denken fördernde Aufgaben zu sehr auslagern. Dieser Effekt, bekannt als «Cognitive Offloading», führt dazu, dass das eigenständige aktive Denken verkümmert. Mit ChatGPT z.B. können Schüler und Studenten Aufgaben durchaus befriedigend erledigen. Aber lernen dabei viel weniger bis gar nichts. Das ist nur logisch: Wenn wir nicht selbst aktiv denken, sondern den Chatbot denken lassen, machen wir die Anstrengung des Denkens eben nicht und setzen uns entsprechend viel weniger mit dem Inhalt auseinander. Das Verkümmern des aktiven Denkens ist ein beklagenswerter Verlust. Bei Jugendlichen ist es darüber hinaus eine akute Gefahr: Wenn Jugendliche wegen Chatbots die Denkkompetenzen, die für aufgeklärte Bürger nötig sind, nie erlernen, ist das eine tickende Zeitbombe für Demokratie.

Auch die Sache mit Chatbots als «Freunde» hat eine Schattenseite. Es stimmt, dass KI-Kollegen das Gefühl von Einsamkeit kurzfristig reduzieren. Aber mittelfristig haben sie als Freunde und romantische Partner den genau umgekehrten Effekt: Chatbots führen zu mehr Einsamkeit und zu mehr sozialer Isolation, wie auch schon in Cyberia festgehalten wurde. Das ist kein Zufall. Chatbots werden genau wie Social Media so gestaltet, dass User suchtähnliches Verhalten entwickeln. Die Cyber-Compagnons setzen beispielsweise gezielt Taktiken der emotionalen Manipulation ein, damit User Chats nicht abbrechen, sondern weiter absorbiert und emotional abhängig bleiben. Je länger wir chatten, desto tiefer wird unsere Bindung zum Chatbot und desto höher ist die Wahrscheinlichkeit, dass wir noch mehr chatten. Je besser wir unsere KI-Kollegen kennenlernen, desto mehr Zeit wollen wir mit ihnen verbringen. Sie sind immer für uns da, sagen nie Nein und haben keine eigenen Bedürfnisse.

Wir haben nichts zu verlieren

Wenn wir den Stecker zögen, würde sich die Welt stark verändern. Es gäbe negative Veränderungen. Es gäbe positive Veränderungen. Was bliebe unter dem Strich?

Ich glaube, dass die meisten Menschen diese Frage falsch angehen. Weil Social Media und Chatbots positive und negative Aspekte haben, haben die meisten Leute das Gefühl, die Wahrheit liege irgendwo in der Mitte — und dass es darum falsch wäre, allzu stark einzugreifen. Der Denkfehler dabei ist, zu glauben, dass Nutzen und Schaden symmetrisch sind. Das sind sie nicht: Das Positive ist weniger gut, als das Negative schlecht ist. Warum?

Die negativen Aspekte sind sowohl individuell als auch kollektiv schwerwiegend: Kollaps der Informationsherstellung, kollektive Abnahme von Denkkompetenz, umfassende gesundheitliche Risiken. Diese Risiken können viel individuelles Leid verursachen. Es sind aber nicht nur individuelle, sondern auch systemische multiplikative Risiken. Das sind Risiken, die Gesellschaft als Ganzes destabilisieren. Wenn die verschärfte Aufmerksamkeitsökonomie uns in den Informationskollaps führt, besteht das Problem nicht einfach darin, dass Max Mustermann ein Fake-Bild auf seinem Facebook-Profil teilt. Das Problem ist, dass wir kollektiv als Gesellschaft den Bezug zur Realität verlieren.

Im Gedankenexperiment verlören wir auch gute Dinge: Unterhaltung, Vernetzung, Beteiligung am öffentlichen Diskurs, profitable Geschäftsmodelle. Der langfristige Erwartungswert für die Menschheit ist trotz dieser positiven Aspekte aber deutlich negativ. Sowie nur die kleinste Wahrscheinlichkeit besteht, dass aufgrund der negativen Folgen grosses Leid entsteht oder die Gesellschaft sogar gänzlich zugrunde geht, ist das Ergebnis drastisch negativ — auch dann, wenn die positiven Dinge sehr positiv sind. Leid und Kollaps sind massiv schwerwiegender als Unterhaltung und Profite.

Die Schlussfolgerung aus dem Gedankenexperiment ist für mich eindeutig: Wenn ich könnte, würde ich, ohne zu zögern, den Stecker ziehen. Ist das die einzig mögliche Schlussfolgerung? Nein, natürlich nicht. Meine Deutung des Gedankenexperiments ist analytisch verkürzt (Probleme wie z.B. das Risiko unkontrollierbarer künstlicher Superintelligenz habe ich gar nicht angesprochen) und von meinen eigenen Biases geprägt. Was aber zählt, ist die Übung an sich: ein unrealistisches Gedankenexperiment, das uns, gerade weil es unrealistisch ist, hilft, den Blick auf das Wesentliche zu fokussieren.

Das ist das, was ich mir nicht nur für die Zukunft von Cyberia, sondern auch für die Zukunft von uns allen wünsche: Wir müssen uns trauen, Gegenentwürfe zu formulieren. Grosse Ideen und grosse Visionen, die weit über das Ziel hinausschiessen — die aber vielleicht genau darum aufzeigen, was die richtige Stossrichtung ist. Mut und Hoffnung dazu können wir nicht zuletzt aus unserer digitalen Verzweiflung, aus dem Gruselkabinett des digitalen Horrors, der auch hier bei Cyberia dokumentiert ist, schöpfen: Wir haben nichts zu verlieren.