Algorithmen zeigen nicht, was wir wollen, sondern das, worauf wir instinktiv starren

Kennen Sie das? Sie öffnen Ihren Social-Media-Feed mit der vagen Hoffnung auf eine kleine intellektuelle Anregung, auf eine witzige Beobachtung oder eine Nachricht, die wirklich wichtig ist. Wenige Minuten später starren Sie auf einen empörten Kommentar unter einem Artikel, der Sie eigentlich gar nicht interessiert, und fragen sich, wie Sie überhaupt hier gelandet sind. Sie sind nicht allein - und der Grund liegt tiefer, als Sie vielleicht denken. Die interessante Frage lautet: Was, wenn der Algorithmus uns gar nicht manipuliert, sondern einfach nur tut, was wir ihm durch unser Verhalten beibringen?

Das Paradox der geäußerten Wünsche

Die Beschwerden über algorithmisch kuratierte Feeds sind Legion. Sie seien giftig, zu negativ, zu aufregend. Die Lösung scheint simpel: Man müsse die Algorithmen einfach so umprogrammieren, dass sie mehr von dem zeigen, was wir wirklich wollen - mehr Tiefgang, mehr Ruhe, mehr positive Nachrichten. Der Psychologe Matt Grawitch zeigt in seiner Analyse in Psychology Today auf, warum dieser sofort einleuchtende Gedanke grandios an der Realität scheitert. Das, was wir zu wollen behaupten, wenn wir in Ruhe nachdenken, und das, was unsere Aufmerksamkeit in der konkreten Situation tatsächlich fesselt, sind zwei radikal verschiedene Dinge. Es geht nicht um Heuchelei oder ein Scheitern der Technik, sondern um einen grundlegenden Konflikt in uns selbst: den Konflikt zwischen unseren reflektierten Absichten und unseren evolutionär uralten Aufmerksamkeitsmechanismen.

Warum das Negative immer gewinnt

Um zu verstehen, warum ausgerechnet der Inhalt in unseren Timelines auftaucht, den wir angeblich so ablehnen, muss man sich die Evolution des menschlichen Aufmerksamkeitssystems ansehen. Unser Gehirn ist, wie Grawitch unter Verweis auf die Forschungsliteratur (Baumeister et al., 2001; Haselton & Nettle, 2006) erläutert, ein hochsensibler Detektor für Bedrohungen und Ungewissheit. Aus evolutionärer Perspektive war es immer besser, zehnmal auf ein falsches Rascheln im Gebüsch zu reagieren, als einmal eine echte Gefahr zu übersehen. Diese fundamentale Asymmetrie hat sich tief in unsere kognitiven Schaltkreise eingegraben.

Wenn wir nun durch einen unendlichen Strom von Informationen scrollen, sind es genau diese uralten Kategorien - Gefahr, Konflikt, Empörung, Unsicherheit - die eine nahezu magnetische Anziehungskraft auf unsere Aufmerksamkeit ausüben. Ein sachlicher, ausgewogener Artikel über positive gesellschaftliche Entwicklungen hat gegen einen wütenden Tweet über eine Ungerechtigkeit, ob real oder nur wahrgenommen, keine Chance. Grawitch bringt es auf den Punkt: Inhalte, die unsere Aufmerksamkeit verlässlich kapern, müssen sich nicht mit unseren langfristigen Zielen decken. Sie müssen sich nur im gegenwärtigen Moment wichtig anfühlen und Werte aktivieren, die sofortiges Handeln verlangen - einen Like, einen wütenden Kommentar, ein Teilen. Unser passives Scrollverhalten tut sein Übriges: Es reduziert unsere Fähigkeit zur Selbstkontrolle und macht uns zu Spielbällen dieser automatischen Reize.

Inhalte, die Aufmerksamkeit verlässlich kapern, müssen sich nicht mit unseren langfristigen Zielen decken. Sie müssen sich nur im Moment wichtig anfühlen.

Das technische System ohne moralischen Kompass

Vor diesem psychologischen Hintergrund erscheint die Rolle des Algorithmus plötzlich weniger dämonisch. Ein Empfehlungsalgorithmus ist im Kern nichts weiter als ein Optimierungssystem. Sein Ziel ist nicht die Manipulation der Gesellschaft, sondern schlicht die Maximierung der Interaktion. Grawitch vergleicht die Logik mit der eines Supermarkts, der Waren optimiert platziert, um unsere Blicke anzuziehen, oder einer Nachrichtenredaktion, die auf negative Schlagzeilen setzt, weil sie Klicks bringen. Das System lernt aus unserem tatsächlichen Verhalten - den Klicks, der Verweildauer, dem Like - und nicht aus unseren verbal geäußerten Präferenzen.

Hier liegt das eigentliche Dilemma, das Grawitch als unlösbar beschreibt, weil es kein technisches, sondern ein zutiefst menschliches ist. Außerhalb einer strikt chronologischen Darstellung müsste jede andere Art der Kuration auf einer kollektiven Übereinkunft darüber beruhen, was wertvoll, angemessen und sehenswert ist. Eine solche Wertebasis existiert auf der Skala globaler sozialer Netzwerke jedoch nicht einmal im Ansatz. Der Algorithmus wird beschuldigt, aber er führt nur aus. Er spiegelt den kollektiven, evolutionär geprägten und oft unreflektierten Aufmerksamkeits-Fußabdruck seiner Nutzer wider. Die Spannung zwischen dem, was wir idealerweise sehen wollen, und dem, was wir instinktiv konsumieren, ist in uns selbst angelegt. Ein Algorithmus kann sie nicht auflösen, er macht sie nur in Echtzeit sichtbar.

Jenseits der Beschwerde: Die unbequeme Selbsterkenntnis

Die Erkenntnis, dass der Feed ein Spiegel unseres kollektiven, oft unerfreulichen Aufmerksamkeitsverhaltens ist, entlässt die Plattformbetreiber nicht aus ihrer Verantwortung. Die Art und Weise, wie diese Systeme gestaltet werden, welche Signale sie optimieren und wie transparent sie operieren, sind zutiefst politische und ethische Gestaltungsfragen. Die Analyse Grawitchs legt jedoch nahe, dass die vielversprechendste Lösung nicht allein in einer Änderung des Codes zu suchen ist. Sie beginnt mit einer Änderung unseres Selbstverständnisses als Nutzer. Wenn wir verstehen, dass unsere Aufmerksamkeit keine rationale Wahl, sondern ein uraltes, leicht zu entführendes System ist, können wir uns der Dynamik vielleicht ein Stück weit entziehen.

Die Forderung an die Algorithmen, uns vor uns selbst zu schützen, ist bequem. Die eigentliche Herausforderung liegt in der Einsicht, dass das Murren über den Feed oft auch ein Murren über die eigene, unbequeme Natur ist. Es ist die Kluft zwischen dem Menschen, der wir sein wollen, und dem Menschen, zu dem uns Millionen Jahre Evolution gemacht haben - ein Wesen, das wie gebannt auf das laute Rascheln im Gebüsch starrt, selbst wenn wir wissen, dass uns der leise, stetige Fluss der Weisheit glücklicher machen würde.

Quellen:

• New usage analytics and updated spend controls for enterprises (OpenAI Blog)
• Why Algorithms Show Us What We Claim Not to Want (Psychology Today - Articles)
• Daybreak: Tools for securing every organization in the world (OpenAI Blog)
• People training new AI models admit they just get chatbots to do it (New Scientist)
• Ikigai and the Science of Personality Change (Psychology Today - Articles)
• Samsung Electronics brings ChatGPT and Codex to employees (OpenAI Blog)

// weiterlesenNicht die Jäger, sondern die Bäuerinnen: Wie Frauen die Landwirtschaft nach Nordwesteuropa brachtenArchäologieDie stille Pflicht: Warum Menschen nicht Anstrengung meiden, sondern sinnlosen AufwandGeistAbsoluter Überfluss, innere Leere: Warum uns KI-Reichtum nicht glücklich machen mussAlgorithmen

Kinetyra