Der Dualismus der Daten und die Bedeutung von Algorithmen

Wir interagieren bei der Internetnutzung im Alltag mit diversen Algorithmen, sei es auf unseren Social-Media-Profilen, beim Surfen im Web, beim Lesen einer Online-Zeitung oder beim Schauen eines YouTube-Videos. Algorithmen erweisen sich als nützliche Helfer, denn sie ermöglichen z.B. beim Online-Shopping die Speicherung des Warenkorbs beim Verlassen der Website. Dabei nehmen wir diese Algorithmen kaum aktiv wahr, was hat es also mit ihnen auf sich und welche Kehrseiten müssen wir bedenken?

Unsichtbares Protokoll

Ein Algorithmus ist ein Satz von Routinen, Regeln oder Befehlen. Da Algorithmen in der Regel auf der Benutzeroberfläche unsichtbar sind, werden sie auch als “Blackbox” bezeichnet. Die Funktionsweise ist Internetzutzenden nicht immer bekannt und dadurch fehlt eine Sensibilisierung für potentielle Bedrohungen: Algorithmen werden versteckt, um das geistige Eigentum zu schützen, die Details vor den Nutzenden zu verbergen und deren „Interaktion“ mit dem System mühelos zu gestalten. Dadurch wird aber gleichzeitig verhindert, dass die Nutzenden die Einzelheiten der Funktionsweise oder sogar die Existenz algorithmischer Systeme verstehen. Unabhängig davon, ob das Verständnis der Nutzenden vorhanden ist oder nicht, kann ihr wahrgenommenes Wissen über einen Algorithmus dennoch ihr Verhalten beeinflussen, weshalb ein Bewusstsein für diese Prozesse wichtig ist. Dazu gehört, Algorithmen transparent zu machen – zumindest auf der Ebene, die für eine verantwortungsvolle Nutzung erforderlich ist – und Menschen dabei zu unterstützen, ihr Verhalten im Internet verantwortungsvoll zu gestalten.

Das Risiko der Filterbubble

Algorithmen sortieren Daten auf der Grundlage dessen, was uns zu gefallen scheint, und schlagen uns darauf basierend ähnliche Inhalte vor. Künstliche Intelligenz (KI) kann bei der Sortierung derartig großer Datenmengen äußerst effizient sein. Sie filtert durch Klassifikationen und Priorisierungen von Informationen den Inhalt, den wir täglich online sehen. So werden uns individuell zugeschnittene Online-Inhalte und Dienste auf der Grundlage unserer Gewohnheiten, Vorlieben und Identitätsmerkmale angeboten. Automatisiert bestimmen sie unsere Informationsquellen und damit auch unsere Perspektive auf die Welt und auf andere. Diese Filterblase führt zu einer Reproduktion unserer bereits bestehenden Meinungen und spitzt sie eventuell noch zu, denn andere Perspektiven werden ausgeblendet. Filterblasen können uns so zwar Zeit bei der Suche nach neuen Inhalten sparen, aber auch unser Weltbild stark beeinflussen und kognitive Verhaltensweisen wie Impulsivität und Ablenkung verstärken. Werden wir uns dieser Blasen bewusst, können wir Online-Inhalte differenzierter betrachten und den Algorithmus gezielt beeinflussen, indem wir z.B. nach anderen Perspektiven auf ein Thema suchen.

Das Risiko von Personalisierung und Profilierung

Mit der zunehmenden Anzahl an Personalisierungstechnologien durch kommerzielle Plattformen wie Amazon, Netflix oder Spotify wächst auch die Anzahl der Datenverfolgungspraktiken, die dazu dienen, Rückschlüsse auf die alltäglichen Gewohnheiten und soziokulturellen wirtschaftlichen Verhaltensweisen abzuleiten. Zu den aktuellen Strategien der Datenverfolgung gehören das Sammeln von Browserverläufen, „Likes“, Kauf- und Suchverläufen, Geolokalisierung, App-Interaktionen, hochgeladenen Fotos, mobilen und anderen hörbaren Gesprächen, geschriebenen Kommentaren, geräteübergreifenden Aktivitäten und IP-Adressen, Inhalten von E-Mails, sozialen Kontakten, Song-Downloads, Kreditvergangenheit, Film-/Fernsehverhalten, Spiele-Highscores und eine Vielzahl anderer nachvollziehbarer alltäglicher Handlungen. Benutzerinformationen und Suchanfragen werden in Datenbanken zusammengefasst, um Kaufabsichten, Wünsche und Bedürfnisse verstehen und voraussagen zu können, welche dann in Echtzeit mit Verhaltensmodellen abgeglichen werden können. Klicks kommt dabei ein eine Schlüsselrolle zu, denn sie werden als Muster von Verhaltensweisen „gelesen“. Anhand dieses Klickverhaltens produzieren Algorithmen Wissen, das zu komplexen Profilen verdichtet wird. Um dieses Profil aktiv verändern zu können, benötigen Nutzende ein Bewusstsein für diese Prozesse und Zugang zu ihrem Profil. Diese sind meist weder transparent noch beeinflussbar, da die Verfahren zur Errechnung von Profilen in der Regel Geschäftsgeheimnis sind. Eine Ausnahme ist Google: Eingeloggten Nutzenden wird die Möglichkeit geboten, das über sie erstellte Profil einzusehen und anzupassen. Sie können ihr persönliches Interessenprofil in den Einstellungen bei den Ad Preferences einsehen.

Was bedeutet “Algorithmic Literacy”?

Unter Algorithmic Literacy wird verstanden, über ein Bewusstsein für die Verwendung von Algorithmen in Online-Anwendungen, -Plattformen und -Diensten zu verfügen, die Funktionsweise von Algorithmen zu kennen, algorithmische Entscheidungen kritisch bewerten zu können sowie die Kenntnis mit algorithmischen Vorgängen umzugehen und sie zu beeinflussen. Praktisch bedeutet dies, dass Individuen in der Lage sind, Strategien zur Änderung vordefinierter Einstellungen in algorithmisch kuratierten Umgebungen, wie z. B. in ihren Social Media Newsfeeds oder Suchmaschinen anzuwenden. Das Ziel hierbei ist, die Ergebnisse verschiedener algorithmischer Entscheidungen zu vergleichen, um die Perspektivenvielfalt zu erhalten und die eigene Privatsphäre zu schützen. Algorithmic Literacy kann dementsprechend als ein Aspekt von Medienkritik und -kompetenz betrachtet werden.

Mittlerweile sollte deutlich geworden sein, dass es im algorithmischen Kontext auch immer um Datensammlung, Datenverarbeitung und Datenaustausch geht.  Dementsprechend ist auch der Datenschutz ein wichtiges Thema, wenn die Rede von einer Algorithmic Literacy ist. Besonders Social-Media-Algorithmen werden so designt, dass schnell Abhängigkeiten entwickelt werden können. Um dem entgegenzuwirken, kann ein erster Schritt darin bestehen, die Benachrichtigungen der Apps einzuschränken und sich seiner Nutzungszeit bewusst zu werden. Ein Projekt, das sich dafür einsetzt, ist das Algorithm & Data Literacy Project der UNESCO, das verschiedene Materialien zur Aufklärung über Algorithmen und ihre Auswirkungen auf den Menschen und die Gesellschaft, die auch für Kinder und den Unterricht geeignet sind, kostenlos bereitstellt. Wer mehr zu Algorithmen im Unterricht erfahren möchte, kann sich hier unser Video auf YouTube ansehen.


Quellen

Leyla Dogruel, Philipp Masur & Sven Joeckel (2022) Development and Validation of an Algorithm Literacy Scale for Internet Users, Communication Methods and Measures, 16:2, 115-133, DOI: 10.1080/19312458.2021.1968361

https://algorithmliteracy.org/https://www.pewresearch.org/internet/2017/02/08/theme-7-the-need-grows-for-algorithmic-literacy-transparency-and-oversight/

https://algorithmliteracy.org/

Leave a Reply

Your email address will not be published. Required fields are marked *