Das Verständnis und die Kenntnis darüber, wie Algorithmen arbeiten, wo sie eingesetzt werden und welche Annahmen, Verzerrungen und Vorurteile ihnen zugrunde liegen. Zudem die Fähigkeit und Bereitschaft, die Effekte von Algorithmen auf das soziale Miteinander und die Gesellschaft zu thematisieren.

Dieser Artikel verweist auf folgende weitere Beiträge:

Algorithmus (Medienwissenschaft), Algorithmisches Entscheiden (Medienwissenschaft), Algorithmisches Entscheiden (Rechtswissenschaft), Big Data (Medienwissenschaft), Daten (Medienwissenschaft), Privatheit (Rechtswissenschaft)

Was bezeichnet dieser Begriff?

Algorithmic Literacy bedeutet, ein Bewusstsein dafür zu entwickeln, dass Algorithmen in der digitalen Welt allgegenwärtig sind. Es bedeutet, einfache Algorithmen lesen, schreiben und in einem Modell anordnen zu können, zu verstehen, wie Algorithmen arbeiten, wer Algorithmen zu welchen Zwecken einsetzt, die eigenen Auskunfts- und Widerspruchsrechte zu kennen und in der Lage zu sein, sich gegebenenfalls qualifizierte Hilfe zu holen.

Algorithmic Literacy bedeutet weiterhin, danach zu fragen, wie Input und Output eines algorithmischen Vorgangs zusammenhängen. Dazu gehört auch, kritische Fragen nach der Qualität der ihnen zugrundeliegenden Daten zu stellen. Konkret meint dies, sich darüber bewusst zu werden, welche verallgemeinernden Annahmen, Verzerrungen oder Vorurteile Algorithmen - unbeabsichtigt oder unbemerkt - zugrunde liegen. Im Sinne der Technikfolgenabschätzung ist es daher notwendig, die Ergebnisse, die ein Algorithmus auswirft, im Hinblick auf die intendierten Zwecke bewerten zu können sowie die mittel- und langfristigen Effekte auf die Gesellschaft und das soziale Miteinander problematisieren zu können. Hinzu kommt die Fähigkeit, die Möglichkeiten, aber auch die limitierenden Faktoren des Einsatzes von Algorithmen zu hinterfragen, also einschätzen zu können, welche Probleme sie lösen können und welche eher nicht. Denn die Vielfalt und Diversität der Welt kann nicht durch einzelne Datenelemente repräsentiert werden. Durch einen unreflektierten Einsatz von Algorithmen besteht deshalb die Gefahr, die pluralistische Welt einer standardisierten Verengung und einer homogenen Weltsicht zu unterwerfen, in der Alternativen, normative Abweichungen und Zufälle, insbesondere aber minorisierte Gesellschaftsgruppen nicht berücksichtigt werden.^[1]

Zur Algorithmic Literacy gehört auch das Wissen, zwischen den beiden Typen von Algorithmen zu unterscheiden, nämlich zwischen Algorithmen, "deren Regeln gänzlich durch menschliche Logik entwickelt werden" einerseits und Algorithmen, die bei Technologien des Data Minings eingesetzt werden andererseits. Letztere Algorithmen nennt man auch (selbst-)lernende Algorithmen, da sie "auf Korrelationen beruhen, die durch die Auswertung von Daten" erst erzeugt werden.^[2]

Woher kommt der Begriff?

Der Begriff Algorithmic Literacy wird vor allem in den USA diskutiert, da man dort von einem verhältnismäßig geringem Wissen über algorithmische Entscheidungssysteme in der Bevölkerung (illiteracy) ausgeht. Aber auch eine kritische Auseinandersetzung mit den dort herrschenden gesellschaftlichen Machtverhältnissen fließt in die Prägung des Begriffs ein. Diese führten dazu, dass insbesondere Schwarze Menschen, People of Colour und andere minorisierte Gruppen sowie wirtschaftlich unterprivilegierte Menschen durch den Einsatz dieser automatisierten Systeme diskriminiert und benachteiligt werden und bisher kaum in der Lage sind, ihre Rechte wahrzunehmen.

Wonach muss ich fragen?

• In welchen Situationen treffen Algorithmen Entscheidungen und wie beeinflussen sie meine persönliche Lebensrealität und die anderer?
• Welche Datensätze liegen diesen Entscheidungen zugrunde?
• Wer sammelt diese Daten womit?
• Wer entscheidet, welche Datensätze für diese Entscheidungen relevant sind?
• Welche und wessen Interessen werden mit einer algorithmischen Entscheidung verfolgt und durchgesetzt?
• Werden minorisierte Gruppen, Schwarze Menschen, People of Colour, Frauen oder wirtschaftlich unterpriviligierte Personen durch die algorithmische Entscheidung benachteiligt?
• Welche Machtverhältnisse, Hierarchien und Asymmetrien werden durch die algorithmischen Entscheidungssysteme aufrechterhalten?
• Welche Vorannahmen, Perspektiven, Präferenzen, Ideologien, Verzerrungen, Wert- und Vorurteile, Rassismen und Sexismen können den algorithmischen Entscheidungssystemen zugrundeliegen?
• Wer ist für die durch Algorithmen getroffenen Entscheidungen verantworlich und verantwortbar?
• Sind die durch Algorithmen mögliche Effizienz- und Profitsteigerung verhältnismäßig zu den durch sie entstehenden Nachteilen?
• Dienen die algorithmischen Entscheidungssysteme dem Allgemeinwohl?
• Welche Paramenter wären nötig, damit algorithmische Entscheidungssysteme dem Einzelnen nicht schaden und dem Allgemeinwohl dienen?

Wann ist das wichtig?

Algorithmic Literacy wird insbesondere dann wichtig, wenn wir mit den Folgen von algorithmischen Entscheidungssystemen (ADM-Systeme, für algorithmic decision-making) konfrontiert sind. Da sich algorithmische Entscheidungen inszwischen auf fast alle Lebensbereiche des Menschen, von der Medizin, der Rechtsprechung, der Strafverfolgung, der Sicherheitspolitik bis in die Privats- und Intimsphäre auswirkt, ist Algorithmic Literacy potenziell überall anwendbar.^[3] Algorithmen begegnen uns als Bürger_innen, wenn wir Kontakt mit Behörden und Ämtern haben, zum Beispiel beim Predictive Policing, bei der Risikobeurteilungen bei Gericht oder in den Sozialämtern, bei der Berechnung von Hartz IV-Sätzen und ähnlichem. Aber auch im öffentlichen Raum finden Algorithmen Anwendung, zum Beispiel bei der Geräusch- und Gesichtserkennung. Weiterhin werden in Bildungseinrichtungen algorithmisch gestützte Analyse-Tools eingesetzt, beispielsweise sogenannte Learning Analytics, oder bei der Einschätzung von Notenspiegeln in Großbritannien.^[4] In der Unterhaltungs- und Technikbranche werden inzwischen ausschließlich algorithmisch gestützte Technologien angeboten, so beispielsweise Smart TVs und Smart Home Devices. Im Privaten kommen Algorithmen in Dating- und Reiseportalen zum Einsatz, bei Online-Kreditdiensten oder bei der Sortierung des News Feed auf Social Media Plattformen. Auch Prozesse auf dem Arbeitsplatz werden heutzutage von Algorithmen durchgeführt oder gesteuert, zum Beispiel beim Personalmanagement (People Analytics) und in der Logistik. Algorithmen entscheiden auch, welche Einstufung durch Versicherungsdienste wie den Krankenkassen die Klient_innen erfahren.

Algorithmic Literacy ist aus diesen Gründen immer dann wichtig, wenn menschliches Verhalten durch von Menschen entwickelte Algorithmen bewertet wird. Algorithmen verbessern die Funktionalität von Produkten und Dienstleistungen. Sie sind nützlich, weil sie viele vormals von Menschen getroffene Entscheidungen automatisieren, beschleunigen und effizienter gestalten, aber auch bedenklich, weil sie nicht intendierte Konsequenzen nach sich ziehen können und unempfindlich gegenüber ethischen Fragen sind. Kritiker_innen des Einsatzes von algorithmischen Entscheidungssystemen befürchten, dass Entscheidungen auf Basis ethischer Standards, die in ethischen Diskursen traditionell allein der menschlichen Urteilskraft zugeschrieben werden, in naher Zukunt durch von Profit- und Effizienzstreben geprägtes Entscheiden ersetzt wird, bei welchem Menschen lediglich Datenquellen, Input und zu kontrollierende Variablen darstellen.^[5] Algorithmische Entscheidungssysteme hätten, so einige Expert_innen, vor allem in den USA, aber auch in einigen europäischen und asiatischen Staaten bereits zu einer Entmenschlichung des Gesundheitswesen und der sozialen Dienste geführt (siehe auch Algorithmisches Entscheiden (Medienwissenschaft)).

Wie wird der Begriff erfasst/festgestellt?

Bisher fehlt es an Wissen über den Kenntnisstand in der Bevölkerung über algorithmische Entscheidungssysteme und deren Anwendung sowie an Operationalisierungen, das heißt an Richtungswerten oder Rahmen, die festlegen, wie Kompetenzen im Bereich der Algorithmic Literacy konkret aussehen könnten und mit welchen Items sie erfasst und gemessen werden können.^[6]

Erste Erkenntisse über das Wissen in der Bevölkerung über Algorithmen sind unter anderem durch die Bertelsmann-Stiftung 2018 und 2019 in zwei repräsentativen Befragungen erhoben worden.^[7] Die erste Befragung zeigt einen geringen Kenntnisstand und eine geringe Auseinandersetzung der Bürger_innen in Deutschland mit dem Thema Algorithmen. Demnach fielen 45 Prozent der Befragten spontan nichts zum Begriff Algorithmus ein. Auch über die Anwendungsgebiete von Algorithmen bestand nur geringes Wissen. Die Autor_innen nehmen an, dass viele Befragte von den im Interview vermittelten Informationen überrascht waren und ihnen erst während der Befragung der Einsatz von Algorithmen bewusst wurde. Assoziationen und Einstellungen zum Thema Algorithmen - wenn vorhanden - offenbarten hingegen eine recht ausgeprägte Skepsis gegenüber der Technologie. Die Befragten verbanden mit ihnen ein großes Effizienz- und Optimierungspotential, aber nur ein Viertel traute ihnen faire Entscheidungen zu. Gleichzeitig verorteten sie den Begriff 'Algorithmus' in einen Kontext von gesellschaftlichen Machtasymmetrien, in denen in erster Linie den Programmierer_innen großer Einfluss und Macht über das Leben anderer Menschen zukäme. Nur wenige Befragte erhofften sich von Algorithmen gerechtere Entscheidungen als von Menschen. Darüber hinaus bestand eine große Ablehnung autonomer, algorithmengestützter Entscheidungen sowie ein Wunsch nach mehr Regulierung.^[8]

In einer zweiten Befragung auf europäischer Ebene gaben 48 Prozent der Befragten an, nicht zu wissen, was ein Algorithmus ist. Weitere 44 Prozent wissen ein wenig über sie. Je älter die Befragten und je höher das formale Bildungsniveau, desto größer war die Kenntnis von Algorithmen. Je höher das Wissen über Algorithmen, desto größer war der Anteil derjenigen, die sich von Algorithmen mehr Vorteile versprechen, aber auch dazu neigten, mehr staatliche Regulierung zu fordern. Bemerkenswert ist, dass – analog zu den Einstellungen der Deutschen – auch die Europäer_innen mit dem Begriff Algorithmus an erster Stelle viel Handlungsmacht für Programmierer_innen assoziierten. 27 Prozent verbanden mit dem Begriff effiziente Entscheidungen, aber nur 11 Prozent glaubten an die Fairness dieser Entscheidungen. Dementsprechend herrscht große Skepsis, wenn Maschinen über Menschen urteilen sollen, insbesondere, wenn es sich um folgenreiche Anwendungsbereiche handelt.^[9]

Inzwischen existieren auf schulischer Ebene Vorgaben darüber, welche Fähigkeiten und Kenntnisse sinnvollerweise vermittelt werden sollten. Der Medienkompetenzrahmen NRW^[10] enthält zum Beispiel den Kompetenzbereich "Problemlösen und Modellieren“, der gegliedert ist in die Teilkompetenzen „Prinzipien der digitalen Welt“, „Algorithmen erkennen“, „Modellieren und Programmieren“ sowie „Bedeutung von Algorithmen“. Die Bildungspläne Baden-Württemberg sehen beispielsweise für das Fach Informatik in der Sekundarstufe I, an den Gymnasien und der Gemeinschaftsschule auch Standards für inhaltsbezogene Kompetenzen zum Themenfeld Algorithmen vor, die ab der Jahrgangsstufe 7 sukzessive aufeinander aufbauen.^[11]

Welche Bildungsprojekte gibt es dazu?

• Das Medienpaket „Algorithmen in unserem Alltag“ von iRights.Lab will Schüler_innen ein allgemeines Verständnis über Algorithmen und algorithmische Entscheidungssysteme sowie deren Entwicklungen und Auswirkungen auf die Gesellschaft näherbringen: https://medienportal.siemens-stiftung.org/de/algorithmen-in-unserem-alltag-112741.

• Das Projekt The Algorithm Literacy Project von Kids Code Jeunesse und der UNESCO bietet eine interaktive Internetseite mit Atikeln und Videos, die junge Bürger_innen bei der Reflexion über algorithmische Prozesse im Alltag unterstützen sollen. Die Seite wird derzeit auf Englisch und Französisch angeboten: https://algorithmliteracy.org/.

• Das UnBias Fairness Toolkit zielt darauf ab, das Bewusstsein über algorithmische Prozesse zu fördern und einen öffentlichen bürgerlichen Dialog darüber anzuregen, wie Algorithmen Online-Erlebnisse beeinflussen. Es soll dabei helfen, über mögliche Änderungen nachzudenken, um Probleme der Online-Ungerechtigkeit anzugehen: https://unbias.wp.horizon.ac.uk/fairness-toolkit/.

Weiterführende Literatur

• Chiusi, Fabio et al. 2021. Automating Society Report 2020. Berlin/Gütersloh: AlgorithmWatch/Bertelsmann Stiftung, https://algorithmwatch.org/wp-content/uploads/2021/01/Automating-Society-Report-2020-Deutsche-Ausgabe.pdf.
• Fischer, Sarah und Thomas Petersen. 2018. Was Deutschland über Algorithmen weiß und denkt. Ergebnisse einer repräsentativen Bevölkerungsumfrage. Gütersloh: Bertelsmann Stiftung. https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/Was_die_Deutschen_ueber_Algorithmen_denken.pdf.
• Grzymek, Viktoria und Michael Puntschuh. 2019. Was Europa über Algorithmen weiß und denkt. Ergebnisse einer repräsentativen Bevölkerungsumfrage. Gütersloh: Bertelsmann Stiftung. https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/WasEuropaUEberAlgorithmenWeissUndDenkt.pdf.
• Krüger, Julia und Konrad Lischka. 2018. Damit Maschinen den Menschen dienen. Lösungsansätze, um algorithmische Prozesse in den Dienst der Gesellschaft zu stellen. Arbeitspapier. Im Auftrag der Bertelsmann Stiftung. Gütersloh: Bertelsmann Stiftung. https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/Algorithmenethik-Loesungspanorama.pdf.
• Orwat, Carsten. 2020. Diskriminierungsrisiken durch Verwendung von Algorithmen. Baden-Baden: Nomos. https://www.antidiskriminierungsstelle.de/SharedDocs/Downloads/DE/publikationen/Expertisen/studie_diskriminierungsrisiken_durch_verwendung_von_algorithmen.pdf;jsessionid=CF93A42DF97B449E3B4572D06341E31D.2_cid341?__blob=publicationFile&v=6.
• Rainie, Lee und Janna Anderson. 2017. Code-Dependent: Pros and Cons of the Algorithmic Age. Washington D.C.: Pew Research Center. https://www.pewresearch.org/internet/wp-content/uploads/sites/9/2017/02/PI_2017.02.08_Algorithms_FINAL.pdf.
• Zweig, Katharina A. et al. 2018. "Algorithmic Literacy." In Paderborn Symposium on Data Science Education at School Level 2017: The Collected Extended Abstracts, herausgegeben von Rolf Biehler et al., 33-36. Paderborn: Universitätsbibliothek Paderborn. http://doi.org/10.17619/UNIPB/1-374.

Quellenverzeichnis

Die erste Version dieses Beitrags wurde von Thomas Tekster im Rahmen des Projekts "Digitale Souveränität" am Institut für Medienrecht und Kommunikationsrecht und am Institut für Medienkultur und Theater der Universität zu Köln erstellt.

Zitiervorschlag: Glossar Digitale Souveränität. 2021. „Algorithmic Literacy (Medienbildung).“ https://www.bigdataliteracy.net/glossar/. Zugegriffen am tt.mm.jjjj.