Ein Teil eines Systems, dessen Entscheidungen nicht direkt nachvollzogen, sondern nur von außen beobachtet werden können, wird als Black Box bezeichnet. Algorithmische Black Boxes bezeichnen Grenzen für die Transparenz programmierter, technischer Abläufe.

Dieser Artikel verweist auf folgende weitere Beiträge:

Algorithmus (Medienwissenschaft), Algorithmisches Entscheiden (Medienwissenschaft), Digitalisierung (Medienwissenschaft), Künstliche Intelligenz (Medienwissenschaft), Transparenz (Rechtswissenschaft)

Was bezeichnet dieser Begriff?

Als Black Box wird generell ein Teil eines Systems bezeichnet, dessen Operation nicht oder nur indirekt über seinen Input oder Output beobachtet werden kann.^[1] Im Zusammenhang mit der digitalisierten Gesellschaft werden solche uneinsehbaren Funktionsstellen vor allem als 'algorithmische Black Boxes' diskutiert. Damit sind in der Regel programmierte, digitale und automatisch operierende algorithmische Akteure gemeint, deren Entscheidungen nicht vollständig nachvollzogen werden können.^[2]

Black Boxes können als Gegenbegriff zur Transparenz von Algorithmen verstanden werden.^[3] Unterschieden werden kann dann zwischen Black Boxes, deren Operationen nur eingeschränkt einsehbar sind, weil beispielsweise ihre Programmierung oder ihre Datenbasis nicht allen oder nicht öffentlich zugänglich sind oder nur mit besonderen Vorkenntnissen oder besonderem Aufwand nachvollzogen werden können^[4], und solchen algorithmischen Verfahren, bei denen die Black Box schon theoretisch nicht transparent gemacht werden kann, wie etwa beim Einsatz bestimmter selbstlernender Systeme, die über ihre selbst gebildeten Entscheidungskriterien keine Auskunft mehr geben, oder trivialer bei Systemen, die ihre Entscheidungen nicht hinreichend dokumentieren.

Nach einem Vorschlag von Paßmann und Boersma kann jedoch gegenüber der oft nur eingeschränkt oder gar nicht erzielbaren formalized transparency oft eine practical transparency erreicht werden.^[5] Sie konzipieren diese praktische Transparenz in zwei anschaulichen paradigmatischen Metaphern im Anschluss an Merleau-Pontys Phänomenologie: Den Stock einer blinden Person, dessen Funktion dieser Person völlig transparent scheint und der nach und nach wie ein neuer Körperteil in deren eigenes Körperempfinden übergeht; und die Feder auf einem Hut, zu der die Person, die ihn trägt, ein vorsichtiges Verhältnis entwickelt, um Kollisionen und Unfälle zu vermeiden, ohne jemals die physikalische Bewegung der Feder ganz vorhersagen zu können. Paßmann und Boersma verweisen diese Differenz in Anlehnung an Karl Marx' Begriff des 'Maschinenfragments' auf Hegels Unterscheidung zwischen dem Werkzeug als Arbeitsmittel und dem Werkzeug als Ding und betonen, dass beide Konstellationen eine praktische Transparenz zulassen, wenn auch verschiedener Art.

Zugunsten digitaler Souveränität als Algorithmensouveränität wird regelmäßig algorithmische Transparenz gefordert.^[6] Dabei ist die Frage nach dem Ausmaß der möglichen, notwendigen oder wünschenswerten Transparenz umstritten.^[7]

Woher kommt der Begriff?

Der Begriff der 'Black Box' kommt ursprünglich aus der Kybernetik des mittleren 20. Jahrhunderts. Explizit wohl erstmals in Wilhelms Cauers "Theorie der linearen Wechselstromschaltungen"^[8] eingesetzt, bezeichnet er Schaltkreise, die zugunsten einer Beschreibung ihres Outputs als Black Boxes behandelt werden. Die kybernetische Ausarbeitung nach Ross Ashby^[9] wurde in der Tradition der Kybernetik zweiter Ordnung von Norbert Wiener auf eine allgemeine Systemtheorie bezogen.^[10] Hier werden Black Boxes als noch nicht identifizierte, erst noch zu identifizierende Systemelemente verstanden. Bei Ranulph Glanville wurde die Existenz von Black Boxes zu einer unhintergehbaren kritischen Grenze in der Erforschung von Systemen überhaupt erhoben: "Inside every white box, there are two black boxes trying to get out."^[11] In Wieners und Glanvilles philosophischen Reflexionen wird die Black Box auf Gedankenexperimente des schottischen Mathematikers und Physikers James Clerk Maxwell aus dem 19. Jahrhundert zurückbezogen, der die Verteilung von Opazität und Transparenz zur Herstellung von Ordnung in anders nicht durchschaubaren Situationen diskutiert hat.

Ein kritischer Umgang mit dem Begriff der algorithmischen Black Box in der digitalisierten Gesellschaft wird deshalb die anderen, nicht direkt beobachtbaren Elemente in einer gesellschaftlichen Situation berücksichtigen müssen. Dieselbe Metapher wurde zum Beispiel auch für die Beschreibung des nicht direkt beobachtbaren Verhaltens des Publikums in massenmedialen Situationen^[12], für Unsicherheiten über die Auswirkungen politischer Kommunikation und Meinungsbildung^[13], nicht vorhersagbare Effekte in wirtschaftlichen Systemen^[14] und nicht zuletzt die unsicheren Kommunikationsstrukturen in wissenschaftlichen Diskursen.^[15] verwendet.

So hielt Richard Whitley bereits 1972 fest: "The view of scientific knowledge maintained by much of the sociology of science had led to an ideology of 'black boxes' which restricts research to the study of currently observable inputs to, and outputs from, a system. Any study of the internal processes, which may be unobservable at the moment, is declared taboo."^[16] Der Systemtheoretiker Gregory Bateson formulierte im selben Jahr optimistischer: "A ‘black box’ is a conventional agreement between scientists to stop trying to explain things at a certain point."^[17]

Insofern ist eine Black Box nicht ohne Rückbezug auf die Beobachtungsposition zu definieren: Das heißt, die Aufmerksamkeit für eine Black Box ist stets abhängig von dem spezifischen Wunsch nach Transparenz.

Weiterführende Literatur

• Glanville, Ranulph. 1979. "The Form of Cybernetics: Whitening the Black Box." In General Systems Research: A Science, a Methodology, a Technology, Louisville, herausgegeben von Society for General Systems Research, 35-42.
• Glanville, Ranulph. 1982. "Inside Every White Box There Are Two Black Boxes Trying To Get Out." In Behavioral Science 27: 1-11.
• Paßmann, Johannes und Asher Boersma. 2017. "Unknowing Algorithms On Transparency of Unopenable Black Boxes." In The Datafied Society, herausgegeben von Mirko T. Schäfer und Karin van Es, 139-146. Amsterdam: Amsterdam University Press. https://www.jstor.org/stable/j.ctt1v2xsqn.14.

Quellenverzeichnis

Die erste Version dieses Beitrags wurde von Stephan Packard im Rahmen des Projekts "Digitale Souveränität" am Institut für Medienrecht und Kommunikationsrecht und am Institut für Medienkultur und Theater der Universität zu Köln erstellt.

Zitiervorschlag: Glossar Digitale Souveränität. 2021. „Black Box (Medienwissenschaft).“ https://www.bigdataliteracy.net/glossar/. Zugegriffen am tt.mm.jjjj.