Algorithmisches Entscheiden (Rechtswissenschaft)

Icon rechtswissenschaft.png
Begriff im Kontext der neuen Datenschutzverordnung der Europäischen Union zur Beschreibung automatisierter und von Computern ausführbarer Befehlsfolgen, die zu einer Entscheidung führen, bei der im engeren Sinne kein Mensch involviert war, die aber im weitesten Sinne durch vorherige Programmierung durch Menschen erst ermöglicht wurde.
Dieser Artikel verweist auf folgende weitere Beiträge:
Algorithmisches Entscheiden (Medienwissenschaft), Algorithmus (Medienwissenschaft), Big Data (Medienwissenschaft), Daten (Medienwissenschaft), Datenschutz (Rechtswissenschaft), Künstliche Intelligenz (Medienwissenschaft), Transparenz (Rechtswissenschaft)


Was bezeichnet dieser Begriff?

Von algorithmischem Entscheiden im engeren Sinne spricht man, wenn eine Entscheidung allein durch automatisierte computerverstehbare Befehlsfolgen zustande kommt, ohne dass ein menschlicher Denkprozess an der konkreten Entscheidung beteiligt ist. Algorithmen ermitteln selbsttätig aufgrund vorgegebener Informationen (Input) eine konkrete Entscheidung (Output). Man spricht daher auch von automatisierten Entscheidungen. Verbreitet ist auch der auf die Systemarchitektur abstellende Begriff algorithmic decision making system (ADM-Systeme). Nicht der Mensch, sondern die Maschine trifft alle wesentlichen Operationen, um eine Entscheidung zu bewirken. In selbstlernenden Systemen definieren Algorithmen selbsttätig neue In- und Outputs aufgrund des maschinell erlernten Verhaltens von Nutzer_innen. Algorithmische Entscheidungen im weiteren Sinne sind Vorgänge, die zum Teil durch menschliche Erklärungen und zum Teil durch automatisierte Erklärungen zustande kommen. Sie liegen etwa dann vor, wenn eine menschliche Vertragserklärung elektronisch übermittelt oder eine menschliche Äußerung durch eine elektronische Signatur abgeschlossen wird. Algorithmisches Entscheiden im weiteren Sinne kann auch vorliegen, wenn virtuelle Assistent_innen Erklärungen abgeben, die durch vorherige Programmierung menschlich festgelegt wurden. Besondere Fragen treten auf, wenn Algorithmen in selbstlernenden Systemen neue Informationen selbsttätig ermitteln und verwenden, um zu Entscheidungen zu gelangen, deren Bildung menschlich nicht mehr vollständig nachverfolgbar ist. Diese Möglichkeit betrifft das durch die Echtzeit-Analyse großer Datenmengen (Big Data Analytics) verstärkt mögliche maschinelle Lernen, das gelegentlich auch als Künstliche Intelligenz bezeichnet wird. Für das medienwissenschaftliche Verständnis des Konzepts des algorithmischen Entscheides siehe Algorithmisches Entscheiden (Medienwissenschaft)

Woher kommt der Begriff?

Der Begriff des algorithmisch veranlassten, beeinflussten oder durchgeführten Entscheidens ist eine Begleiterscheinung der Computertechnik. Im rechtlichen Kontext spielt der Begriff vor allem im neuen Datenschutzrecht der Europäischen Union eine Rolle. Seit 2016 begrenzt Art. 22 der Datenschutzgrundverordnung (DSGVO)[1] allein automatisierte Entscheidungen (algorithmisches Entscheiden im engeren Sinne) im Einzelfall, wenn diese gegenüber der betroffenen Person eine rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.[2] Solche Entscheidungen sind grundsätzlich verboten. Sie sind ausnahmsweise zulässig, wenn eine solche Entscheidung für den Abschluss eines Vertrages erforderlich ist oder wenn sie durch eine Rechtsvorschrift zugelassen ist und diese Rechtsvorschrift die Rechte, Freiheiten und berechtigten Interessen der betroffenen Person angemessen schützt.

Wonach muss ich fragen?

Um die Kontrolle gegenüber der Entscheidungsgrundlage zu begründen und auch zu erhalten, sind folgende Fragen bedeutsam:

  • Werden Computersysteme zur Vorbereitung oder Durchführung einer Entscheidung eingesetzt oder dient ihr Einsatz nur der Vorbereitung einer menschlich getroffenen Entscheidung?
  • Welche Entscheidungen oder Entscheidungsschritte sind automatisiert, welche erfolgen durch menschliche Akteur_innen?
  • Wird über den Einsatz von Algorithmen aufgeklärt?
  • Wird erläutert, welche Algorithmen in welchem Maße und an welcher Stelle zum Einsatz kommen?
  • Ist ein Widerspruch auf einfache und schnelle Weise durchführbar?
  • Kann ich die Entscheidung, die zu meinen Lasten getroffen wurde, noch angreifen?

Wann ist das wichtig?

Je stärker menschliche Entscheidungen formalisiert und in einfache Ja- oder Nein-Befehlsfolgen maschinenlesbar programmiert werden können, desto relevanter wird die Frage, wer die zu einer Rechtsfolge führende Entscheidung getroffen hat: der Mensch oder ein Computersystem. Algorithmisches Entscheiden erhöht die Gefahr diskriminierenden oder willkürlichen, jedenfalls intransparenten Handelns durch Behörden, Unternehmen oder sonstige Personen.

Maschinelles Lernen findet seine Grenzen bei Entscheidungen, die ein Ermessen im Einzelfall erfordern. Algorithmisches Entscheiden erzeugt die Gefahr, dass aus dem vermehrten Auftreten scheinbarer Zusammenhänge Prognosen für künftiges Verhalten entwickelt werden, die ohne menschliche Plausibilitäts- oder Kausalitätskontrolle zu fehlerhaften Entscheidungen führen. So mag es allgemein einen Zusammenhang zwischen Wohnort, Alter, Beruf und der Fähigkeit, Kredite zurückzuzahlen geben. Würde ein Algorithmus hier aber statistische Zusammenhänge zum Anlass nehmen, auch diejenigen von der Kreditvergabe auszuschließen, die in dieses Muster von Zusammenhängen fallen, so würden auch falsche Entscheidungen im Einzelfall (false positives) denkbar werden. Eine zahlungsfähige Person erhielte dann keinen Kredit aufgrund der algorithmischen Aussortierung nach den genannten Merkmalsgruppen, die vorliegen mögen.

Im rechtlichen Kontext beachtlich sind Entscheidungen, die Rechtsfolgen auslösen, sei es das Angebot oder die Annahme einer Vertragserklärung, die Geltendmachung eines Rechtes (zum Beispiel einer Kündigung oder eines Anspruchs auf Erstattung wegen Flugverspätung), aber auch eine reale Tathandlung, die Rechtsfolgen erzeugt, wie etwa die durch einen Computer bewirkte Übersetzung eines Textes oder die computergenerierte Komposition eines Musikwerkes.

In der rechtlichen Wirklichkeit spielen überdies automatisierte Entscheidungen eine Rolle bei den sogenannten Legal-Tech-Anwendungen, also algorithmisch gesteuerten Befehlsfolgen. Der Einsatz von Algorithmen zur Steuerung von nachteiligen oder erheblich beeinträchtigenden Entscheidungen kann eine Rolle spielen, wenn Verwaltungsakte (zum Beispiel Ordnungswidrigkeiten) erlassen und/oder vollstreckt werden (zum Beispiel durch Belastung eines Kontos), wenn Verträge automatisiert gekündigt werden, wenn staatliche Leistungen automatisiert (nur teilweise) gewährt oder wenn sie versagt werden, wenn Asylanträge automatisiert abgelehnt werden[3] oder wenn Steuerlasten automatisiert verhängt werden. Staaten, welche die Gewährung oder Versagung von Leistungen an Wohlverhalten knüpfen („social scores“), können ein solches System automatisiert betreiben. Auch dann würde algorithmisches Entscheiden mit rechtlichen Folgen eingesetzt werden.

Algorithmisches Entscheiden provoziert die Frage, ob, in welchen Handlungsfeldern und in welchem Ausmaß Menschen Entscheidungen an Computersysteme delegieren können. Daraus ergibt sich einerseits die Frage, welche Rechtsregeln erforderlich sind, um die Gefahren solcher Systeme zu begrenzen und Regeln für die Verantwortlichkeit der Betreiber_innen zu setzen.[4] Zum anderen geht es um die ethische Frage, ob Entscheidungen grundsätzlich überhaupt Computersystemen überlassen werden sollen.

Wie wird der Begriff erfasst/festgestellt?

Der Begriff Algorithmisches Entscheiden erfordert Feststellungen, wenn er als Tatbestandsmerkmal in einem Gesetz verwendet wird, also Bestandteil einer Rechtsnorm wird. Dann ist bei der Normanwendung durch Auslegung des Gesetzestextes und Untersuchung des tatsächlichen Sachverhalts zu bestimmen, ob eine algorithmische Entscheidung vorliegt. Wie erwähnt, hat der Begriff in abgewandelter Form als „automatisierte Entscheidung“ in Art. 22 DSGVO Eingang gefunden.[5] Eine juristische Feststellung ist bei Anwendung dieser Norm erforderlich. Sie erfolgt bereits, wenn in Unternehmen oder Institutionen geprüft wird, ob eine algorithmische Entscheidung vorliegt und daraufhin eine Entscheidung getroffen wurde. Überdies wird die Norm angewendet, wenn ihre Verletzung im Raum steht. In diesem Zusammenhang werden Aufsichtsbehörden tätig, wenn sie gem. Art. 55 – 58 DSGVO die Einhaltung des Datenschutzes überwachen und bei einem Verstoß Sanktionen verhängen.[6] In Deutschland sind dies der Bundesdatenschutzbeauftragte sowie die Datenschutzbeauftragten der Länder als zuständige Aufsichtsbehörden. Schließlich kann der Betroffene gem. Art. 78, 79 DSGVO vor den Gerichten Rechtsschutz suchen, wenn er Objekt einer algorithmischen Entscheidung wurde.[7] In diesem Fall sind es Richter_innen, die untersuchen müssen, ob algorithmisches Entscheiden nach dem juristischen Verständnis vorliegt. Zur Vorbereitung von gerichtlichen oder aufsichtlichen Verfahren bestehen nach Art. 15 der DSGVO Auskunftsansprüche gegen den oder die für die Datennutzung verantwortlichen Organisationen.[8]

Welche Bildungsprojekte gibt es dazu?

Weiterführende Literatur

Quellenverzeichnis

  1. ↑ Vergleiche Art. 22 Datenschutzgrundverordnung: https://dsgvo-gesetz.de/art-22-dsgvo/
  2. ↑ Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr, Amtsblatt der Europäischen Union (ABl.) Teil L Nr. 119 vom 4. Mai 2016, S. 1-88.
  3. ↑ Hoeren, Thomas. 2009. "Datenschutz und Scoring: Grundelemente der BDSG-Novelle I." Verbraucher und Recht 24 (10), 363-369. Aufgerufen am 25.02.2021, https://www.vur.nomos.de/fileadmin/vur/doc/VuR_09_10.pdf.
  4. ↑ Damit befasst sich unter anderem die Enquête-Kommission des Deutschen Bundestages: Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale: https://www.bundestag.de/ausschuesse/weitere_gremien/enquete_ki).
  5. ↑ Vergleiche Art. 22 Datenschutzgrundverordnung: https://dsgvo-gesetz.de/art-22-dsgvo/
  6. ↑ Vergleiche Art. 22 Datenschutzgrundverordnung: https://dsgvo-gesetz.de/kapitel-6/
  7. ↑ Vergleiche Art. 22 Datenschutzgrundverordnung: https://dsgvo-gesetz.de/kapitel-8/
  8. ↑ Vergleiche Art. 22 Datenschutzgrundverordnung: https://dsgvo-gesetz.de/art-15-dsgvo/

Die erste Version dieses Beitrags wurde von Karl-Nikolaus Peifer im Rahmen des Projekts "Digitale Souveränität" am Institut für Medienrecht und Kommunikationsrecht und am Institut für Medienkultur und Theater der Universität zu Köln erstellt.

Zitiervorschlag: Glossar Digitale Souveränität. 2021. „Algorithmisches Entscheiden (Rechtswissenschaft).“ https://www.bigdataliteracy.net/glossar/. Zugegriffen am tt.mm.jjjj.