Algorithmen und Recht: Wenn der Staat mir als Algorithmus begegnet

Der Öffentlich-Rechtliche Rundfunk hat einen gesetzlich geregelten Auftrag. Dazu gehört auch eine gewisse Diversität im Programm. Der Umstieg auf digitale Formate mit der Nutzung von Recommender-Systemen kann diese Vielfalt gefährden. Kann dann ein auf Diversität getrimmtes Recommender-System einspringen und Alternativen empfehlen? Nikolaus Poechhacker forscht und lehrt in der Arbeitsgruppe „Humanwissenschaft des Digitalen“ am Digital Age Research Center (D^!ARC) an der Schnittstelle zwischen Gesellschaft, Recht und Technik.

„Ich interessiere mich dafür, wie die praktische Umsetzung von digitalen Systemen gesellschaftliche Institutionen verändert“, erklärt Nikolaus Poechhacker. Das Beispiel der Entwicklung eines Recommender-Systems von Öffentlich-Rechtlichen Rundfunkanstalten beschreibt seine PhD-Arbeit. Besonders herausfordernd an der Schnittstelle von Technologie, Gesellschaft und Recht sei die hohe Komplexität: „Es reicht nicht, etwas technisch umsetzen zu können, sondern man muss in diesem Beispiel auch einen Begriff davon haben, wie man Diversität so operationalisieren kann, dass es zwischen verschiedenen sozialen Gruppen vermitteln kann“. Ähnlich komplex und durchaus kritisch zu betrachten sei beispielsweise auch die Digitalisierung von Asylverfahren, bei denen eine Spracherkennungssoftware zum Einsatz kommt, um festzustellen, woher Antragssteller*innen kommen. Nikolaus Poechhacker nennt ein anderes Beispiel, das von Prof. Tina Ehrke-Rabel von der Universität Graz bearbeitet wurde: Auch die vom Finanzamt durchgeführten Steuerprüfungen seien mittlerweile hoch automatisiert. Häufig entscheidet ein Algorithmus darüber, wer überprüft wird: „Da gibt es subtile Muster. Man ist lange nicht am Radar. Wenn man aber einmal für eine Prüfung ausgewählt wurde, kommt man lange nicht mehr raus.“ Wir fragen nach, ob das nicht ungerecht sei, und erfahren vom schmunzelnden Nikolaus Poechhacker: „Es ist nicht ungerecht, weil man kein Recht darauf hat, nicht geprüft zu werden.“

Poechhacker hat in Wien Soziologie studiert, nebenbei Kurse aus der Informatik belegt und seinen Master in „Science-Technology-Society“ abgeschlossen. Für das Doktoratsstudium ging er an die TU München. Nach knapp zwei Jahren als Rechts- und Techniksoziologe am Institut für öffentliches Recht und Politikwissenschaft der Universität Graz ist Nikolaus Poechhacker nun seit Jahresbeginn 2022 am D^!ARC als Senior Scientist tätig.

„Wir sind uns wenig darüber bewusst, welche Technologien staatliche Institutionen nutzen und welchen Einfluss das auf uns hat“, erklärt er. Wenn, wie dies zum Teil schon in den USA eingesetzt wird, Gerichtsentscheidungen von Algorithmen beeinflusst werden, sollte jede*r Bescheid wissen. „Bei sensiblen, öffentlichen Bereichen brauchen wir mehr Transparenz. Im Verhältnis dazu brauche ich nur wenig Transparenz über den Algorithmus, der mir Serien auf der Streaming-Plattform vorschlägt.“ Den Jüngeren traut Poechhacker – besonders im Umgang mit häufig genutzten Plattformen – eine hohe digital literacy zu: „Wir sehen das bei Youtube. Gebt uns ein Like, weil ihr uns damit mit dem Algorithmus helft, hört man dort öfters.“ Wer sollte aber darüber Bescheid wissen, was im Hintergrund der praktischen und unseren Alltag prägenden Plattformen passiert: „Bei Suchmaschinen hätte Transparenz einen gegenteiligen Effekt; jeder würde versuchen, die Reihung im eigenen Interesse zu beeinflussen. Es geht also nicht um Transparenz für die Allgemeinheit, sondern gegenüber Governance-Mechanismen wie z.B. einer Aufsichtsbehörde.“

Das Forschungsfeld, in dem Nikolaus Poechhacker tätig ist, wird täglich größer, prägen doch immer mehr technische Systeme unseren Alltag und damit auch die Verwaltung und Organisation des Staates. „Es gibt viel, was wir noch nicht verstehen, und worüber es sich lohnt – auch in der Grundlagenforschung – offene Fragen zu stellen“, fasst er zusammen.