Forschung

The core objective of NoBIAS is to research and develop novel methods for AI-based decision making without bias. NoBIAS will deliver a cohort of 15 researchers trained to identify biased and discriminating AI-decision making and able to provide solutions that reconcile and fully exploit AI while ensuring compliance with legal and social norms.
The interdisciplinary NoBIAS consortium consists of eight organizations including a non-academic one spread across five European states with leading expertise in artificial intelligence, law and sociology. The network is complemented with ten associated non-academic partners from different application domains including banks and healthcare.

In der Forschung wird vielfach mit neuen Datenquellen (digitalen Datenspuren) und Methoden (Machine Learning) gearbeitet. Im Gegensatz zu anderen Erhebungen wissen die Beforschten in der Regel nicht, dass sie und ihre Daten zum Forschungsgegenstand werden. Open-Science-Konzepte dagegen versuchen Forschung transparenter, nachvollziehbarer und partizipativer zu gestalten. Das Projekt behandelt eben dieses Spannungsfeld.
Open Science als zivilgesellschaftliche Initiative

Open Science ist eine in der wissenschaftlichen Gemeinschaft entwickelte fächerübergreifende Initiative, um im Sinne einer „offenen Wissenschaft“ die Ergebnisse von Forschung innerhalb der Wissenschaft selbst, aber vor allem auch für Öffentlichkeit und Zivilgesellschaft, für Bürger*innen und Praktiker*innen frei und schnell zugänglich zu machen. Durch neue Wege z.B. von Open Access und Open Data sollen wissenschaftliche Erkenntnisse allgemeinverständlich kommuniziert und Forschung dadurch transparenter und nachvollziehbarer gestaltet werden.

In der Digitalisierungsforschung wird vielfach mit neuen Datenquellen gearbeitet, wie etwa mit Social-Media-Inhalten oder mit Datenspuren, die durch den Gebrauch von Internet-of-Things-Technologien erzeugt wurden. Zur Analyse dieser Datenquellen kommen neue Forschungsmethoden der Data Science und des Machine Learning zum Einsatz, wie sie vielfach auf Social-Media-Plattformen selbst verwendet werden, um Nutzerverhalten zu analysieren, Trends zu spiegeln oder gar vorherzusagen.

In dem Projekt soll die Frage untersucht werden, welche Modelle der Zusammenarbeit mit ‚Beforschten’ im Sinne der Open Science in diesem Forschungsfeld möglich, forschungsethisch vertretbar und methodologisch sinnvoll sind.

GESIS – Leibniz-Institut für Sozialwissenschaften