Code Capital

Code Capital: A sociotechnical framework to understand the implications of artificially intelligent systems from design to deployment (2022)

Léa Steinacker

Fortgeschrittene Anwendungen der Künstlichen Intelligenz (KI) werden im kommerziellen und im öffentlichen Sektor übergreifend eingesetzt, um Daten zu klassifizieren, Verhaltensweisen vorherzusagen und Entscheidungen zu treffen. Expert:innen sind sich heute einig, dass solche KI-Systeme immense wirtschaftliche, soziale, politische und ökologische Auswirkungen haben. Doch viele der jüngsten institutionellen Bemühungen, diese zu bewerten, sind konzeptionell diffus, fokussieren zu eng auf technische Aspekte, vernachlässigen den sozialen Kontext und werden auf dichotome Narrative reduziert. Wie lassen sich angesichts von Bedeutung und Einfluss dieser soziotechnischen Systeme die interdisziplinären Faktoren dieser KI-Systeme analysieren, die eine transformative Wirkung auf unsere Gesellschaft, unser soziales Gefüge haben?

In dieser Dissertation erläutere ich den von mir entwickelten Begriff des Code Capital. Er verortet die Konzeptualisierung von KI-Systemen als neue Manifestation von Kapital in der Forschungstradition zu unterschiedlichen historischen Kapitalformen und beschreibt einen interdisziplinären Ansatz des Zusammenwirkens immaterieller und materieller Faktoren und Konfigurationen, die über die Auswirkungen eines KI-Systems entscheiden. Mit Hilfe des gleichnamigen CODEFrameworks ermöglicht mein analytischer Ansatz eine Beschreibung und Bewertung von KI-Systemen entlang von vier Dimensionen - Conception, Operations, Data und Environment -, um die spezifischen Ausprägungen und Auswirkungen eines jeden Systems zu interpretieren und einzuschätzen. Um die Anwendbarkeit meines Ansatzes zu testen, habe ich CODE-Analysen von zwei KI-Systemen unter Verwendung qualitativer und quantitativer Methoden durchgeführt. Meine erste Fallstudie analysiert die empirischen Ergebnisse einer repräsentativen Mehrländerumfrage (China, Deutschland, Großbritannien, USA) zur Akzeptanz von bereits implementierten KI-gestützten Gesichtserkennungstechnologien.

Meine CODE-Analyse veranschaulicht die Erklärungskraft des Frameworks: Sie zeigt, dass soziale und kulturelle Voraussetzungen die Technologieakzeptanz von Gesichtserkennungssystemen prägen und das Design der KI-Systeme entscheidenden Einfluss darauf hat, wie das System genutzt wird. Meine zweite Fallstudie über synthetische Text-to-Speech-Technologien untersucht das Code Capital eines Systems in der Designphase, um zu zeigen, wie das Framework auch als Instrument zur Steuerung des Entwicklungsprozesses eingesetzt werden kann. Die Ergebnisse machen deutlich, wie wichtig die Vorhersage und Eventualfallplanung für die Prävention von potenziellem Missbrauch ist, z. B. für das Risiko des  8 Identitätsbetrugs. Beide Fallstudien zeigen auch, wie wichtig es ist, von Beginn an bei der Gestaltung materieller Features und dem Sammeln von Trainingsdaten das Kriterium der diversen Repräsentation unterschiedlicher sozialer und kultureller Kontexte anzuwenden. Darüber hinaus zeigen sie, wie zentral sowohl die sorgfältige Konzeption (C) als auch die Berücksichtigung der Umweltdimension (E) sind, wenn es um die Auswirkungen eines sozial eingebetteten KI-Systems geht – zwei Dimensionen, die in den bislang existierenden Ansätzen eher unterrepräsentiert sind. Mit Hilfe des CODE-Frameworks können Akteure aus dem technologischen wie auch dem gesellschaftspolitischen Sektor nun auf ein verbindendes Bezugssystem zurückgreifen, das ihnen helfen kann, KI-Systeme besser auszugestalten und ihre potentiellen Wirkungsweisen besser zu verstehen oder gar zu antizipieren.

Zur Dissertation

north