Ghost Work: Behind the Scenes of Automation

KI-Entwickler machen sich wieder einmal Sorgen um die Zukunft. Diese Sorgen pendeln meistens und seit langem um die Singularität: Einerseits lange herbeigesehnte Verheißung, den menschlichen Körper zu überwinden und unsterblich zu werden; anderseits gefürchtet, weil die Technologie den Menschen nicht gehorchen möge, und ihn stattdessen vernichten werde. Diese Narrative von Untergang und Auferstehung verdecken abermals™ die Probleme die sich bereits heute in der Entwicklung und Anwendung von KI Technologien verbergen.

Beim Training von Algorithmen wurde häufig das Urheberrecht von Künstler*innen verletzt; Inhaltsmoderator*innen klassifizieren Katzenbilder und nicht selten Enthauptungsvideos unter schlechten Arbeitsbedingungen und meist im globalen Süden; diskriminierende Algorithmen wurden entwickelt und werden auch eingesetzt um Entscheidungen über Leben und Tod treffen und Entwickler widersprechen nicht.

»we should acknowledge that most people are forced to live inside someone else’s imagination.«

Ruha Benjamin

Die größte Gefahr, erscheint mir, sind abermals™ die Zukunftsfantasien von KI Entwicklern und große Unternehmen, die diese bereitwillig perpetuieren. Die Zukunft kann ganz anders sein, als sie im Silicon Valley erzählt wird. Wir gestalten die Zukunft heute. Um neue Utopien zu entwickeln ist es wichtig, gegenwärtige Auswirkungen von KI zu verstehen.

Workshop Ghost Work at ACM SIG CHI 2023

Auf der ACM SIG CHI 2023 in Hamburg habe ich gemeinsam mit fantastischen Kolleg*innen und geleitet von Dr. Yana Boeva den Workshop Ghost Work durchgeführt und gefragt, wer die »Geister« in den Maschinen sind, auf deren Arbeit KI Entwickler zurückgreifen.

Yana Boeva, Arne Berger, Andreas Bischof, Olivia Doggett, Hendrik Heuer, Juliane Jarke,
Pat Treusch, Roger Andre Søraa, Zhasmina Tacheva, Maja-Lee Voigt: Behind the Scenes of Automation: Ghostly Care-Work, Maintenance, and Interferences: Exploring participatory practices and methods to uncover the ghostly presence of humans and human labor in automation. Workshop at CHI 2023. CHI EA ’23: Extended Abstracts of the 2023 CHI Conference on Human Factors in Computing Systems. April 2023. Article No.: 332. https://doi.org/10.1145/3544549.3573830

Sketches by Maja-Lee Voigt