Hungerlöhne, menschenunwürdige Arbeitsbedingungen und das Ringen um wertvolle Bodenschätze: Was nach Kolonialzeit klingt, ist im KI-Zeitalter aktueller denn je, sagt Dr. Anne Burkhardt. Die Medienwissenschaftlerin forscht derzeit zu KI-Diskursen des Globalen Südens. Ein Gespräch darüber, wie der Hype um KI historische Formen der Ausbeutung wiederholt – und warum wir uns mit Science-Fiction aus dem Globalen Süden beschäftigen sollten.

Frau Burkhardt, Sie haben sich in Ihrer Doktorarbeit mit kolumbianischen Filmen beschäftigt und mehrere Jahre in Kolumbien verbracht. Heute forschen Sie verstärkt zu Künstlicher Intelligenz. Beim Thema KI sprechen wir aber häufig eher über die Big Player, die in den USA oder China sitzen und darüber, welche Auswirkungen das für uns in Europa hat. Wie passt das alles zusammen? Wie kam es dazu, dass sich Ihre Forschung in diese Richtung entwickelt hat?

Das hat verschiedene Gründe. Das Thema für meine Dissertation ist klar aus meinem eigenen Interesse hervorgegangen. Ich habe in Kolumbien gelebt und viel zu Filmen geforscht, da lag das Ganze auf der Hand. Danach habe ich am Internationalen Zentrum für Ethik in den Wissenschaften in Tübingen gearbeitet und kam zum ersten Mal in Kontakt mit dem Thema Technikethik. Durch die ganze Zeit, die ich in Kolumbien und Lateinamerika war, frage ich mich eigentlich immer, womit diese Technikthemen in anderen Teilen der Welt verbunden sind. Sie haben vollkommen recht, dass man bei diesen ganzen Diskursen um KI hier in Deutschland eigentlich eher an die Auswirkungen denkt, die diese Anwendungen für uns in Europa haben. Die meisten Leute denken nicht so weit, dass da viel längere Ketten im Hintergrund verlaufen – und dass diese häufig in den globalen Süden reichen.

Derzeit forschen Sie am RHET AI Center in Tübingen. Womit befassen Sie sich dort?

KOLONIALISMUS IM KI-ZEITALTER

Was ist unter dekolonialer Theorie zu verstehen?

Kolonialität bedeutet, dass bestimmte gesellschaftliche Strukturen auf der Welt im Grunde aus dem historischen Kolonialismus kommen, aber bis heute existieren. Dekoloniale Theorien versuchen, diese Strukturen in verschiedenen Bereichen aufzudecken und zu kritisieren. Sie entwerfen aber auch Gegenmodelle und überlegen, was man tun kann, um diese Strukturen abzubauen.

Und was hat das Ganze mit Künstlicher Intelligenz zu tun?

Zum einen geht es dabei um die Extraktion von Bodenschätzen, die man für die Hardwarekomponenten sämtlicher digitaler Medien, und auch für KI braucht. Hinter der Technologie stehen riesige Server, die natürlich erst einmal physisch hergestellt werden müssen. Die damit verbundenen Arbeiten finden oft im Hintergrund, unter ausbeuterischen Bedingungen, statt. Ein anderes Thema ist die Datenextraktion, die wir im Grunde alle leben: Wir geben Daten preis, wenn wir digitale Anwendungen nutzen und diese Daten gehen immer an dieselben großen Konzerne, die hauptsächlich in den USA sitzen.

Häufig wird im Diskurs um KI ja auch von Datenkolonialismus gesprochen. Was ist darunter zu verstehen?  

Im Globalen Süden wird die Datenextraktion noch verschärft. Genauso wie früher Bodenschätze und andere Reichtümer aus den Kolonien gezogen wurden, werden aus diesen Ländern heute Datenmengen gezogen. Zum einen arbeiten dort viele Menschen als Clickworker. Zum anderen werden technische Anwendungen dort häufig erst getestet. Alles unter dem Deckmantel „Ihr könnt das Ganze jetzt kostenlos nutzen“. Dabei werden dann aber Daten abgegriffen und streng genommen auch ganze Märkte. Und selbst wenn dieses Schema transparent verläuft, bleiben den Menschen im Globalen Süden wenige Alternativen. Sie könnten theoretisch entscheiden, ob sie diese ganzen Technologien nutzen, werden dadurch dann aber vom Rest der Welt abgehängt.

Von Künstlicher Intelligenz verspricht man sich mehr Automatisierung. Glauben Sie, dass diese Arbeit, die Clickworker:innen leisten, irgendwann gänzlich durch KI übernommen werden kann?

Meine Einschätzung ist, dass KI irgendwann so gut ist, dass sie toxische Inhalte zuverlässig erkennen kann. Weniger optimistisch bin ich, wenn es um den Kolonialitätsbereich an sich geht. Denn dabei geht es nicht nur um die Arbeitsbedingungen von Clickworker:innen, sondern um eine Macht- und Einflussstruktur, die in der Monopolstellung der immer gleichen großen Firmen liegt. Allein schon dadurch, dass ihnen die ganzen sozialen Medien gehören. Diese Firmen haben somit nicht nur die finanziellen Mittel, die sie in die Entwicklung stecken können, sondern gleichzeitig auch eine horrende Menge an Daten. Das allein macht es beispielsweise für ein Start-up aus Afrika schon schwierig, irgendetwas Wettbewerbsfähiges zu entwickeln. Im Endeffekt betrifft dieses Thema ja auch uns in Europa. Ich glaube, das Problem liegt in der Finanzmacht und Datenfülle, die diese Konzerne haben. Und aus dieser Situation sehe ich leider erstmal keinen Ausweg.  

Momentan wird ja viel über ethische KI debattiert. Würden Sie sagen, dass unsere Medienberichterstattung zu diesem Thema ausgewogen ist?

Ich finde, dass die Medienberichterstattung in Deutschland dazu kaum ausgewogen ist. Im AI Act der EU gibt es erstmals nicht nur Empfehlungen für eine ethische KI, sondern das Ganze wird nun auch in der Rechtsprechung umgesetzt. Ich glaube aber, dass auf diesen ganzen Ebenen, ebenso in der Medienberichterstattung, noch nicht weit genug zurückgedacht wird. Die Ethik setzt erst da ein, wo eine Technologie eigentlich schon entwickelt ist und hier vermarktet werden soll. Es geht darum, welches Risiko das Ganze im Grunde für die Menschen hier hat. Die Bedingungen hinter dieser Technik-Entwicklung werden aber nicht hinterfragt und im Grunde fängt es ja da schon an.

Wenn man im Einzelfall entscheidet, welche Anwendung in Ordnung ist, dann nimmt man einfach schon so viele Prämissen in Kauf. Man nimmt die Extraktion von Bodenschätzen in Kauf, man nimmt in Kauf, dass durch riesige Server Massen an Energie verbraucht werden und dass Menschen durch Clickwork ausgebeutet werden. Beim Thema Clickwork nimmt das Ganze ja noch andere Dimensionen an, weil es nicht mehr nur um die Ausbeutung im Sinne einer Unterbezahlung geht. Da wird in Kauf genommen, dass Menschen psychische Schäden davontragen. Es ist sozusagen die Drecksarbeit im digitalen Sektor. Diese Menschen sorgen dafür, dass wir als Nutzer:innen im Internet ein gutes Gefühl haben können und erhalten dafür keine Sichtbarkeit, keine Anerkennung und eine schlechte Bezahlung.

LATEINAMERIKANISCHE SCIENCE FICTION: MACHTKRITIK UND GALGENHUMOR

Zu Ihren Forschungsschwerpunkten gehören auch lateinamerikanische Filme. Warum sind diese Filme relevant für die Forschung zu Künstlicher Intelligenz?

Filme sind für mich Ausdruck dessen, was in Gesellschaften gedacht wird. Es gibt allerdings große Unterschiede zwischen Filmen, die aus verschiedenen Regionen der Welt kommen. Vor allem im Hinblick darauf, welche Themen präsent sind und aus welcher Perspektive diese angegangen werden.

Ein weiterer Aspekt ist, dass es hier in Europa gar nicht so einfach ist, diese Filme zu finden. Das hängt vor allem mit wirtschaftlichen Aspekten zusammen, weil man gerade für Science-Fiction viel Technik und teure Visual Effects benötigt, die die Budgets von Filmschaffenden aus dem Globalen Süden übersteigen. Und selbst wenn Filme dieser Art entstehen, werden sie nicht in den gängigen Kanon aufgenommen. Das bedeutet im Umkehrschluss, dass Kreativschaffende im Globalen Süden kaum eine Chance haben, den Diskurs mitzugestalten. Medien prägen unser Verständnis von Dingen und Phänomenen und wenn die Perspektiven der halben Welt fehlen, ist das sehr einseitig. In Europa beispielsweise gab es auch schon einige Studien, die gezeigt haben, dass die Vorstellung davon, was KI ist, macht und kann, häufig aus Filmen kommt. Diese Vorstellungen sind dann teilweise sehr absurd und gehen in Richtung Terminator.

Sie haben es jetzt schon angeschnitten, dass wir oftmals mit Science-Fiction-Filmen vertraut sind, in denen eine Superintelligenz die Macht übernimmt. Welche Themen behandeln denn lateinamerikanische Filme?

Lateinamerikanische Filme sind viel mehr in der Realität und stellen weniger die Technik oder damit verbundene Zukunftsszenarien in den Vordergrund. Es geht viel darum, was Technologien mit gesellschaftlichen Hierarchien machen, wie Menschen durch ihre eigene Regierung ausspioniert und kontrolliert werden. Auch die Ausbeutung im Techsektor ist ein großes Thema. Viele Ideen kommen aus dem Alltag der Filmschaffenden, aus ihren Beobachtungen. Ich habe einige Interviews mit verschiedenen Filmemacher:innen aus Lateinamerika geführt und fand es total interessant, dass das Erleben dieser Menschen eins zu eins widerspiegelt, was dekoloniale Theorien anmerken – obwohl sie diese Texte nicht kennen oder nie gelesen haben.

Zeigen diese Filme auch Lösungen auf?

Teilweise schon. In lateinamerikanischen Filmen geht es oft darum, dass in den USA entwickelte Technologien entweder gar nicht oder zu anderen Zwecken genutzt und an den eigenen kulturellen Kontext angepasst werden. Und um die Idee, dass diejenigen, die durch den Einsatz von Technologien unterdrückt und ausgebeutet werden, am Ende diese Technologie nutzen, um zurückzuschlagen.

In der Komödie „El Paseo de Teresa“ („Teresas Spaziergang“) beispielsweise will ein US-amerikanisches Unternehmen eine Sprachassistenz testen. Diese KI, Teresa, wird zu einer kolumbianischen Familie gebracht und als Geschenk verkauft. Im Endeffekt ist es so, dass diese als typisch kolumbianisch dargestellte Familie diese KI so erzieht, dass sie sich letztendlich nicht mehr von ihren Machern kontrollieren oder steuern lässt. Natürlich hört das US-Unternehmen die ganze Zeit mit und merkt, wie das Experiment aus dem Ruder läuft. Als die Firma Teresa am Ende wieder mitnehmen will, lässt das weder die kolumbianische Familie noch die KI zu. Sie sind am Ende dann auch erfolgreich.

Welchen lateinamerikanischen Science-Fiction-Film sollte man gesehen haben? Haben Sie eine Empfehlung?

Sleep Dealer von Alex Rivera sollte man gesehen haben. Der Film spielt an der Grenze zwischen Mexiko und den USA und darin steckt eigentlich alles, was man in der Forschung zu dekolonialen Theorien lesen kann. Kurz zusammengefasst: Es geht um den Gedanken, dass Daten zwar frei um die Welt laufen können, aber nicht alle Individuen davon gleichermaßen profitieren. In diesem Fall sind es mexikanische Arbeiter:innen, die an ein bestimmtes System angeschlossen werden, mit dem sie in den USA Roboter und andere Anwendungen über ihre Gedanken fernsteuern können. Die Körper der Arbeiter:innen bleiben dabei auf der mexikanischen Seite. In dem Film gibt es eine prägnante Szene, in der ein Vorarbeiter sagt, das sei der perfekte American Dream, „all the work – without the workers“.

Die Vision, die Alex Rivera vermittelt, ist wirklich spannend. Natürlich darf man kein Hochglanz-Kino erwarten, das mit Hollywood-Produktionen vergleichbar wäre. Aber man bekommt eine sehr ungewöhnliche Perspektive auf das Thema KI zu sehen.