Der sog. Überwachungskapitalismus ist eine perfide Art der Kommodifizierung der Realität ohne prezedenz durch den modernen Kapitalismus. Technologiekonzerne wie Google oder Facebook machen mit Services, die vermeintlich Kostenfrei angeboten werden Milliarden, wo aber kommen diese Gewinne her? Geht es wirklich nur um das Zeigen von Werbung und was bedeutet der Imperativ des ewigen Wachstums im Kontext von Big Data? All diese Fragen und viele mehr beantwortet Prof. Shoshana Zuboff in ihrem Buch „Surveillance Capitalism“ und liefert faszinierende, doch etwas düstere Ausblicke auf eine Zukunft von Konzernen, deren Geschäftsmodell die Überwachung und Beeinflussung jeder ungeschützten digitalen Interaktion und des nicht digitalen Bewusstseins all seiner User ist.
Der gesammelte Wissensschatz, der die Grundlage für Shoshana Zuboffs Buch bildet, ist auf einer Vielzahl von Interviews mit Datenwissenschaftlern, Informatikern und Führungspersonal aus vielen der großen Konzerne im Silicon Valley aufgebaut, die so zu sagen am Puls der neuen Technologien arbeiten.
Dass diese Form der kommodifizierung bisher unbekannt ist, führt dazu, dass etwas eintreten kann, dass Shoshana Zuboff als „Horseless Carriage Syndrome“ bezeichnet, in Referenz zur anfänglichen Unfähigkeit der Menschen die vorher nie dagewesenen Mechanismen zu verstehen, die Menschen im Angesicht epochalen Wandels wie den Übergang von Kutsche zum Auto oder von Muskelkraft-angetriebener-Maschine zur Dampfmaschine befällt. Dies ist bezeichnend für die grundlegende Veränderung, die sich in Quantität und Qualität wohl erst noch offenbaren wird. Den Überwachungskapitalismus gibt es erst seit ca. 2005. Man bedenke hier wie viel fundamentaler die Wirkung der Maschinenkraft auf die menschlichen Lebensumstände im Laufe von 100 Jahren im Vergleich zu dem Effekt nach 20 Jahren gewesen ist. Wir stehen also wohl erst am Anfang des digitalen Zeitalters. Die Zukunft die Shoshana Zuboff beschreibt ist durchaus eher als Dystopie zu verorten, derselben gnadenlosen Profitmaxime unterworfen seiend wie der Rest des Marktes, dennoch gelingt es ihr zu zeigen was getan werden müsste und hoffentlich wird, um die Wunder des digitalen Raums in unser aller Interesse zu gestalten.
“You are intended to be in the feeling of being served. You are intended to be saturated with convenience, so that you will not notice, and you will not complain. And all of this shadow operation will remain hidden, because you will not ask questions, because you are so busy being entertained.”
Shoshana Zuboff
Die Erfindung des Überwachungskapitalismus schreibt Shoshana Zuboff vor allem Google zu, dem „Pioneer of Surveillance Capitalism“. Die Gründer von Google wurden nach dem Platzen der DotCom Blase von dem Interesse ihrer Shareholderinnen, also der Maxime des maximalen Profits, dazu angehalten zusätzlich zu dem eigentlichen und ursprünglichen Ziel, die beste Suchmaschine auf dem Markt zu entwickeln, einen Weg zu finden aus diesem Unternehmen Gewinne zu generieren. Die Nutzerdaten wurde zuvor fast ausschließlich dafür genutzt die Funktionalität der Suchmaschine zu verbessern. Man entschied sich als Antwort auf Androhung des Entzugs von Finanzierung neue Wege zu suchen aus den Daten der Nutzer*innen Gewinne zu generieren.
Den Weg den sie fanden beschreibt Fr. Zuboff so:
Social theorist David Harvey builds on Arendt’s insight with his notion of “accumulation by dispossession”: “What accumulation by dispossession does is to release a set of assets… at very low (and in some instances zero) cost. Overaccumulated capital can seize hold of such assets and immediately turn them to profitable use.” […] Page grasped that human experience could be Google’s virgin wood, that it could be extracted at no extra cost online and at very low cost out in the real world, where “sensors are really cheap.” Once extracted, it is rendered as behavioral data, producing a surplus that forms the basis of a wholly new class of market exchange. Surveillance capitalism originates in this act of digital dispossession, brought to life by the impatience of overaccumulated investment and two entrepreneurs who wanted to join the system. This is the lever that moved Google’s world and shifted it toward profit.
Shoshana Zuboff
Das junge Unternehmen begann, Wege zu suchen, aus den Daten Profit zu generieren. Es wurde sich schnell des Potentials bewusst, das solche vielseitigen Daten einzelner Nutzerinnen haben, um damit das Verhalten dieser zu analysieren, vorherzusehen und diese „Predictions“ zu verkaufen. Man begann, mit den zuvor als „Data Exhaust“ bezeichneten Daten Algorithmen zu trainieren, deren Aufgabe nicht das Liefern des besten Suchergebnisses, sondern das Verstehen und, daraus abgeleitet, das Vorhersehen menschlicher Handlungen, Emotionen und Affekte ist.
Some of the Data is also used improve the Service, even more of it is analysed to train, what they call “Models”. Patterns of human behaviour. So, once I have big training models, I can see how people with these characteristics typically behave over time. And that allows me to fit your data right into that arc and to predict what you are likely to do. Not only now, but soon and later. This is what I call behavioural surplus (“Verhaltensdatenüberschuss”). These data streams filled with this rich predictive data.
Why surplus? Because right from the start this was more data then was required to improve products and services.”
Shoshana Zuboff
Diese Algorithmen bzw. statistische wahrscheinlichkeits Modelle von menschlichem Verhalten, abgeleitet aus Persönlichkeit, Emotionen, Intelligenz, affektiver Handlungsweise, etc. des Individuums, reichen aus, um bei hinreichender Sicherheit in seinen Vorhersagen, gründend in einer unfassbaren Breite an Daten über vergangenes Verhalten, mit denen die Modelle so zu sagen gefüttert werden, das zukünftige Verhalten ausgedrückt in Wahrscheinlichkeiten, die in ihrer Akkuratheit die vorhersagbaren Wahrscheinlichkeiten bei Uninformiertheit weit übersteigen, vorherzusagen. Man kann sich das beispielhaft so vorstellen, dass ein Tech Konzern die Essgewohnheiten, Lieblingsrestaurants und emotionalen Stadien etc. und wann Sie in verbindung mit bestimmten Ausprägungen dieser Merkmale eher dem Drang nachgeben etwas zu kaufen von Menschen wie Ihnen, liebe*r Leser*in, analysiert hat und ungefähr weiß was Sie oder andere Menschen, die demselben Modell zuordenbar also in der gleichen emotionalen Lage etc., wie Sie sind, gerne kaufen. Der Konzern verkauft nun diese, nur durch die Analyse ihrer Daten zu erhaltende Information über Ihr wahrscheinlich eintretendes Verlangen Ihrerseits nach einem solchen Produkt, an die höchstbietende Geschäftskund*in, die eben ein solches Produkt anbietet. Eigens dazu wurde ein interner Markt für solche Informationen eingerichtet, Shoshana Zuboff nennt diese „behavioral futures markets“. Auf diesem werden dann eben solche Gelegenheiten, in denen es wahrscheinlich ist, dass eine Nutzer*in ein Verlangen nach einem bestimmten Produkt hat an Anbieter*innen genau solcher Produkte versteigert. Diese Geschäftskund*innen kaufen zusätzlich zu der Information die Gelegenheit, dann gezielt diesem Individuum eine entsprechende Werbebotschaft oder eine andere Form der Beeinflussung zu präsentieren, meist im Rahmen des anbietenden Konzerns also z.B. im Instagram-Feed oder auf der Google-Suche Seite. Im Beispiel des Restaurants beispielsweise in Form einer Nachricht, die das Individuum zum Konsum in eben diesem Restaurant einlädt und ihm zusätzlich eine Vergünstigung anbietet z.B. in Form eines Coupons. Der Preis für eine solche Interaktion berechnet sich anhand der sog. „Clickthrough Rate“, der Rate, zu der Individuen, die eine solche Beeinflussung erhalten, wirklich auf die Botschaft klicken und auf der Webseite der Werbetreibenden landen. Die Aufgabe allerdings, die Kundinnen zum endgültigen Kauf zu bewegen, hat immer noch die Anbieterin des Produkts, der Tech Konzern liefert nur die Kundinnen in möglichst hoher Zahl vom Portal des Tech Konzerns zur digitalen Präsenz seiner Geschäftskundinnen.
Interviewer: There are some people who are saying that it’s very improbable that these targeted ads really can achieve something because people have their own will, and they will not buy some shoes just because there is an ad in front of them.
Shoshana Zuboff: „You know I think one of the misconceptions that’s really important to move away from is, that surveillance capitalism is something that is only manifest in our lives when we are online, or somehow, it’s only restricted to online targeted advertising. It’s easy for us to say, “oh these things don’t affect me”. The fact is this is conducted at a layer that is not accessible to us. They can predict things about us like our personality, our Emotions, our sexual orientation, our political orientation, a whole range of things, that we never intended to disclose.”
Shoshana Zuboff
Die Macht und Fähigkeit der Konzerne an der Spitze des Überwachungskapitalismus reichen jedoch weiter als das, an sich schon beunruhigende, Potential menschliches Handeln vorherzusehen.
„Let’s talk about Facebooks massive scale contagion experiment. This is where Facebook experimented with subliminal cues planted in its Facebook pages that would actually influence offline, real-world behaviour and emotions, to see if they could make people happier or sadder using subliminal cues with language manipulation, word manipulation and so on. […] They emphasized two key findings. Number One: We now know that we can manipulate subliminal cues in the online context to change real-world behaviour, or real-world emotions, we know that we can be successful at doing this. Number Two: We can exercise this power, these methods while bypassing user awareness.”
Shoshana Zuboff
Das angesprochene Experiment von Facebook und die sehr deutliche Zusammenfassung ihrer Erkenntnisse durch die beteiligten Wissenschaftlerinnen zeigt, dass die Informationen, die man mithilfe der Algorithmen über jede einzelne Nutzerin gewinnen kann, nicht nur ausreichen, um das Verhalten einzelner Nutzerinnen vorherzusagen, sondern auch gezielt verwendet werden können, um mit Methodiken der Manipulation Verhalten, Emotionen und Affekte direkt zu beeinflussen.
„This is a document written by Facebook executives in Australia. And what they told their business customers there is that “We have so much data about 6,6 Million Australian young adults and Teenagers. As a result of that we can predict mood shifts, we can predict when they feel stressed, fatigued, anxious, inferior, frightened. All of these kinds of very personal feelings and we can alert you in the exact moment, when they are most likely to need a confidence boost.“ Let’s say there is a young person who’s contemplating a date over the weekend and its now Thursday night and their anxiety is peaking and they need a confidence boost. If you send them an ad for a sexy black leather jacket, send it now, offer free delivery, tell them you will have it at their door by the time they wake up in the morning, give them a discount coupon, you will sell that black leather jacket. Do it now we can tell you the exact moment when they are at peak vulnerability.“
Shoshana Zuboff
Doch Beispiele wie Cambridge Analytica, eine politische PR-Firma ausgestattet mit einer Menge Erfahrung mit psychologischer Massenbeeinflussung, belegen, dass der kommerzielle Zweck nicht der einzige Zweck ist, der mithilfe der Modelle verfolgt werden kann. Cambridge Analytica, kurz CA, hat sich drauf spezialisiert gezielt politische Entscheidungen zu beeinflussen. CA hatte sich mithilfe des bei der Uni Cambridge angestellten Psychologen und Datenwissenschaftlers Aleksandr Kogan einen immensen Satz Facebook-Daten in Form eines Basisdatensatzes von Facebook-Profilen in Kombination mit einem eigens von den Nutzerinnen selbst ausgefüllten Persönlichkeitstest wie dem Fünf-Faktoren-Modell oder des Myers-Briggs-Typenindikator Test , der dann auf weit mehr als den eigentlichen Basisdatensatz extrapoliert werden kann angeeignet, da bei zufälliger Wahl der Probanden ein solcher Datensatz reicht um Vorhersagen für die ganze Population zu treffen. Anhand dieser Daten erstellte man nun Persönlichkeitsprofile, analysierte soziale Umstände und andere Merkmale und wählte gezielt Individuen aus, die vor allem begründet durch eine Veranlagung zu neurotischem Verhalten besonders einfach von Verschwörungsideologie, wie z.B. Q-Anon, den Recihsbürgern, irrationalem Hass auf Ausländer, Leugnung des Klimawandel und so weiter zu indoktrinieren sind. (Q-Anon ist übrigens mit hoher Wahrscheinlichkeit tatsächlich eine Schöpfung von CA.) Ihre Technik beinhaltet das gezielte Schaffen von Gruppen, die als selbst bestätigende Meinungs-Blasen fungieren, in die sie durch Lockung mit gezielten Facbook Ads ihre „Opfer“ sammeln. In ihnen sollen sich die bereits fundamental an irgendeiner Ecke des liberalen Weltbilds zweifelnden Individuen in ihren Verschwörungsideologien gegenseitig bestärken. Nach Aussage des früher bei CA angestellten Whistle Blowers Chris Wiley in seinem Buch „Mindf*ck, Cambridge Analytica and the Plot to break America“ wurden sogar eigens reale Treffen der bereits indoktrinierten Individuen von CA organisiert, finanziert und veranstaltet. Treffen in der realen Welt haben den Sinn die gegenseitige Unterstützung in meist der gleichen oder zumindest überlappenden Verschwörungsideologie auf ein Level zu heben, das nur reale Interaktion mit ebenfalls „gläubigen“ hervorrufen kann. Chris Wiley beschreibt die Vorgänge so:
“We knew so much about so many individuals that we could understand their inner demons and we could figure out how to target those demons, how to target their fear, how to target their anger, how to target their paranoia. And with those targets we could trigger those emotions. And by triggering those emotions, we could then manipulate them into clicking on a website, joining a group, telling them what things to read, telling them what people to hang out with, even who to vote for.”
Chris Wiley
Shoshana Zuboff schreibt im Kontext des zuvor erwähnten Dokuments von Facebook in Australien, und nimmt dabei Bezug auf das soeben angeführte Zitat von Chris Wiley:
“Now that is absolutely no different from what Facebook aim to do with these young people, innocent young people in Australia and New Zealand. To target their inner demons. The same mechanisms, the same methods only pivoted few degrees from commercial outcomes to political outcomes. Cambridge Analytica was nothing but a parasite on a huge host and that host is surveillance capitalism.”
Shoshana Zuboff
Welche Daten werden analysiert?
Microsoft CEO Satya Nadella introduced Cortana, the corporation’s “personal digital assistant,” at the firm’s annual Ignite conference in 2016:
Satya Nadella
„This new category of the personal digital assistant is a runtime, a new interface. It can take text input. It can take speech input. It knows you deeply. It knows your context, your family, your work. It knows the world. It is unbounded. In other words, it’s about you; it’s not about any one device. It goes wherever you go. It’s available on any phone—iOS, Android, Windows—doesn’t matter. It is available across all of the applications that you will use in your life.“
Kurz gesagt: Alle Daten, die irgendwie verfügbar sind. Die Daten, die genutzt werden, um den Algorithmen die Eigenheiten menschlicher Handlungen, Emotionen und Affekte beizubringen, reichen von der simplen Entscheidung, statt einem Punkt ein Ausrufezeichen zu verwenden (und dem wissen was andere in der gleichen Situation getan haben), wie schnell und wie fehlerfrei eine Nutzerin etwas in die Google suchleiste eintippt, über das Aufnehmen von intimen Streitgesprächen oder einfachem Geplauder am Frühstückstisch durch z.B. Google Home oder Alexa, bis hin zu der Analyse von Geräuschen eines Paares beim Sex. Ein einzelnes Smartphone reicht aus, um Schlafrhythmus, Sexualverhalten, tägliche Routine, jegliche Standortdaten, soziale Kontakte, Telefonate, Notizen, Kalender, mithilfe der Kamera sogar die Innenräume des Wohnorts und bei Benutzung des Smartphones die Gesichtszüge der Nutzerin zu analysieren. Mithilfe des Mikrofons können auch Gespräche, ohne Rücksicht auf Privatsphäre, das Ausleben von Emotionen wie Weinen oder Geschrei, oder z.B. gehörte Musik etc. registriert werden.
„The fact is this is conducted at a layer that is not accessible to us. They can predict things about us […] that we never intended to disclose.”
Shoshana Zuboff
Man muss sich hier vor Augen führen, dass auch diese Form des Kapitalismus den gleichen Dogmata unterworfen ist wie der Industriekapitalismus. Im Namen des „Shareholder Value“ sind auch die Technologiekonzerne von der Maxime des maximalen Profits getrieben. Aus dem daraus folgenden Imperativ des ewigen Wachstums lassen sich im Falle des Überwachungskapitalismus noch andere Imperative ableiten. Shoshana Zuboff nennt diese „the prediction imperativ“ und „the extraction imperative“. Ersterer fordert, um die Sicherheit und damit den Wert der Vorhersagen menschlichen Verhaltens zu erhöhen, die Qualität der Vorhersagen immer weiter zu verbessern, nötigenfalls auch mit gezielter Beeinflussung des Individuums. Der Zweite impliziert ein immer weiterreichendes und allumfassendes Sammeln von Daten über die Nutzerinnen. Bezeichnend hierfür ist die Entwicklung von Google. Hatte man noch in den 2000ern mit den Daten, die aus dem Eingabefeld einer Suchmaschine gewonnen werden können, begonnen, hat Google heute Zugriff auf über 81% aller verkauften Smartphones, dies sowohl mithilfe des Google Betriebssystems Android, als auch über die gesamte Internutzung jedes Chrome Nutzers, und in private Häuser, Schlaf- und Wohnzimmer in Form von Google Home, oder dem Nest Thermostat, über Städtischen und ländlichen Raum in Form von Google Earth – Goggle besitzt entsprechende Satelliten im Orbit – etc.. In Zukunft ist mit vielem mehr zu rechnen, wie z.B. autonomen Fahrzeugen, die mit Hilfe einer Vielzahl von Kameras alles einfangen, was sich in ihrer Umgebung und in ihrem Inneren abspielt, mit Technologien wie Google Glass…
„Expect to see drones, body sensors, neurotransmitters, “digital assistants,” and other sensored devices on this list in the years to come. Meanwhile, Google is consistently stunning in its sense of entitlement, resolve, and audacity. The extraction imperative compels it to push new boundaries into undefended space.“
Shoshana Zuboff
Was bedeutet diese neue Form des Kapitalismus für seine Nutzer*innen?
Wie bereits ausgeführt sind diese Technologiekonzerne also in der Lage, sowohl Handlungen, Emotionen und Affekte vorherzusehen, als auch diese zu beeinflussen. Und das immer besser, je mehr Daten sie über so viele Menschen wie möglich sammeln. Man hört häufig Aussagen wie, dass die Nutzerinnen das Produkt dieser Konzerne sind, da ein Service, der nichts kostet, stattdessen seine Nutzerinnen verkaufen muss. Dies ist nur halb richtig. Bei genauer Betrachtung zeigt sich, dass das einzelne Individuum weniger Produkt als die ausgebeutete Ressource ist. Shoshana Zuboff stellt hier eine Analogie mit Elefanten, die für Elfenbein gejagt werden auf. Sie vergleicht die Nutzerin mit dem Körper eines Elefanten, dem man nach dem Töten um des Profits willen die Stoßzähne abgeschnitten hat, und der nun, für seine Jäger wertlos geworden durch Entnahme seines Wertvollsten, verwesend liegen gelassen wird. Sie macht klar, dass die Nutzerin in dieser Metapher weniger den Stoßzähnen entspricht als dem leblosen und dem Verwesungsprozess überlassenen Körper des Elefanten, dem man sein Wertvollstes, in unserem Fall analog also ihre Privatsphäre und ihr Recht auf Selbstbestimmung, den freien Willen, oder wie Shoshana Zuboff es nennt „the right to the future tense“, geraubt hat. Anders ausgedrückt, dem Menschen wird das Vermögen genommen sich seines eigenen Verstandes ohne den Einfluss einer fesselnden omnipräsenten Ablenkung zu bedienen.
“The incursion initiates Google’s most basic and prolific form of dispossession: Arendt’s repeated “original sin of simple robbery.” Incursion moves down the road without looking left or right, continuously laying claim to decision rights over whatever is in its path.”
Shoshana Zuboff
Das wahrscheinlich schlimmste an dieser Form von Kapitalismus ist, dass ebenso wie bei der rücksichtslosen und nur an Profit orientierten Ausbeutung der natürlichen Ressourcen, in diesem Fall die menschliche Ebene, unser aller Realität, demselben Schicksal anheimfallen könnte, das bereits den Planeten, auf dem wir leben, ereilt. Leider ist sie auch sehr gut darin zu verhindern, dass die Menschen begreifen, dass der Immense nutzen, den diese Technologie uns bietet, bzw. bieten könnte in der aktuellen Form mit einer Art faustischem Pakt erkauft ist. Man versucht in diesem Fall ultimativ, den kapitalistischen Imperativen geschuldet, dem Menschen das Souverän über den – dem Menschen seit jeher unumstritten – zustehenden freien Willen, seine Freiheit, oder „the right to the future tense“ zu nehmen. Und all das ausschließlich nur, um noch mehr Profit zu machen.