Sie wissen alles – und wir können nicht behaupten, wir hätten von nichts gewusst.

IMG_0721Es gibt diese Bücher, wo es einem besonders schwer fällt, sein Resümee kurz zu fassen. Yvonne Hofstetters „Sie wissen alles“ ist für mich so eins. Und das hatte ich anfänglich nicht erwartet.

Wir Leser bevorzugen ja tendenziell Literatur – besonders Sachbücher – die uns in unserer Haltung zur Welt bestätigen sollen. Wirklich unvoreingenommen etwas zu lesen und sich daraus eine Meinung erst zu bilden, gelingt kaum, da wir ja alle schon eine Meinung haben.

LanierFür das Buch von Yvonne Hofstetter wäre es jedoch sehr dienlich, wenn wir unser Vorurteile und Haltung – gleich welche Tendenz – gegenüber einer algorithmisch bestimmten Big-Data-Netzwelt ablegen könnten. Und das, obwohl die Autorin selbst massiv voreingenommen ist und im ähnlichen Spektrum anzusiedeln wie Jaron Lanier, der kürzlich mit dem Friedenspreis des deutschen Buchhandels ausgezeichnet wurde.

Ihr Plädoyer für einen sehr kritischen Umgang mit den neuen technischen Möglichkeiten, das zeitweise auch etwas ausufernd und redundant ausfällt, ist nicht geringeres als der Ausruf zur Revolution der Massen.

Wenn der ein oder andere Evangelist der Netzwelt (wie ich) – geplagt von Schirrmacher & Co. Skeptizismus – hier schon austeigen möchte, möchte ich ihm abraten. Denn Yvonne Hofstetter ist keine Journalisten oder Soziologin, sondern Unternehmerin und seit langem im Big-Data-Analysegeschäft. Ihre Sicht der Dinge mit einzubeziehen, stärkt jeden argumentativ, der hier in Zukunft mitsprechen will.

Und mitsprechen sollten wir in Zukunft alle. Es hätte keines Edward Snowden bedurft, wenn wir die absehbare Entwicklung der Netzwelt selbst konsequent weitergedacht hätten. Doch das Denken über solch komplexe Themen geben wir ja gerne ab. Und es an Yvonne Hofstetter zu delegieren, ist sicher eine gute Wahl. Dennoch müssen wir intellektuell folgen wollen. Das Buch ist keine leichte Kost, auch wenn es gut und verständlich geschrieben ist.

Destilliert man die Essenz des Buches, so geht es in den ersten hundert Seiten zunächst um das Schlachten einer heiligen Kuh der Wissenschaft: der Reinheit der Mathematik. Während sich die Physik und andere Naturwissenschaften schon vor Jahrzehnten schmutzig machten, in dem sie uns zugleich weltverbessernde wie auch –zerstörenden Mittel erforschten und dann praktisch an die Hand gaben (Atomkraft, Biotechnologie, Chemie, Gentechnik etc.), galt die Mathematik bislang als rein. Diese Absolution kann ihr seit der militärischen Nutzung von Algorithmen zur Freund- oder Feindaufklärung in den Achtzigern nicht mehr erteilt werden.

quantsuclfinancialcomputingcentreftDoch erst durch den Wechsel der „Quants“ – Mathematiker, die sich auf die quantitative Analyse von Daten spezialisiert haben – in die Finanzindustrie wäre eine intensive Ethikdiskussion in der Wissenschaft der Mathematik angebracht. Denn das Ergebnis ihrer Tätigkeiten erweist sich zunehmend als ethisch fragwürdig und volkswirtschaftlich als Supergau-Gefahr. Einige Gaus durften wir in den vergangenen Jahren erleben und aktuell zeigt die Börse wieder ähnliche Dominoeffekte, die in eine Finanzkatastrophe führen können.

Zum einen verantworten die „Quants“ die Datenfusion von Finanzmarktdaten und den darauf basierende automatisierten Wertpapierhandel, der mittels Algorithmen Marktbewegungen prognostiziert und – was wirklich unmoralisch ist – mehr und mehr auch manipuliert. Zum zweiten verantworten sie maßgeblich die toxischen Finanzprodukte, die zur Finanzkrise 2008 führten.

In beiden Fällen hat die Fachschaft der Mathematiker bis heute keine öffentliche Verantwortung dafür übernommen. Sie verhalten sich wie Technokraten in einer Diktatur, die argumentieren, ihre Kollegen hätten doch nur ihren Job gemacht. Wenn Mediziner, Biologen und Chemiker sich heute so bedenken- und verantwortungslos verhalten, wären die Debatten schon groß. Selbst Historiker streiten offensiver in der Öffentlichkeit.

Wozu nun aber diese lange Vorgeschichte? Yvonne Hofstetter macht damit eines sehr deutlich: der bis heute weder technisch noch politisch beherrschbare Finanzmarkt wird zur Blaupause für den Big-Data-Markt, auf dem unsere persönlichen Daten gehandelt werden. Und die Hybris vieler Entscheider auf den Finanzmärkten sollte uns vor der Hybris und den keimenden Allmachtsfantasien vieler Entscheider auf dem Big-Data-Markt warnen – mögen sie noch so charmant Lächeln und uns mit „Alles wird gut“ gönnerhaft auf die Schulter klopfen

ebola_content_inline_full_1413366606_Ebola-Outbreak-Buch-JAY-DIRECTO-AFP_10525Denn die Karawane der „unverantwortlichen Quants“ zieht weiter. Sie sitzen heute in Hochsicherheitstrakten von staatlichen Einrichtungen und privaten Unternehmen, die Zugang zu immensen Daten haben. Hier fusionieren und prognostizieren die „Quants“ munter weiter. Doch eben nicht mehr nur, wie sich aufgrund der akuten Ebola-Epidemie der Aktienwert eines Schutzmaskenherstellers, eines Pharmaunternehmens oder einer afrikanischen Airline entwickelt. Das mag nur zynisch aus Sicht von Gutmenschen sein.

Jetzt prognostizieren die Algorithmen der „Quants“, wer bald nicht mehr kreditwürdig ist, wer alles vor Renteneintritt stirbt, wer möglicherweise Randale bei einer Demo macht, wer verstärkt dazu neigt, die Versicherung zu betrügen, wer wohl besser nicht eingestellt wird, weil sie bald schwanger oder er bald Erziehungsurlaub nimmt oder weil er zu kontaktarm ist, denn in seinen Netzwerkprofilen finden sich nur wenig Freunde und Aktivität. Oder welche Jugendliche aufgrund ihrer Schulnoten, Herkunft, Freundeskreis und offensichtlichen Neigung zu digitalem Entertainment es nicht wert sind, ein Stipendium zu erhalten etc. pp.

Ich habe bewusst diese Beispiele gewählt. Denn die Diskussion um Big Data und seine Folgen wird gerne vernebelt von der populistischen Empörung um gezieltes Online-Marketing und möglicher Manipulation unseres Konsumverhaltens. Wäre es nur dies, so könnten wir uns entspannt zurücklehnen, denn das versuchen Marketing & Co. schon seit Jahrzehnten mit mäßigem Erfolg. Wirklich profitieren tuen von der Mär, dass wir so leicht manipulierbar seien, nur die werbefinanzierten Medien.

Wirklich bedenklich ist unsere Liebe zur Lebens- und Selbstoptimierung, die uns nun – ob letztlich nützlich oder nicht – freiwillig viele Daten zur Verfügung stellen lässt. Hinzu kommen noch alle Daten, die über unzählbare Sensoren, Videokameras etc. erfasst und individuell zugeordnet werden können. Sie denken, Sie lieben die Datenauswertung nicht. Sie leben bewusst datensparsam. Das wird Ihnen zukünftig wohl eher schaden. Wie oben angedeutet, werden zukünftig Personen, die sich aktiv der Datensammlung entziehen, zunehmend suspekt. Suspekt für den Staat als Hüter des Gemeinwohls, aber auch suspekt für die Gesellschaft.

StalkerSchon vor Big Data haben wir viel von unserer Freiheit, Privates privat zu halten, mehr oder weniger freiwillig aufgegeben. Heute kann niemand mehr ohne Bankkonto sein, niemand mehr ohne Krankenkasse, niemand mehr inkognito in Hotels übernachten. Ihre Einkünfte sind für den Staat und seiner Diener ein offenes Buch, in das in Schweden sogar jeder Bürger hineinschauen kann. Diese Vorstellung führt heute noch bei vielen Deutschen zu blankem Entsetzen. Ihr Bewegungsprofil ist jederzeit rekonstruierbar, ob sie das nun auf Facebook posten oder nicht. Und, und, und.

Entsprechend vernebelt auch die NSA-Debatte das Kernproblem der Big-Data-Zukunft. Überwachung, Rasterfahndung, Stalking und Voyeurismus gab es schon immer und wird es immer weiter geben. Doch hierfür können wir gesetzliche Regelungen fordern und – solange wir noch demokratisch und fair wählen können – die gewünschten politischen Rahmen gestalten. Doch die allergrößte Gefahr liegt in uns selbst. In unserer Naivität und Eigenliebe zur ständigen Optimierung.

Yvonne Hofstetter nennt hier Beispiele, die uns bekannt sein sollten, doch wo man über unsere naive Akzeptanz allmählich auch entsetzt sein sollte:

„Nach aktuellen Umfragen würden sich etwa zwei Drittel der deutschen Autofahrer überwachen lassen, um weniger Versicherungsprämie zahlen zu müssen.“ (Nachtrag 22.Nov.: jetzt gibt es auch schon die ersten konkreten Angebotsentwürfe)

Ähnlich hohe Zustimmung werden wir wohl erfahren, wenn die ersten Krankenkassen und Lebensversicherer elektronische Gesundheitsarmbänder mit vergünstigten Tarifen anbieten. (Nachtrag 21. November 2014: der erste Versicherer Generali legt los.)  Und ebenso werden wir alle bald mit Begeisterung unser Heim elektronisch überwachen lassen, weil wir damit Versicherung und Heizkosten sparen.(und dazu passend schon wieder ein Nachtrag am 25.11:SZ-Artikel „Offen wie ein Scheunentor.“)

Der nächste Schritt ist bald nicht mehr weit. Das Solidarprinzip wird gesellschaftlich nur noch denen zugestanden, die sich auch konformistisch verhalten. Rauchen, maßloses Trinken und Fleisch essen, nachweislich zu wenig körperliche Bewegung oder zu viel geistlose Beschäftigungen bringen sichtbare Maluspunkte. Stolz werden hingegen immer mehr ihren ökologischen Fußabdruck posten und fordern, dass die anderen das auch tun. Wir Gutmenschen wollen doch endlich mal die Umweltschweine und Öko-Ignoranten an den Medienpranger stellen. Und mit Big-Data ist das jetzt alles bestens möglich. Eine Gesellschaft, die sich freiwillig selbst überwacht.

zeh_tiereJuli Zeh, eine sehr weitsichtige und engagierte Autorin hat diese absehbare Entwicklung zur gutmeinenden „Kontrollgesellschaft“ in ihrem Roman Corpus Delicti schon vor Jahren gedanklich vorweggenommen. Ihr aktuelles Buch mit Essays „Nachts sind das Tiere“ verknüpft sie mit folgendem, zum Kontext passenden Zitat:

„„Ich habe nichts zu verbergen“ ist ein Synonym für „Ich tue, was man von mir verlangt“ und damit eine Bankrotterklärung an die Idee des selbstbestimmten Individuums.“

(Nachtrag 25 Nov. 2014: Wer meine Ansichten und meine Person für diesen Diskurs für nicht schwergewichtig genug erachtet, findet im aktuellen SZ-Interview mit Juli Zeh zum Thema Generali Versicherung dazu dann eine prominente Meinung.)

Jeder muss sich eingestehen, dass viele seiner Handlungen und Entscheidungen im konkreten Sinne des Wortes „berechenbar“ sind. Keiner kann sich ständig bewusst irrational verhalten, um möglichen Prognosen über sich zu entgehen. Und irgendwann berechnen die „Quants“ auch dies mit ein. Dennoch sind wir freie Individuen, zumindest solange wir nicht nur uns, sondern auch allen anderen ihre Geheimnisse gestatten. Doch derzeit laufen wir Gefahr, viele andere zu diskriminieren, wenn sie sich nicht dem moralisch geforderten Drang nach Optimierung und Transparenz beugen. Zum Glück ist die gutmeinende Piratenpartei mit dieser Basisidee schon gescheitert.

Doch was ist nun politisch und gesellschaftlich zu fordern, um die Gefahren der Big-Data-Kontrollgesellschaft einzudämmen? Wo muss die Revolution stattfinden? Yvonne Hofstetter nennt zehn Punkte, aus denen ich meine folgenden – aus heutiger Sicht noch utopische, aber ganz nüchterne – Konsequenzen und Forderungen ableite:

5669728_s

  1. Alle persönlichen Daten sollten juristisch als geistiges Eigentum behandelt werden. Sie sind damit nicht auf eine andere Person übertragbar, sondern können nur mit expliziter Einwilligung des Eigentümer zeitweise genutzt werden. Dieses Nutzungsrecht kann der Eigentümer wieder entziehen.
  2. Das Grundrecht auf Vergessen soll weltweit ausgeweitet und optimiert werden. Es sollte Menschenrecht sein. Unter anderem soll es ein aktives Verfallsdatum für Daten geben.
  3. Es braucht einen Schutz vor Diskriminierung aufgrund nicht freiwillig gegebener Daten. Vergünstige Angebote aufgrund von erlaubter Datenüberwachung sollen bei Pflichtverträgen, wie Telekommunikation, Versicherungen und ähnlichen als unlauter gelten.
  4. Die Fachschaft der Mathematik soll einen weltweit bestimmenden Ethikrat einberufen, der dafür sorgt, dass zukünftige alle verwendeten Algorithmen zur Analyse und Prognose von menschlichen Verhalten veröffentlicht werden. Eine Art hippokratischer Eid soll jeden Mathematiker dazu verpflichten.
  5. Allen Menschen soll die Möglichkeit eingerichtet werden, ihre Profile, die sich aus der Datenfusion ermitteln und analysieren lassen, einzusehen.
  6. Private Unternehmen, die durch Schlüsseltechnologien in der sensiblen Datenanalyse eine monopolitische Marktbeherrschung erlangen, sollen von einem UNO-Beirat überwacht und gegebenenfalls von der UNO enteignet werden können. Eine Verstaatlichung wäre im Fall von international agierenden Konzernen unzureichend.

Darüber hinaus sollte politische Kompetenz zu Big-Data aufgebaut werden. Heute verfügt – wie Yvonne Hofstetter bemerkt – kein einziger Politiker über ausreichend Sachverstand, um die ethischen und gesellschaftspolitischen Konsequenzen der aktuellen Entwicklungen abschätzen zu können. Ihre Inkompetenz in solchen Szenarien zu denken, hat die Politik vor Jahren bei der Privatisierung der Telekommunikationsnetze und der UMTS-Versteigerung bewiesen. Da ich zu diesem Zeitpunkt selbst bei einem der Bieter arbeitete, hatte ich mich mit den Konsequenzen näher beschäftigt. Schon damals war ich mit einer Minderheit überein, dass der kurzfristige finanzielle Staatsgewinn zu Lasten einer staatlich gesicherten Infrastruktur gehen würde. Das hat sich ja nun für alle sichtbar bewahrheitet.

IMG_0722

Mein erstes Handy.

Der aktuelle Fokus in der politischen Debatte auf Netzausbau und Medienkompetenz von Kindheit an – z. B. Programmiersprachen an den Schulen unterrichten – ist einseitig und verstellt den Blick auf die wirklich wichtigen Aufgaben des Staates: die Grund- und Persönlichkeitsrechte seiner Bürger zu schützen. Und das heißt auch seine Bürger vor den unumkehrbaren Folgen ihrer eigenen Naivität zu bewahren.

Ich war bislang einerseits geblendet von den faszinierenden Opportunitäten, die uns die Digitalisierung und das Netz bietet und anderseits fatalistisch bezüglich der Begrenzung der Gefahren. Letzteren dachte ich begegnen zu können, in dem ich aktiv meinen digitalen Zwilling gestalte, das Datenspiel mitspiele und steuere. Doch ich gebe nach der Lektüre von „Sie wissen alles“ und einigen anderen Statements zum Thema zu, dass dies naiv ist und nicht ausreicht, um die Gefahr eines digitalen „Zombies“ (Hofstetter) abzuwenden.

Wenn die Gesellschaft sich hier nicht bald mehrheitlich und gemeinsam engagiert zeigt, werden irgendwann viele von uns in die Falle tappen und für die neue Kontrollgesellschaft nicht mehr opportun zu sein.

Nachtrag: Gespräch zwischen mit Martin Eiermann dem Autor Christopher Steiner („Automate This“), warum Algorithmen und Roboter uns alle herausfordern

Nachtrag: einen das Thema sehr gut ergänzenden Vortrag hielt vor kurzem Sascha Lobo:

Advertisements

11 Gedanken zu “Sie wissen alles – und wir können nicht behaupten, wir hätten von nichts gewusst.

  1. Hatte das Buch auch schon in der Hand, konnte mich aber nicht entscheiden. Aber nach dieser engagierten und lesenswerten Besprechung werde ich es mir schleunigst zulegen. Klingt nach einen hochinteressanten und extrem desillusionierenden Werk, dessen Inhalt dringend verbreitet werden sollte. Bin gespannt.

    • Ja, Yvonne Hofstetter ist es zu gönnen, dass man ihr Engagement honoriert. Ist ja nicht selbstverständlich, dass jemand, der damit sein Geld verdient, so kritisch in die Öffentlichkeit tritt. Offenbar verschafft es ihr auch in der Branche herbe Kritik als „Nestbeschmutzerin“.

      Derzeit lese ich aber noch ein Buch, dass mir zum Thema empfohlen wurde und ebenfalls sehr aufschlussreich ist: „Das neue Spiel“ von Michael Seemann. Es ist aus einem Crowd-Projekt entstanden. Seemann erklärt sehr gut die gesamten Netzwerkeffekte und bleibt dabei im ersten, erklärenden Teil sehr wertfrei. Spannend ist u.a. auch die Erkenntnis, dass selbst Riesen wie FB und Google ein fragiles Geschäftsmodel haben, das Twitter fast zum Verhängnis wurde. Um das zu verstehen, muss man es lesen – wenn man es nicht schon weiß ;-). Nicht zuletzt gibt es das Buch als eBook für einen günstigen Preis – was ich in diesem Fall auch für redlich erachte, da es dem Autor ja darum geht, weit verbreitet zu werden.

      Demnächst schreib ich auch dazu und zu dem Problem, dass die Zielgruppe „kritische Netznutzer“ sich selbst im Wege steht, ihre Bedenken und solche Aufklärung aktiv zu verbreiten, da sie – im Gegensatz zu den naiven Netznutzern, die hemmungslos jeden Gag und Nonsens verteilen – das Teilen und Verbreiten offenbar selbst als „unschicklich“, „aufdringlich“ oder „niveaulos“ erachtet.

Die Kommentarfunktion ist geschlossen.