Sie wissen alles – und wir können nicht behaupten, wir hätten von nichts gewusst.

Es gibt diese Bücher, wo es einem besonders schwer fällt, sein Resümee kurz zu fassen. Yvonne Hofstetters „Sie wissen alles“ ist für mich so eins. Und das hatte ich anfänglich nicht erwartet.

Wir Leser bevorzugen ja tendenziell Literatur – besonders Sachbücher – die uns in unserer Haltung zur Welt bestätigen sollen. Wirklich unvoreingenommen etwas zu lesen und sich daraus eine Meinung erst zu bilden, gelingt kaum, da wir ja alle schon eine Meinung haben.

Für das Buch von Yvonne Hofstetter wäre es jedoch sehr dienlich, wenn wir unser Vorurteile und Haltung – gleich welche Tendenz – gegenüber einer algorithmisch bestimmten Big-Data-Netzwelt ablegen könnten. Und das, obwohl die Autorin selbst massiv voreingenommen ist und im ähnlichen Spektrum anzusiedeln wie Jaron Lanier, der kürzlich mit dem Friedenspreis des deutschen Buchhandels ausgezeichnet wurde.

Ihr Plädoyer für einen sehr kritischen Umgang mit den neuen technischen Möglichkeiten, das zeitweise auch etwas ausufernd und redundant ausfällt, ist nicht geringeres als der Ausruf zur Revolution der Massen.

Wenn der ein oder andere Evangelist der Netzwelt (wie ich) – geplagt von Schirrmacher & Co. Skeptizismus – hier schon austeigen möchte, möchte ich ihm abraten. Denn Yvonne Hofstetter ist keine Journalisten oder Soziologin, sondern Unternehmerin und seit langem im Big-Data-Analysegeschäft. Ihre Sicht der Dinge mit einzubeziehen, stärkt jeden argumentativ, der hier in Zukunft mitsprechen will.

Und mitsprechen sollten wir in Zukunft alle. Es hätte keines Edward Snowden bedurft, wenn wir die absehbare Entwicklung der Netzwelt selbst konsequent weitergedacht hätten. Doch das Denken über solch komplexe Themen geben wir ja gerne ab. Und es an Yvonne Hofstetter zu delegieren, ist sicher eine gute Wahl. Dennoch müssen wir intellektuell folgen wollen. Das Buch ist keine leichte Kost, auch wenn es gut und verständlich geschrieben ist.

Destilliert man die Essenz des Buches, so geht es in den ersten hundert Seiten zunächst um das Schlachten einer heiligen Kuh der Wissenschaft: der Reinheit der Mathematik. Während sich die Physik und andere Naturwissenschaften schon vor Jahrzehnten schmutzig machten, in dem sie uns zugleich weltverbessernde wie auch –zerstörenden Mittel erforschten und dann praktisch an die Hand gaben (Atomkraft, Biotechnologie, Chemie, Gentechnik etc.), galt die Mathematik bislang als rein. Diese Absolution kann ihr seit der militärischen Nutzung von Algorithmen zur Freund- oder Feindaufklärung in den Achtzigern nicht mehr erteilt werden.

Doch erst durch den Wechsel der „Quants“ – Mathematiker, die sich auf die quantitative Analyse von Daten spezialisiert haben – in die Finanzindustrie wäre eine intensive Ethikdiskussion in der Wissenschaft der Mathematik angebracht. Denn das Ergebnis ihrer Tätigkeiten erweist sich zunehmend als ethisch fragwürdig und volkswirtschaftlich als Supergau-Gefahr. Einige Gaus durften wir in den vergangenen Jahren erleben und aktuell zeigt die Börse wieder ähnliche Dominoeffekte, die in eine Finanzkatastrophe führen können.

Zum einen verantworten die „Quants“ die Datenfusion von Finanzmarktdaten und den darauf basierende automatisierten Wertpapierhandel, der mittels Algorithmen Marktbewegungen prognostiziert und – was wirklich unmoralisch ist – mehr und mehr auch manipuliert. Zum zweiten verantworten sie maßgeblich die toxischen Finanzprodukte, die zur Finanzkrise 2008 führten.

In beiden Fällen hat die Fachschaft der Mathematiker bis heute keine öffentliche Verantwortung dafür übernommen. Sie verhalten sich wie Technokraten in einer Diktatur, die argumentieren, ihre Kollegen hätten doch nur ihren Job gemacht. Wenn Mediziner, Biologen und Chemiker sich heute so bedenken- und verantwortungslos verhalten, wären die Debatten schon groß. Selbst Historiker streiten offensiver in der Öffentlichkeit.

Wozu nun aber diese lange Vorgeschichte? Yvonne Hofstetter macht damit eines sehr deutlich: der bis heute weder technisch noch politisch beherrschbare Finanzmarkt wird zur Blaupause für den Big-Data-Markt, auf dem unsere persönlichen Daten gehandelt werden. Und die Hybris vieler Entscheider auf den Finanzmärkten sollte uns vor der Hybris und den keimenden Allmachtsfantasien vieler Entscheider auf dem Big-Data-Markt warnen – mögen sie noch so charmant Lächeln und uns mit „Alles wird gut“ gönnerhaft auf die Schulter klopfen

Denn die Karawane der „unverantwortlichen Quants“ zieht weiter. Sie sitzen heute in Hochsicherheitstrakten von staatlichen Einrichtungen und privaten Unternehmen, die Zugang zu immensen Daten haben. Hier fusionieren und prognostizieren die „Quants“ munter weiter. Doch eben nicht mehr nur, wie sich aufgrund der akuten Ebola-Epidemie der Aktienwert eines Schutzmaskenherstellers, eines Pharmaunternehmens oder einer afrikanischen Airline entwickelt. Das mag nur zynisch aus Sicht von Gutmenschen sein.

Jetzt prognostizieren die Algorithmen der „Quants“, wer bald nicht mehr kreditwürdig ist, wer alles vor Renteneintritt stirbt, wer möglicherweise Randale bei einer Demo macht, wer verstärkt dazu neigt, die Versicherung zu betrügen, wer wohl besser nicht eingestellt wird, weil sie bald schwanger oder er bald Erziehungsurlaub nimmt oder weil er zu kontaktarm ist, denn in seinen Netzwerkprofilen finden sich nur wenig Freunde und Aktivität. Oder welche Jugendliche aufgrund ihrer Schulnoten, Herkunft, Freundeskreis und offensichtlichen Neigung zu digitalem Entertainment es nicht wert sind, ein Stipendium zu erhalten etc. pp.

Ich habe bewusst diese Beispiele gewählt. Denn die Diskussion um Big Data und seine Folgen wird gerne vernebelt von der populistischen Empörung um gezieltes Online-Marketing und möglicher Manipulation unseres Konsumverhaltens. Wäre es nur dies, so könnten wir uns entspannt zurücklehnen, denn das versuchen Marketing & Co. schon seit Jahrzehnten mit mäßigem Erfolg. Wirklich profitieren tuen von der Mär, dass wir so leicht manipulierbar seien, nur die werbefinanzierten Medien.

Wirklich bedenklich ist unsere Liebe zur Lebens- und Selbstoptimierung, die uns nun – ob letztlich nützlich oder nicht – freiwillig viele Daten zur Verfügung stellen lässt. Hinzu kommen noch alle Daten, die über unzählbare Sensoren, Videokameras etc. erfasst und individuell zugeordnet werden können. Sie denken, Sie lieben die Datenauswertung nicht. Sie leben bewusst datensparsam. Das wird Ihnen zukünftig wohl eher schaden. Wie oben angedeutet, werden zukünftig Personen, die sich aktiv der Datensammlung entziehen, zunehmend suspekt. Suspekt für den Staat als Hüter des Gemeinwohls, aber auch suspekt für die Gesellschaft.

Schon vor Big Data haben wir viel von unserer Freiheit, Privates privat zu halten, mehr oder weniger freiwillig aufgegeben. Heute kann niemand mehr ohne Bankkonto sein, niemand mehr ohne Krankenkasse, niemand mehr inkognito in Hotels übernachten. Ihre Einkünfte sind für den Staat und seiner Diener ein offenes Buch, in das in Schweden sogar jeder Bürger hineinschauen kann. Diese Vorstellung führt heute noch bei vielen Deutschen zu blankem Entsetzen. Ihr Bewegungsprofil ist jederzeit rekonstruierbar, ob sie das nun auf Facebook posten oder nicht. Und, und, und.

Entsprechend vernebelt auch die NSA-Debatte das Kernproblem der Big-Data-Zukunft. Überwachung, Rasterfahndung, Stalking und Voyeurismus gab es schon immer und wird es immer weiter geben. Doch hierfür können wir gesetzliche Regelungen fordern und – solange wir noch demokratisch und fair wählen können – die gewünschten politischen Rahmen gestalten. Doch die allergrößte Gefahr liegt in uns selbst. In unserer Naivität und Eigenliebe zur ständigen Optimierung.

Yvonne Hofstetter nennt hier Beispiele, die uns bekannt sein sollten, doch wo man über unsere naive Akzeptanz allmählich auch entsetzt sein sollte:

„Nach aktuellen Umfragen würden sich etwa zwei Drittel der deutschen Autofahrer überwachen lassen, um weniger Versicherungsprämie zahlen zu müssen.“ (Nachtrag 22.Nov.: jetzt gibt es auch schon die ersten konkreten Angebotsentwürfe)

Ähnlich hohe Zustimmung werden wir wohl erfahren, wenn die ersten Krankenkassen und Lebensversicherer elektronische Gesundheitsarmbänder mit vergünstigten Tarifen anbieten. (Nachtrag 21. November 2014: der erste Versicherer Generali legt los.)  Und ebenso werden wir alle bald mit Begeisterung unser Heim elektronisch überwachen lassen, weil wir damit Versicherung und Heizkosten sparen.(und dazu passend schon wieder ein Nachtrag am 25.11:SZ-Artikel „Offen wie ein Scheunentor.“)

Der nächste Schritt ist bald nicht mehr weit. Das Solidarprinzip wird gesellschaftlich nur noch denen zugestanden, die sich auch konformistisch verhalten. Rauchen, maßloses Trinken und Fleisch essen, nachweislich zu wenig körperliche Bewegung oder zu viel geistlose Beschäftigungen bringen sichtbare Maluspunkte. Stolz werden hingegen immer mehr ihren ökologischen Fußabdruck posten und fordern, dass die anderen das auch tun. Wir Gutmenschen wollen doch endlich mal die Umweltschweine und Öko-Ignoranten an den Medienpranger stellen. Und mit Big-Data ist das jetzt alles bestens möglich. Eine Gesellschaft, die sich freiwillig selbst überwacht.

Juli Zeh, eine sehr weitsichtige und engagierte Autorin hat diese absehbare Entwicklung zur gutmeinenden „Kontrollgesellschaft“ in ihrem Roman Corpus Delicti schon vor Jahren gedanklich vorweggenommen. Ihr aktuelles Buch mit Essays „Nachts sind das Tiere“ verknüpft sie mit folgendem, zum Kontext passenden Zitat:

„„Ich habe nichts zu verbergen“ ist ein Synonym für „Ich tue, was man von mir verlangt“ und damit eine Bankrotterklärung an die Idee des selbstbestimmten Individuums.“

(Nachtrag 25 Nov. 2014: Wer meine Ansichten und meine Person für diesen Diskurs für nicht schwergewichtig genug erachtet, findet im aktuellen SZ-Interview mit Juli Zeh zum Thema Generali Versicherung dazu dann eine prominente Meinung.)

Jeder muss sich eingestehen, dass viele seiner Handlungen und Entscheidungen im konkreten Sinne des Wortes „berechenbar“ sind. Keiner kann sich ständig bewusst irrational verhalten, um möglichen Prognosen über sich zu entgehen. Und irgendwann berechnen die „Quants“ auch dies mit ein. Dennoch sind wir freie Individuen, zumindest solange wir nicht nur uns, sondern auch allen anderen ihre Geheimnisse gestatten. Doch derzeit laufen wir Gefahr, viele andere zu diskriminieren, wenn sie sich nicht dem moralisch geforderten Drang nach Optimierung und Transparenz beugen. Zum Glück ist die gutmeinende Piratenpartei mit dieser Basisidee schon gescheitert.

Doch was ist nun politisch und gesellschaftlich zu fordern, um die Gefahren der Big-Data-Kontrollgesellschaft einzudämmen? Wo muss die Revolution stattfinden? Yvonne Hofstetter nennt zehn Punkte, aus denen ich meine folgenden – aus heutiger Sicht noch utopische, aber ganz nüchterne – Konsequenzen und Forderungen ableite:

1. Alle persönlichen Daten sollten juristisch als geistiges Eigentum behandelt werden. Sie sind damit nicht auf eine andere Person übertragbar, sondern können nur mit expliziter Einwilligung des Eigentümer zeitweise genutzt werden. Dieses Nutzungsrecht kann der Eigentümer wieder entziehen.
2. Das Grundrecht auf Vergessen soll weltweit ausgeweitet und optimiert werden. Es sollte Menschenrecht sein. Unter anderem soll es ein aktives Verfallsdatum für Daten geben.
3. Es braucht einen Schutz vor Diskriminierung aufgrund nicht freiwillig gegebener Daten. Vergünstige Angebote aufgrund von erlaubter Datenüberwachung sollen bei Pflichtverträgen, wie Telekommunikation, Versicherungen und ähnlichen als unlauter gelten.
4. Die Fachschaft der Mathematik soll einen weltweit bestimmenden Ethikrat einberufen, der dafür sorgt, dass zukünftige alle verwendeten Algorithmen zur Analyse und Prognose von menschlichen Verhalten veröffentlicht werden. Eine Art hippokratischer Eid soll jeden Mathematiker dazu verpflichten.
5. Allen Menschen soll die Möglichkeit eingerichtet werden, ihre Profile, die sich aus der Datenfusion ermitteln und analysieren lassen, einzusehen.
6. Private Unternehmen, die durch Schlüsseltechnologien in der sensiblen Datenanalyse eine monopolitische Marktbeherrschung erlangen, sollen von einem UNO-Beirat überwacht und gegebenenfalls von der UNO enteignet werden können. Eine Verstaatlichung wäre im Fall von international agierenden Konzernen unzureichend.

Darüber hinaus sollte politische Kompetenz zu Big-Data aufgebaut werden. Heute verfügt – wie Yvonne Hofstetter bemerkt – kein einziger Politiker über ausreichend Sachverstand, um die ethischen und gesellschaftspolitischen Konsequenzen der aktuellen Entwicklungen abschätzen zu können. Ihre Inkompetenz in solchen Szenarien zu denken, hat die Politik vor Jahren bei der Privatisierung der Telekommunikationsnetze und der UMTS-Versteigerung bewiesen. Da ich zu diesem Zeitpunkt selbst bei einem der Bieter arbeitete, hatte ich mich mit den Konsequenzen näher beschäftigt. Schon damals war ich mit einer Minderheit überein, dass der kurzfristige finanzielle Staatsgewinn zu Lasten einer staatlich gesicherten Infrastruktur gehen würde. Das hat sich ja nun für alle sichtbar bewahrheitet.

Mein erstes Handy.

Der aktuelle Fokus in der politischen Debatte auf Netzausbau und Medienkompetenz von Kindheit an – z. B. Programmiersprachen an den Schulen unterrichten – ist einseitig und verstellt den Blick auf die wirklich wichtigen Aufgaben des Staates: die Grund- und Persönlichkeitsrechte seiner Bürger zu schützen. Und das heißt auch seine Bürger vor den unumkehrbaren Folgen ihrer eigenen Naivität zu bewahren.

Ich war bislang einerseits geblendet von den faszinierenden Opportunitäten, die uns die Digitalisierung und das Netz bietet und anderseits fatalistisch bezüglich der Begrenzung der Gefahren. Letzteren dachte ich begegnen zu können, in dem ich aktiv meinen digitalen Zwilling gestalte, das Datenspiel mitspiele und steuere. Doch ich gebe nach der Lektüre von „Sie wissen alles“ und einigen anderen Statements zum Thema zu, dass dies naiv ist und nicht ausreicht, um die Gefahr eines digitalen „Zombies“ (Hofstetter) abzuwenden.

Wenn die Gesellschaft sich hier nicht bald mehrheitlich und gemeinsam engagiert zeigt, werden irgendwann viele von uns in die Falle tappen und für die neue Kontrollgesellschaft nicht mehr opportun zu sein.

Nachtrag: Gespräch zwischen mit Martin Eiermann dem Autor Christopher Steiner („Automate This“), warum Algorithmen und Roboter uns alle herausfordern

Nachtrag: einen das Thema sehr gut ergänzenden Vortrag hielt vor kurzem Sascha Lobo: