Der weißrussische Internet-Experte und Autor Evgeny Morozov auf dem Chaos Communication Congress 2011 in Berlin. dapd

Wollen Sie, dass alle Ihre Facebook FB -0,64% Facebook Inc. Cl A U.S.: Nasdaq $74,81 -0,48 -0,64% 20 Aug. 2014 16:00 Volumen (​15 Min. verzögert) : 22,82 Mio. NACHBÖRSLICH $74,82 +0,01 +0,01% 20 Aug. 2014 19:58 Volumen (​15 Min. verzögert) : 96.675 KGV 79,59 Marktkapitalisierung 195,76 Milliarden $ Dividendenrendite N/A Umsatz/Mitarbeiter 1.580.090 $ -Freunde Ihren Müll durchsuchen können? Eine Gruppe von Konstrukteuren aus Großbritannien und Deutschland glaubt, dass Sie Interesse daran haben könnten. Darf ich vorstellen? BinCam – ein „smarter" Mülleimer, den darauf zielt, das Recycling zu revolutionieren.

BinCams sieht wie ein durchschnittlicher Mülleimer aus – besitzt aber eine überraschende Zusatzeigenschaft: Der Deckel ist mit einem Smartphone ausgestattet, das jedes Mal ein Foto schießt, wenn die Klappe geschlossen wird. Das Foto wird dann zu Amazons Service Mechanical Turk hochgeladen, der Dienst, bei dem Freiberufler gegen kleine Geldbeträge einfache Aufgaben online erledigen. In diesem Fall sehen sie sich das Foto an und entscheiden dann, ob Ihr Wegwerfverhalten umweltgerecht ist. Unter Umständen erscheint das Foto auf der eigenen Facebook-Seite.

Smarte Gegenstände

Außerdem werden Ihnen Punkte gutgeschrieben wie in einem Spiel – je nachdem wie gut sie recyceln. Der Haushalt mit den meisten Punkten gewinnt. In den Worten der jungen Tech-Unternehmer von BinCam ist das System dazu gemacht, „das Bewusstsein über ihre Lebensmittelverschwendung und ihr Mülltrennungsverhalten zu schärfen" – in der Hoffnung, dass sich ihr Verhalten ändert.

BinCam wurde durch das Zusammenkommen von zwei Trends ermöglicht, welche die Welt um uns herum entscheidend verändern werden. Erstens können – dank der Verbreitung billiger, leistungsstarker Sensoren – Alltagsgegenstände verstehen, was wir mit ihnen anstellen. Das reicht von Regenschirmen, die wissen, dass es regnen wird, bis hin zu Schuhen, die wissen, wann sie abgenutzt sind und rechtzeitig vor potenziellen Problemen warnen. Diese Objekte sind nicht nur dumme, passive Materie. Mit Hilfe künstlicher Intelligenz via Crowdsourcing können sie zwischen verantwortlichen und unverantwortlichen Handeln unterscheiden lernen (also zwischen Recycling und Wegwerfen zum Beispiel) und uns entsprechend bestrafen oder belohnen – in Echtzeit.

Soziale Netzwerke und billige Sensoren

Und weil unsere Persönlichkeiten inzwischen so stark mit unseren Onlineprofilen in sozialen Netzwerken wie Facebook und Google GOOG -0,40% Google Inc. Cl C U.S.: Nasdaq $584,49 -2,37 -0,40% 20 Aug. 2014 16:00 Volumen (​15 Min. verzögert) : 1,01 Mio. NACHBÖRSLICH $584,55 +0,06 +0,01% 20 Aug. 2014 19:58 Volumen (​15 Min. verzögert) : 26.564 KGV N/A Marktkapitalisierung 400,41 Milliarden $ Dividendenrendite N/A Umsatz/Mitarbeiter 1.321.030 $ + verknüpft sind, kann jede Interaktion mit solchen Objekten „sozial" werden – also für unsere Freund sichtbar. Diese Sichtbarkeit erlaubt es Konstrukteuren, die Dynamik von Gruppenzwang ausnutzen: Recycle und beeindrucke deine Freunde – oder recycle nicht und riskiere ihren Zorn heraufzubeschwören.

Das Zusammenkommen von billigen Sensoren und sozialen Netzwerken sind die Zutaten für eine neue Art sogenannter Smart-Technologien, die zunehmend Verbreitung finden. Einige dieser Technologien verbreiten sich bereits und scheinen recht harmlos zu sein, sind aber auch nicht besonders revolutionär: Smarte Uhren, die pulsieren, wenn Sie eine neue Nachricht auf Facebook erhalten, Smarte Waagen, die Ihr Gewicht auf Facebook teilen, um eine Diät unterstützen und smarte Medikamentenverpackungen, die Ihnen und Ihrem Arzt mitteilen, wie viel der verschriebenen Medizin noch vorhanden ist.

Viele der smarten Technologien gehen aber in eine andere Richtung, die durchaus verstören. Einige Vordenker des Silicon Valleys sehen in der Technik nicht nur Möglichkeiten für neue Produkte, sondern die Möglichkeit, Menschen zu besserem Verhalten zu erziehen – mal in der Form eines Stupses, mal in Form eines kräftigen Schiebens. Doch die Kernidee ist klar: Gesellschaftsveränderung getarnt als Produktinnovation.

Google will die "kaputte Wirklichkeit" reparieren

2010 sagte Googles Finanzchef Patrick Pichette einem australischen TV-Sender, dass sein Unternehmen in Wirklichkeit „ein Technik-Unternehmen mit all diesen Computerwissenschaftlern" ist, die die Welt als „komplett kaputten Ort" sehen. Erst vergangene Woche wiederholte er in Singapur seine Meinung von der Welt als „kaputten" Ort, dessen Probleme – von Staus über unbequemes Einkaufen bis hin zur Energieverschwendung – durch Technik gelöst werden kann. Die Zukunftsforscherin und Spieleentwicklerin Jane McGonigal spricht ebenfalls gerne über die „kaputte Realität", die dadurch repariert werden kann, dass sie einem Videospiel ähnlicher wird und Punkte für gutes Verhalten vergeben werden. Von smarten Autos bis hin zu smarten Brillen – „smart" ist das Stichwort, unter dem das Silicon Valley die soziale Realität von heute verändern will und die armen Kreaturen, die sie bevölkern.

Doch es gibt Grund, sich über die anrollende Revolution Sorgen zumachen. Sobald smarte Technologien aufdringlicher werden, besteht die Gefahr, dass sie unsere Autonomie gefährden, indem sie Verhaltensweisen unterdrücken, die irgendwer irgendwo für nicht wünschenswert erachtet. Smarte Gabeln informieren uns, dass wir zu schnell essen. Smarte Zahnbürsten drängen uns dazu, länger zu putzen. Smarte Sensoren in unseren Autos können uns sagen, wenn wir zu schnell fahren oder zu plötzlich bremsen.

Diese Geräte können uns nützliches Feedback geben. Aber sie können ihr Wissen auch mit Institutionen teilen, deren Interessen nicht mit unseren eigenen identisch sind. Versicherungsunternehmen in den USA gewähren schon heute deutliche Preisnachlässe für Kunden, die sich bereit erklären, mittels smarter Sensoren die Fahreigenschaften aufzeichnen zu lassen. Wie lange wird es dauern, bis Kunden keine Autoversicherungen mehr ohne diese Überwachung bekommen? Und wie lange dauert es, bis die freiwillige Selbstkontrolle unserer Gesundheit (Gewicht, Ernährung, die Anzahl der gelaufenen Schritte am Tag) sich von einer Freizeit-Neuheit in eine Notwendigkeit verwandelt?

"Gute" und "böse" smarte Technik

Wie können wir es vermeiden, uns dieser Technik bedingungslos zu ergeben? Der Schlüssel liegt in der Unterscheidung zwischen guten und schlechten Aspekten der smarten Technik.

Solche Geräte, die als „gut" klassifiziert werden können, lassen uns die komplette Kontrolle über die Situation und zielen darauf, unsere Entscheidungsfindung zu verbessern, indem sie mehr Informationen bereitstellen. Ein Beispiel: Ein Wasserkocher mit Internetverbindung, der uns warnt, wenn das Stromnetz überlastet ist – ein Prototyp wurde von dem britischen Ingenieur Chris Adams entwickelt. Er hindert uns nicht daran, noch eine Tasse Tee zu kochen, fügt dieser Entscheidung aber eine ethische Dimension hinzu. Ebenso erhöht ein Einkaufswagen mit der Fähigkeit, aus dem Barcode Nährwert und Herkunft von Produkten herauszulesen, unsere Entscheidungsfreiheit, statt sie einzuengen. Ein entsprechender Prototyp wurde von einer Gruppe der Open University in Großbritannien entwickelt.

Smarte Technologien, die „schlecht" sind, sind solche, die bestimmte Entscheidungen und Verhaltensweisen unmöglich machen. Smarte Geräte der jüngsten Generation in unseren Autos, die feststellen, ob wir nüchtern sind, Sensoren an Lenkrädern, die prüfen, ob wir müde sind, und Gesichtserkennungstechniken, die überprüfen, ob wir derjenige sind, für den wir uns ausgeben, versuchen unsere Entscheidungsfreiheit nicht zu vergrößern, sondern zu limitieren. Das mag in Situationen, in denen es um Leben und Tod geht, ein akzeptabler Preis sein – zum Beispiel beim Autofahren. Doch wir müssen der Versuchung widerstehen, dieses Prinzip zu verallgemeinern.

Die „Smart Bench" – ein Kunstprojekt der Designer JooYoun Paek und David Jimison soll die Gefahren des Lebens in einer Stadt verdeutlichen, die allzu smart ist. Mit Zeitmesser und Sensoren ausgestattet, kippt die Bank nach einer bestimmten Zeit und wirft den Sitzenden herunter. Das mag manchem US-Bürgermeister wie eine gute Idee vorkommen aber es ist die Art von smarter Technologie, welche die städtische Kultur abwertet – und unsere Würde.

Projekte wie BinCam sind in gewisser Weise ein Zwischending zwischen guter und schlechter smarter Technik – je nachdem wie sie umgesetzt werden. Der Mülleimer zwingt uns nicht zum Recyceln, doch appelliert an unsere niederen Instinkte – wir wollen sammeln und belohnt werden, mit anderen Haushalten konkurrieren, Freunde gewinnen und beeindrucken. Das Gerät behandelt uns nicht als autonom handelnde Menschen, die selbst in der Lage sind, ihre Entscheidungen abzuwägen. Es erlaubt Mechanical Turk oder Facebook, für uns das Denken zu übernehmen.

Die bedenklichsten Projekte mit smarter Technologie beginnen mit der Annahme, dass die Konstrukteure genau wissen, wie wir uns verhalten sollten – und die Lösung dafür nur in den richtigen Anreizen besteht. Ein wirklich smarter Mülleimer würde uns dagegen zum Nachdenken über unser Recyclingverhalten anregen und wohlüberlegte Entscheidungen fördern – beispielsweise, indem es unser Verhalten mit anderen Haushalten mit ähnlicher Demografie vergleicht, anstatt uns mittels Punktereduzierung und Gruppenzwang an den Müllpranger zu stellen.

Wo smarte Technik Sinn ergibt

Es gibt viele Einsatzgebiete in denen smarte Techniken ohne Zweifel nützlich und sogar lebensrettend sind. Smarte Gurte, die das Gleichgewicht älterer Fahrer überwachen, und smarte Teppiche, die Stürze registrieren fallen in diese Kategorie. Das Problem vieler smarter Technologien ist, dass die Konstrukteure in ihrem Bestreben, die menschlichen Schwächen mit der Wurzel auszurotten, nur selten innehalten und sich vergegenwärtigen, wie viel Frustration, Misserfolg und Reue notwendig ist, damit Begriffe wie Glück und Erfolg ihre Bedeutung behalten.

Es ist großartig, wenn die Dinge um uns herum reibungslos funktionieren – doch noch besser ist, wenn sie das nicht standardmäßig tun. Denn dann bleibt noch Raum, den wir mit Entscheidungen ausfüllen können – viele davon sind ohne Zweifel falsch. Doch über Versuch und Fehler reifen wir zu verantwortungsbewussten Erwachsenen, die Kompromisse und Komplexität aushalten können.

Wird dieser Raum für autonome Entscheidungen auch noch in einer Welt mit smarten Technologien bestehen? Oder wird diese Welt, um sich bei einer Metapher des Rechtsphilosophen Ian Kerr zu bedienen, Autopia ähneln – eine Disneyland-Attraktion, in der Kinder speziell konstruierte kleine Autos durch ein abgeschlossenes Gebiet steuern? Wobei „steuern" im Grunde nicht der richtige Begriff ist. Selbst wenn die Kinder am Steuer sitzen und das Auto zur Seite lenken, greift eine versteckte Schiene unter dem Auto und führt sie zurück zur Mitte. Die Disney DIS -0,28% Walt Disney Co. U.S.: NYSE $89,84 -0,25 -0,28% 20 Aug. 2014 16:00 Volumen (​15 Min. verzögert) : 3,87 Mio. NACHBÖRSLICH $89,84 0,00 % 20 Aug. 2014 19:39 Volumen (​15 Min. verzögert) : 26.900 KGV 21,29 Marktkapitalisierung 154,64 Milliarden $ Dividendenrendite 0,96% Umsatz/Mitarbeiter 273.869 $ -Autos können keinen Unfall bauen. Die sogenannten „Fahrer" dürfen keine Fehler machen. Ist es nicht vielsagend, dass eine der am meisten erwarteten Technologien ein selbstfahrendes Auto ist, das bald von Google angeboten werden wird?

Smarte Technologie und intellektuelle Armut

Um die intellektuelle Armut zu erfassen, die uns in einer smarten Welt erwartet, schauen Sie nur auf die jüngsten Entwürfe für „smarte Küchen" – ein seltsames aber hartnäckiges Bestreben heutiger Computerwissenschaftler. Erst kürzlich gab es wieder neue Entwürfe von der University of Washington und der Kyoto-Sangyo-Universität in Japan.

Sobald wir diesen magischen Ort betreten, sind wir von Videokameras umgeben, die jede Zutat in unseren Händen erkennen. Kleine Küchenroboter informieren uns darüber, dass – sagen wir beispielsweise – Rucola nicht zu gekochten Karotten passt oder dass Zitronengras mit Schokoladenmilch furchtbar schmeckt. Die Küche mag smart sein – ist aber auch ein Ort, an dem jeder Fehler, jede Abweichung vom Masterplan, missbilligt wird. Es ist eine Welt, die eher einer tayloristischen Fabrik gleicht als einem Ort für kulinarische Innovationen. Seien Sie versichert, dass weder Lasagne noch Sushi von einem mit Formeln bewaffneten Komitee oder von „Big Data" über jüngste Kundenwünsche erfunden wurde.

Kreative Experimente treiben unsere Kultur voran. Das unsere Erfolgsgeschichten von Innovationen dazu tendieren, die Durchbrüche zu glorifizieren und all die vorangegangenen fehlgeschlagenen Experimente auszulassen, bedeutet nicht, dass Fehler keine wichtige Rolle in dem Prozess spielen. Wie jeder Künstler oder Wissenschaftler weiß, dass es ohne einen geschützten Raum für Fehler, keine Innovation gibt.

Die Verlockung der problemfreien Welt

Mit dem Aufstieg „smarter" Technologien wird es schwer sein, den Verlockungen einer reibungslosen und problemfreien Zukunft zu widerstehen. Google-Aufsichtsratschef Eric Schmidt liegt mit seiner Aussage, dass „Leute weniger Zeit dafür aufwenden werden, Technik zum Laufen zu bringen … weil sie einfach nahtlos funktioniert", lag er nicht falsch: Das ist die Zukunft, in die wir gehen. Doch nicht alle von uns werden mitgehen.

Ein menschlicheres Paradigma für smarte Technik würde akzeptieren, dass die Aufgabe von Technik nicht darin besteht, uns davon zu befreien, Probleme zu lösen. Stattdessen müssen wir smarte Technologien verbreiten, die uns beim Lösen der Probleme helfen. Wir wollen kein Leben, in dem jede Reibung und Frustration sorgsam ausgeschlossen wurden. Wir wollen ein Leben, in dem wir diese Reibungen und Frustrationen, die uns im Weg stehen, überwinden können.

Wirklich smarte Technik wird uns daran erinnern, dass wir nicht nur Automaten sind, die zu Assistenten von Big Data werden, die Fragen stellen und beantworten. Wenn die Konstrukteure smarter Technik nicht die Komplexität und Reichhaltigkeit des menschlichen Lebens beachten – mit all seinen Brüchen, Herausforderungen und Konflikten – werden ihre Innovationen in der SmartBin der Geschichte landen.

Evgeny Morozov ist Autor des Buches „To Save Everything, Click Here: The Folly of Technological Solutionism". Das Buch erscheint am 5. März bei PublicAffairs.

Kontakt zum Autor: redaktion@wallstreetjournal.de