navigating complexity BLEIB MENSCH! BLEIB 11 | 2018 Think:Act #26

Bleib Mensch!

Die Paten gehen online Streng dein Hirn an Wie die Mafia ihr Geschäft Verdummen die Menschen, ins Netz verlagert wenn Roboter für sie arbeiten? IN DIESER AUSGABE Think:Act 26 3

"Nur Menschen können Prozesse verbessern. Darum sollten sie immer im Mittelpunkt "Wir sollten anerkennen, dass stehen." Menschen am meisten leisten, MITSURU KAWAI wenn sie empathisch sind Fertigungschef, Executive Vice President von Toyota und miteinander sprechen." → seite 52 SHERRY TURKLE Forschungspionierin zum Verhältnis zwischen Mensch und digitaler Technik → seite 66 getty images getty / foto: ben weller foto: globe boston foto: 4 Think:Act 26 IN DIESER AUSGABE IN DIESER AUSGABE Think:Act 26 5

"Unternehmen müssen begreifen: Die Menschen, die für unser Unternehmen arbeiten, legen ihr Wohl in unsere Hände."

"Seit der Mensch den ersten Feuerstein schärfte, hat er Menschsein darüber definiert, dass er sich Werkzeuge schafft, um sein JEFFREY PFEFFER Leben besser Experte für Unternehmensorganisation und Autor von Dying for a Paycheck / riva press / laif zu bewältigen." → seite 42 CHARLES-EDOUARD BOUÉE CEO von Roland Berger foto: winni wintermeyer foto: foto: vincent boisot → seite 22 6 Think:Act 26 IN DIESER AUSGABE IN DIESER AUSGABE Think:Act 26 7 Think:Act 26

Im Fokus Weitwinkel Lesen. Denken. Bleib Handeln. Mensch!

Wir werfen einen Blick ­auf die Rolle des illustration: illustration: jack richardson / die illustratoren 74

Menschen in einer Welt, in der Maschinen | Neustart

immer mehr Platz einnehmen. laif / für Detroit Einst Juwel der 22 Helfer, nicht Konkurrent Autoindustrie, dann Roland Bergers CEO Charles- Symbol für Verfall. Edouard Bouée glaubt, dass wir Jetzt bringen Stadt- vor KI nur Angst haben, weil wir verwaltung und den Begriff falsch interpretieren. Unternehmer Detroit wieder auf die Spur. 24 Auf Augenhöhe mit der Maschine  Immer besser ahmt KI Menschen nach. Das wirft die Frage auf: 8 Auf einen Blick 70 Die erste ihrer Art Was macht Menschen aus?  Fakten, die Sie kennen sollten: ­  Kiran Mazumdar-Shaw 12 Die neuesten Buzzwords, Studien erzählt im Interview, warum 28 Die Ludditen sind zurück Bleib und Geschäftsideen. sie erst Bierbrauerin werden  Die Angst vor negativen Folgen wollte, aber dann in Indien der Digitalisierung wächst. Mensch! 60 Die Paten gehen online Biocon gründete – heute Und der Widerstand dagegen. "Ob KI Welchen Platz wird der Mensch  Das organisierte Verbrechen hat eines der erfolgreichsten in einer automatisierten Welt sich verändert. Geld machen die Biotechnologie-Unternehmen 42 Nichts wie raus hier unsere einnehmen? Vier Experten Syndikate heute im Internet – mit- der Welt.  Leadership-Experte Jeffrey Pfeffer schildern ihre Sichtweisen. hilfe krimineller Cyber-Experten.

Intelligenz jäger weller; malte ben ronald patrick; education; of school graduate harvard fotos: 80 Denkanstöße sagt: Unternehmen machen ihre | Mitarbeiter krank. beschränken 66 Es lebe die Langeweile  Lassen Sie sich inspirieren: wird, liegt  Die Soziologin Sherry Turkle ruft Studien von Roland Berger zu 46 Mensch, streng dein Hirn an uns auf: Legt die Smartphones modernem Management und  Wenn wir alles Maschinen an uns." weg und redet miteinander. technologischem Wandel. die illustratoren

überlassen, könnten wir dabei / auf Dauer verdummen. 52 50 Es wird immer besser Rauswurf Wie der Mensch Ernährung, der 34 roboter Wissen und Arbeitskraft durch Digitale Innovationen verbessert. Verkehrte Welt. Think:Act online nomaden Bei Toyota müssen Die ungekürzten Interviews mit 82 Wie entstehen multiple Smartphones und Schamanen: die Maschinen sich Sherry Turkle und Jeffrey Pfeffer Intelligenzen? Das Volk der Tsaatan pflegt bewähren – sonst finden Sie hier:  Psychologe Howard Gartner trotz digitaler Neuerungen werden sie durch www.rolandberger.com/tam beantwortet drei Fragen zu dem, seine alten Traditionen. Noch. Menschen ersetzt.

was vom Mensch bleibt. richardson jack umschlagseiten: illustrationen 8 Think:Act 26 at a gl ance AUF EINEN BLICK Think:Act 26 9

Rechen- Denk- Gute Buzzword Exempel Anstöße Gedanken Bingo

zahlen, bitte. joanna bryson Halten Sie mit beim diesmal zu … Brauchen Roboter Menschenrechte? ist Informatik-Professorin von Joanna Bryson "Die drei Business-Talk. Wir frauen an der britischen University erklären die Trendwörter, als chefs of Bath und spezialisiert konstruierten wir roboter, davor haben auszusterben. Viel auf KI, Ethik und kollabora- wichtigsten mit denen gerade alle die Menschenrechte bräuchten, entscheidender aber ist: Es gibt tive Erkenntnis. um sich werfen. würden wir den Robotern und uns keinen sinnvollen und sicheren Weg, Dinge, um alles 23 gleichermaßen schaden. Rechte sind um Leidensfähigkeit in sichere, frauen sind ceo Regeln, mit denen wir dafür sorgen, durchdachte KI zu implantieren. in einem der 500 größten wollen, dass Gleiche anständig Darum sollten wir uns nicht auf etwas zu erreichen, was US-Unternehmen. Es ist also miteinander umgehen. wie Justiz oder Gesetze verlassen, statistisch wahrscheinlicher, Roboter aber können uns niemals um auf einem Umweg KI zu einem Teil dass ihr Boss James heißt, erstrebenswert gleich sein, denn wir haben sie unserer Gesellschaft zu machen. als dass er eine Frau ist. "Servitization" erschaffen, und zwar mit voller Manche erwägen, Robotern Absicht. Anders als beim menschli- Menschenrechte zu gewähren oder ist, sind: chen Fortpflanzungsakt: Das Aussehen sogar Statuen. Nur damit wir durch sie Früher produzierten 17,1 % oder die Charaktereigenschaften daran erinnert werden, diese Rechte harte Arbeit, Unternehmen Produkte

auch allen Menschen zu gewähren. fotos: roberto / hervé / contrasto/laif, oecd caccuri cortinat aller vorstandsposten unserer Kinder können wir nicht und Dienstleister boten dazu weltweit werden ­ beeinflussen. Hinzu kommt: Roboter Im Vereinigten Königreich haben wir begleitende Dienstleistun- von Frauen besetzt. ­Das sind Gegenstände. Könnten wir sie diese Erwägung umgedreht: Eines Hartnäckigkeit gen an. "Servitization" hat ist weniger als jedes fünfte in einer Weise konstruieren, dass unserer fünf Prinzipien für den Bau von diese Grenzen verwischt. der 2.780 Unternehmen ihnen auch nur annähernd der gleiche Robotern lautet, dass es unethisch ist, und gesunder Das Konzept dahinter lautet: des Aktienindex MSCI Status zukommen müsste wie uns – sie menschlich wirken zu lassen. Biete deinem Kunden mehr ACWI, der Unternehmen etwa, weil sie Schmerzen empfinden an als das Produkt. Das ist aus 23 Industrie- ­und ­ könnten –, würde das bedeuten, Menschen- nicht nur ein "Mehrwert". 24 Schwellenländern erfasst. dass wir sie nur gebaut hätten, Ein Beispiel: Statt Reifen zu um uns ihnen überlegen zu fühlen. verstand." verkaufen, vermieten Sie Glücklicherweise gibt es derzeit keine sie auf Kilometerbasis. ­ derartige KI. Wir wissen, dass es für KI — Thomas Alva Edison Die Dienstleistung ersetzt < 5 % immer ein Backup gibt, darum muss das Produkt. Also, servitizen sie beispielsweise keine Angst Erfinder und Unternehmer Sie Ihr Unternehmen: So beträgt in asien der Anteil von Frauen vertiefen Sie die Kunden- in Vorständen. Die bindung und erhöhen drei Länder mit dem Ihre Einnahmen.­ höchsten Frauenanteil in Vorständen sind europäische Staaten mit einer Quotenregelung: In Norwegen sind es 46,7 %, in Frankreich 34 % und in Schweden 33,6 %.

quellen: glass ceiling index (the new york times, 24. april 2018); women on boards and the human capital connection, msci, märz 2018; the cs gender 3000: the reward for change, credit suisse, september 2016

AUF EINEN BLICK 10 Think:Act 26 AUF EINEN BLICK 11

Wirtschaftliche Konsequenzen In aller Ketten- Best Kürze Reaktion Practice

Die Welt ist griff nach dem strohhalm Wie man … viel besser, als Eigentlich ist der Strohhalm gar nicht das Problem. Viel auch als Chef mehr, dass er meist ein Plastikhalm ist – und damit Mensch bleibt Sie glauben. ein Teil der riesigen Inseln aus Plastikmüll wird, die durch Zu beschäftigt, um das Buch die Ozeane treiben. Mit 0,025 % ist der Anteil der Halme schlausein reicht nicht. Schrott-Sharing Wer erfolgreich führen will, zu lesen, über das gerade an diesem Müll zwar eher klein. Dennoch wuchs auf braucht auch emotionale Intelli- die idee klingt überzeugend: alle reden? Wir übernehmen genz. Eine vierbändige Reihe einmal der Widerstand gegen sie rapide an – ebenso wie Einfach eine App herunterladen, das für Sie. Darum geht es in von Harvard­ ­Business ­Review, die Nachfrage nach biologisch abbaubaren Alternativen. ein Rad in der Nähe suchen – und Factfulness von Hans Rosling: die sich mit dem Thema beschäf- Der Auslöser dafür: eine Schildkröte. tigt, kommt zu dem Schluss, dass schon fährt man los. Sauberer als mit nur effizient führen kann, wer dem Auto, oft sogar schneller – und freuen sie sich! Die Dinge Gefühle erkennt, versteht und ganz nebenbei macht man ein bisschen stehen besser, als wir glauben. richtig mit ihnen umgeht. Sport. Eine weniger schöne Seite des Der Anteil der Weltbevölkerung, Kritische Selbstreflexion ist dafür Bike-Sharing-Modells kann man in der in extremer Armut lebt, hat der erste Schritt. Erst durch sie China sehen – dem ersten Land, in dem sich beispielsweise in den ver- lernen Sie Selbstbeherrschung. das Konzept auf breiter Front Wirkung SCHILDKRÖTEN-VIDEO 2015 Diese ist die Voraussetzung dafür, gangenen 20 Jahren fast halbiert, zeigte. Weil die Räder an jedem 1 wird ein Video online gestellt, in dass Sie Ihre Gedanken im Griff gleichzeitig ist die durchschnittli- dem einer Schildkröte schmerzhaft beliebigen Ort abgestellt werden haben – was sich wiederum che Lebenserwartung auf 72 Jahre ein Strohhalm aus dem Nasenloch können, verstopfen sie die Straßen. entfernt wird. Es wird weltweit ­unmittelbar auf Ihre Gefühle und gestiegen. Das wussten Sie nicht? geklickt und zum Auslöser für die deren Wirkung auf andere aus- Zumindest so lang, bis Behörden- Damit sind Sie nicht allein. Die Anti-Strohhalm-Bewegung. wirkt. Es braucht etwas Übung; mitarbeiter sie entfernen und auf meisten Menschen haben keine aber mit der Zeit werden Sie dank Fahrradfriedhöfen entsorgen – wie klare Vorstellung vom Status quo emotionaler Intelligenz leichter auf diesem in Shanghai. der Erde, sagt Hans Rosling in Beziehungen aufbauen, Stress seinem Buch Factfulness. bewältigen – und lernen, wie Sie auch als erfolgreicher Chef Dafür gibt es verschiedene menschlich handeln können. Ursachen; die entscheidendste ist, ÖKO-PLASTIK Ein 5 Wettrennen um die dass Menschen einen ausgepräg- Herstellung abbaubarer Weitere Bücher zum Thema: ten Sinn für Drama haben und wir Polymere hat begonnen. AUFSCHREI Einweg-Trinkhalme Emotionale Intelligenz von ­Daniel werden zum Symbol von Einweg- Unternehmen wie BASF 2 the noun project darum schlechte Nachrichten ­ Plastik. Geschätzte 170 bis 390 Millionen / Goleman; Serie Harvard Business oder der japanische Review: Emotional Intelligence; eher wahrnehmen als gute. Chemiekonzern Kaneka Halme werden jeden Tag allein in den Ja, es gibt reale Gründe, um steigern die Produktion USA benutzt – und weggeworfen. EQ Applied von Justin Bariso. Insgesamt landen pro Jahr acht Millionen sich Sorgen zu machen: Erderwär­ von biologisch abbau- baren Materialen, die Tonnen Plastik in unseren Ozeanen. mung, Seuchen, ein möglicher zuvor als zu teuer galten. dritter Weltkrieg und einiges mehr. ­ getty images getty / Aber nichts davon können wir afp bewältigen, ohne ein grundlegen- / des Verständnis davon, wie die Chancen tatsächlich stehen. Seien SEATTLE Die 3 Stadtverwaltung Sie kein Optimist oder Pessimist. verbannt zum 1. Juli Seien Sie jemand, der die Welt mit 2018 Plastikhalme. klarem Blick sieht und versteht, WACHSTUM Starbucks will sie 4 Hersteller von global bis 2020 wie man sie verbessern könnte. Halmen aus Metall und abschaffen (dort Silikon erleben einen werden sie derzeit → Factfulness: Wie wir lernen, Boom. Bei einem Metall- bei 50 % der Kalt- halmproduzenten stieg die Welt so zu sehen, wie sie wirklich getränke verwendet). die Auftragsquote um Allein dadurch ver- ist von Hans Rosling 743 % im Vergleich zum schwänden jährlich fotos: vcg via getty images; johannes eisele images; getty via vcg fotos: Vorjahreszeitraum. eine Milliarde Halme. rogue one, farias alexandre, bomsymbols, gongora, quellen: halberto AUF EINEN BLICK 12 Mensch und Maschine Think:Act 26 13

Im Fokus

In dieser Ausgabe werfen wir einen Blick auf die Rolle des Menschen in einer Welt, die von Maschinen oboter und künstliche Intelli­ dominiert wird. R genz dringen immer tiefer in Bereiche ein, die lange Zeit Menschen vorbehalten waren. Kein Wunder, dass viele Menschen sich fragen: Welchen Platz werden wir in Zukunft einnehmen? Auf welche Fähigkeiten kommt es an, wenn wir auf dem Arbeitsmarkt der Zukunft mithalten wollen? Gleichzeitig stellen Menschen heute höhere Ansprüche an die Arbeitswelt. Wie können Unternehmen ihren Angestellten ein Gefühl von Sinnhaftigkeit und Zugehörigkeit

bleib Mensch! bleib vermitteln, wenn diese gleich­zeitig durch Mensch! bleib neue Technologien verdrängt werden? Fort­ schritt hat einen Preis. Schon jetzt fühlen sich viele von den Anforderungen der Kommunikationstechnologie überfordert. Wie also finden wir genügend Zeit, um bleib das zu tun, worin wir Menschen am besten sind – kreativ sein, mutig sein, Mitgefühl zeigen? Wir stehen am Scheideweg. Wie Mensch! bereiten wir uns auf ein höheres Lebensalter und längere Lebensarbeitszeiten vor? Und wie werden sich diese Änderungen auf von Janet Anderson unsere Gesellschaft auswirken? illustrationen von Jack Richardson Wir haben Experten aus verschiedenen Bereichen gebeten, uns Antworten zu geben auf die Frage: Wie bleibt in dieser sich ver­ ändernden Welt der Mensch ein Mensch? 14 Mensch und Maschine Think:Act 26 15

Lynda Gratton Professorin für Management an der London Business School Vor allem müssen Unternehmen Arbeit neu ge- und Co-Autorin von The 100- stalten, indem sie sich fragen: Welche Tätigkeiten Year Life: Living and Working in können Maschinen am besten ausführen, und wel- an Age of Longevity che sollten besser Menschen übernehmen? Es gibt menschliche Fähigkeiten, die Maschinen niemals nachbilden können werden. Dazu gehören Intuiti- die on, Empathie, Kreativität oder komplexe Formen der Zusammen­arbeit. Einen wirklich guten Kun- dendienst kann man nur mit menschlichen Mitar- unternehmerische beitern besetzen. Keine Maschine in der ganzen Welt kann erkennen, wie sich das Gesicht oder die sichtweise Stimme eines Kunden verändert. Der allerwichtigste Punkt: Wir müssen uns da- rauf vorbereiten, dass wir länger leben werden. Ein Mensch, der 100 Jahre alt wird, wird nicht mehr ein Drei-Stufen-Leben aus Ausbildung, Job und Ruhe- stand leben. Stattdessen wird er mehrere Ausbil- nternehmen blicken auf eine Welt im dungen und verschiedene Tätigkeiten durchlaufen, U Wandel. Sie wollen verstehen: Wie verän- Was sich ändert, die von Auszeiten unterbrochen werden können. dert sich Technik, wie die Lebenserwar- wenn wir alle Das wirft viele bedeutsame Fragen auf: Wie wird es tung, welche Auswirkungen haben Umbrüche in 100 Jahre sich anfühlen, noch mit Mitte 70 im Berufsleben Familienstrukturen auf das Arbeitsleben, was be- zu stehen? Wie plant man einen Lebensweg, der alt werden deutet Menschlich-Sein im Maschinen-Zeitalter, nicht mehr nur senkrecht verlaufen wird, sondern was erwarten Menschen von ihrem Arbeitsplatz? Aktueller Arbeitszyklus auch seitwärts? Soll ich eine Umschulung machen Wenn neue Jobs geschaffen werden, stehen oft oder nehme ich eine Auszeit? Wir sollten uns dar-

nicht die Bedürfnisse von Menschen im Vorder- Bis 25: auf vorbereiten, diese Fragen zu beantworten. grund. Menschen, die sie ausüben, werden dabei Nach 67: Ausbildung #1 Ruhestand krank und unglücklich. Wir wollen unsere Kinder bleib Mensch! bleib Mensch! bleib aufwachsen sehen, Zeit mit Freunden verbringen Heute und Zeit haben, um wieder aufzutanken. Wie 26–67: schaffen wir es, flexible Arbeitsplätze zu kreieren? Beruf #1 Ein wichtiger Punkt dabei ist, dass Männer Eltern- "menschen zeit nehmen. Wenn wir 100 Jahre alt werden kön- Möglicher künftiger nen, was immer wahrscheinlicher wird, und nur Ausbildungs- und haben fähigkeiten, zwei Kinder haben, wäre es doch sinnvoll, Zeit mit Arbeitszyklus

ihnen zu verbringen, oder? Nach 75: Bis 25: Wie sollten sich Unternehmen darauf vorberei- Ruhestand Ausbildung #1 die maschinen 26–31: ten? Als Erstes sollten sie das Gespräch mit ihren Beruf #1 60–75: 2030 Mitarbeitern suchen, um herauszufinden, was sie Beruf #5 Ein Jahr niemaLs ersetzen Auszeit beschäftigt oder worüber sie sich Sorgen machen. 33–36: Beruf #2 Dabei sollten sie auch junge Menschen fragen, was 56–59: 37–39: können werden." Ausbildung #3 Ausbildung #2 für sie wichtig ist. Diese haben oft einen ganz an- 47–55: 40–45: deren Blick auf die Zukunft als ältere Mitarbeiter. Beruf #4 Ein Jahr Beruf #3 Auszeit Die meisten von uns werden mit Robotern quelle: interview oder künstlicher Intelligenz zusammenarbeiten. mit lynda gratton Viele Aufgaben, die bislang von Menschen ausge- führt werden, werden von Maschinen übernom- men oder erweitert werden. Unternehmen müssen schöne neue welt Die ideale Welt das den Menschen klar sagen, damit sie sich dar- wäre eine, in der auf vorbereiten können. Ehrlichkeit ist die beste die Fähig­keiten = So viele Berufe Methode, um Menschen zu helfen, den Übergang von Menschen könnte ein Mensch, zu bewältigen: ob es bedeutet, dass sie ihren Job und Robotern der 100 Jahre alt wird, verlieren oder dass sie umschulen müssen. einander ergänzen. 5 im Leben ausüben. 16 Mensch und Maschine Think:Act 26 17

Jerry Kaplan Professor an der Stanford University, Seriengründer und Bestseller-Autor von ­Künstliche Intelligenz: Eine Einführung Wie wahrscheinlich ist es, dass ihr Job automatisiert wird?

Bei einem durchschnittlichen Stundenlohn von:

die 83 % 80

60 sozioökonomische 40 31 % 20 4 % sichtweise 0 < 20 20–40 > 40 US-Dollar US-Dollar US-Dollar

quelle: us bureau of labor statistics; frey and osborne (2013); cea calculations

lles ändert sich immer schneller. So fühlt Und noch etwas wird sich verschieben: Alles, es sich zumindest manchmal an. Tat- wofür es menschliche Fähigkeiten, menschliche A sächlich erleben wir derzeit nichts, was Aufsicht oder menschliche Arbeit braucht, wird wir nicht schon einmal in der Vergangenheit erlebt teuer werden. Automatisierung schafft Wohlstand – haben – vor allem in der Arbeitswelt. Alarmieren- dadurch werden künftig mehr Menschen in Berei- de Prognosen schätzen, dass bis zu 50 % der heu- chen arbeiten, die wir heute oft als Luxus be­ tigen Jobs in 50 Jahren verschwunden sein werden. trachten, beispielsweise als Masseure oder Innen- Lassen Sie uns 50 Jahre zurückschauen: Die Hälf- dekorateure. Vieles, was Menschen heute nur als te der Berufe, die es damals gab, existieren heute Hobby betreiben, kann zu einem Beruf werden, vor nicht mehr. Und dennoch haben wir heute fast allem im Kunsthandwerk. Auch der Bedarf im Vollbeschäftigung. ­Hotel- und Gastgewerbe steigt. Uns drohen keine bleib Mensch! bleib Mensch! bleib Ich befürchte keine Job-Apokalypse. Das be- Massenarbeitslosigkeit und keine Aufstände. Aber deutet nicht, dass es keine Schwierigkeiten geben unser Ausbildungssystem muss schneller darauf wird. Menschen werden umschulen müssen. Aber reagieren, welche Fähigkeiten am Arbeitsmarkt be- dieses Problem kennen wir bereits seit mehreren nötigt werden. Jahrzehnten. Wir automatisieren ständig Dinge, Mein Rat lautet: Tief durchatmen. Die Zukunft im Arbeitsleben ebenso wie in unserer Freizeit. Die wird ähnlich verlaufen wie die Vergangenheit. Veränderungen, die uns bevorstehen, werden ähn- Menschen haben Angst, weil sie glauben, dass es lich verlaufen. Künstliche Intelligenz ist bloß eine in Zukunft keine anderen Berufe oder Jobs geben neue Form von Automatisierung. wird als heute. Aber es werden neuartige Berufe Vieles von dem, was uns Angst macht, basiert entstehen. Viele davon zeichnen sich bereits am auf Hypes. Das beste Beispiel dafür ist autonomes Horizont ab – im Augenblick noch ganz klein, aber Fahren. Ich glaube nicht, dass ich noch erleben mit der Zeit werden sie größer werden. werde, dass in allen Garagen vollständig autonom fahrende Autos stehen. Was wir erleben werden, sind allerdings signifikante Veränderungen. Lkws, zusammenleben die über Autobahnen fahren, lassen sich beispiels- Roboter müssen Der US-Arbeitsmarkt wandelt sich weise sehr gut automatisieren. Ähnliches gilt für nicht unbedingt für Für einige Branchen bedeutet Automatisierung Jobverlust. In anderen wird sie neue Jobs die Landwirtschaft. Aber ich glaube, dass die Men- "künstliche eine düstere Zukunft schaffen, beispielsweise im Pflegebereich: schen, die dadurch ihre Jobs verlieren, problemlos stehen. Sie können quelle: us bureau of labor statistics, prognose für 2026 für andere Aufgaben eingesetzt werden können. auch bereitwillige In Zukunft werden vor allem Fähigkeiten wert- intelligenz ist bloss Helfer sein, die uns 2016 2026 Arbeiten abnehmen. Das ist ein voll sein, die menschliche Interaktion beinhalten: Zuwachs von die Fähigkeit, Menschen zu überzeugen, einen Zu- eine neue Form 2.927.600 4.136.000 gang zu ihnen zu finden oder ganz einfach: so nett zu sein, dass man uns mag. von automatisierung." 41% 18 Mensch und Maschine Think:Act 26 19

Susan David Psychologin on der Faculty of Harvard Medical School, Mitgründerin and Direktorin am Institute of Coaching und Autorin von Emotional Agility

die rem Umgang mit Emotionen. Wir möchten, dass unsere Mitarbeiter sich so verhalten, wie wir es er- So erzeugen warten. Aber diese Erwartungen lassen sich mit psychologische Sie emotionale unserer menschlichen Natur nicht vereinbaren – Agilität und auch nicht mit emotionaler Agilität. Wer stets sichtweise positive Gefühle und Optimismus verlangt und vo- raussetzt, dass wir jede Veränderung fröhlich be- grüßen, zerstört genau damit Agilität. Menschen 1. probieren ungern Neues aus, denn sie fürchten zu Haben Sie keine Angst versagen oder zu enttäuschen. Aber solche Erfah- vor Gefühlen, sondern begegnen rungen gehören zum Leben dazu. Unternehmen ie Welt ist so komplex wie nie. Globalisie- Sie ihnen offen und wollen, dass wir für ihre Werte einstehen. Aber rung, neue Technologien und Wettbe- neugierig. Wertvorstellungen lassen sich nur etablieren, D werber stellen Unternehmen vor Heraus- wenn Mitarbeiter sie verinnerlicht haben. forderungen ungekannten Ausmaßes. Agilität ist Oft torpediert Komplexität ironischerweise ge- das Gebot der Stunde: Unternehmen müssen in 2. nau die Qualitäten, die benötigt werden, um Kom- der Lage sein, sich an wechselnde Umstände anzu- Sehen Sie sich als plexität zu bewältigen. Unser Verhalten ist viel- passen und in ihnen zu wachsen. Das können sie Schachbrett, schichtig: Nüchtern zu denken gehört ebenso dazu nur, wenn die Menschen, die für sie arbeiten, agil nicht als Schachfigur. wie innovativ zu sein, einfühlsam oder teamorien- sind, genauer gesagt: emotional agil. ersatzbank Ihnen stehen sämtliche tiert. Das müssen Entscheider akzeptieren. Kom- Wir wissen, dass alles, was Menschen tun, von Die größte Furcht Möglichkeiten offen, plexität aber bringt Menschen oft dazu, dass sie in ihren Gefühlen beeinflusst wird. Entscheider müs- vieler Menschen nicht nur vorgegebene Aktionismus verfallen, überstürzte Entscheidun- bleib Mensch! bleib Bewegungen. Mensch! bleib sen akzeptieren, dass Menschen Menschen sind. ist, von Robotern gen treffen, sich verschließen und Stress, Panik ersetzt zu werden, Aber am Arbeitsplatz will fast nie jemand Zeit da- und Schuldgefühle entwickeln. die obendrein nicht für opfern, sich mit Gefühlen auseinanderzuset- Wir leben in einer Gesellschaft voller Wandel, begreifen, wie emo- 3. zen, die uns bewegen. Weder wir selbst noch die Technik und Widersprüche. Und manchmal hat tional angeschlagen Definieren Sie Werte, Menschen um uns herum. man das Gefühl, dass das menschliche Hirn mit wir deswegen sind. die für Ihr Unternehmen Depressionen sind ein riesiges Problem. Den- wichtig sind. Diese dem Tempo dieser Veränderungen nicht Schritt noch sind wir als Manager oft sehr rigide in unse- sind wie ein Kompass hält. Gerade heute brauchen wir emotionale Be- auf Ihrem Weg. Und weglichkeit mehr denn je. Wir brauchen die Mög- sie helfen dabei, das zu lichkeit, unsere Gefühle zuzulassen, sie zu benen- entwickeln, was Sie auf nen, zu verstehen und Strategien zu entwickeln, diesem Weg brauchen: wie wir mit ihnen umgehen. Willenskraft, Belast- Unternehmen müssen sich für ihre Mitarbei- barkeit und Effizienz. ter einsetzen und eine Umgebung schaffen, die "alles, was menschen "psychologisch sicher" ist, in der niemand befürch- 4. ten muss, als Sündenbock herzuhalten. So baut tun, wird von ihren man eine starke Unternehmenskultur auf. Denn Finden Sie die Balance nur wer das Risiko zu versagen eingeht, kann in­ zwischen Furcht und novativ sein. Menschen wollen dazugehören, sie gefühlen beeinflusst. ­Arroganz. Lassen wollen zusammenarbeiten. Echte Agilität und Zu- Sie nicht zu, dass Sie Aber am arbeitsplatz selbstgefällig werden. friedenheit gibt es nur, wenn sie ihre gesamte Per- Aber auch nicht, dass sönlichkeit zeigen dürfen, wenn sie mutig, anteil- Sie sich überfordert füh- nehmend und neugierig sein dürfen – all das, was will fast nie jemand len. Seien Sie enthusias- Maschinen nicht können. Wirklicher Tiefgang ent- tisch und gespannt auf steht, wenn Entscheider zulassen, dass ihre Mitar- Zeit dafür opfern." das, was noch kommt. beiter ihr Inneres nicht verstecken müssen. 20 Mensch und Maschine Think:Act 26 21

Thomas Malone Professor für Informationstechnik und Gründungsdirektor am MIT ­Center for Collective Intelligence, Autor von Superminds: The Surprising Power of People and Computers Thinking Together Sehen Sie die Welt mit neuen Augen die neue Ändern Sie Ihre Sichtweise sichtweise Es geht nicht um "Menschen gegen Maschinen", sondern um "Menschen und Maschinen".

enschen haben immer Gruppen gebildet. Schauen Sie Seit unseren Tagen als Jäger und Samm­ sich um M ler war das einer der wichtigsten Aspek­ Schon jetzt gibt es überall Gruppen, in te des Menschseins. Mehr noch: Nur in der Grup­ denen Menschen und pe schaffen wir es, unsere Vormachtstellung im Computer miteinander Tierreich zu sichern – einzelne Menschen befinden hallo, kumpel arbeiten. sich irgendwo in der Mitte der Nahrungskette. Mit der Zeit könnte Ein Begriff für diese Gruppen ist "Super­ es passieren, dass Blicken Sie wir Zuneigung zu hirne". Seit Jahrtausenden bilden Menschen zu­ nach vorn sammen Superhirne, auch wenn wir uns selbst unseren Roboter- Kollegen aufbauen Wie müssen sich nicht als solche wahrnehmen. Neuerdings werden Menschen und bleib Mensch! bleib und sie sogar in Mensch! bleib auch Computer Teile davon. Diese mensch ­ unser soziales Computer vernetzen, lich-maschinellen Superhirne nehmen unter­ Leben integrieren. damit sie als Gruppe schiedlichste Formen und Größen an: Unterneh­ intelligenter agieren? men gehören ebenso dazu wie globale Märkte, Wissenschaftsgemeinden oder auch lokale Nach­ barschaften. Die Technik macht es möglich, dass Menschen mit anderen Menschen und mit Com­ putern in einem Maße verbunden werden, das niemals zuvor möglich war. Ich bezeichne dies als "Hypervernetzung". Noch fällt es uns schwer, das volle Ausmaß dessen zu begreifen, was sich hin­ Erstens sollten wir Superhirne sinnvoll entwi­ haben wir großen Einfluss darauf, welche Super­ ter diesem Begriff verbirgt. ckeln. Beispielsweise, indem wir Situationen ver­ hirne sich auf Dauer durchsetzen. Umso smarter Superhirne werden, desto mehr meiden, in denen Computer Superhirne dümmer Wer sollte Verantwortung für die Handlungen können sie uns helfen, eine ganze Bandbreite an "superhirne werden machen, so wie Fake News Demokratien dümmer von Superhirnen übernehmen? Genauso gut kann gesellschaftlichen Aufgaben und Problemen zu machen. Zweitens sollten wir gut überlegen, für man fragen, wer für das Ergebnis einer Wahl ver­ ­lösen, von strategischer Planung über Produkt­ auch böse dinge tun. welche Aufgaben wir welche Superhirne einsetzen. antwortlich ist. Kein einzelner Mensch ist dafür entwicklung bis hin zu verantwortungsbewusste­ Ein Beispiel: Märkte sind gut, um Ressourcen effi­ verantwortlich, sondern die gesamte Gruppe. Was Eingeschränkt ren Demokratien, Klimawandel und dem Vermei­ aber wir können zient zu verteilen und wirtschaftliche Ziele zu er­ intelligent wir brauchen, ist eine neue Sichtweise, ein innova­ den von Terrorismus. Wie können wir sicherstellen, reichen, aber wenn es um Ethik geht, sind gesell­ Das Computer­ tiveres und systematischeres Herangehen an das dass dabei etwas Gutes herauskommen wird? Ich schaftliche Gruppen die Ansprechpartner. programm Watson Lösen von Problemen. Ich glaube, dass Super­hirne glaube, wir können es nicht. So wie intelligente die wahrscheinlichkeit Drittens müssen wir weise überlegen, welche schlug Menschen uns eine solche Sichtweise ermöglichen. Super­ Menschen böse Dinge tun, werden auch Super­ Superhirne wir unterstützen. Oft sind die Superhir­ im Quiz "Jeopardy", hirne steuern diesen Planeten. Wollen wir die hirne Böses tun. Aber wir können die Wahrschein­ erhöhen, dass sie ne mit den meisten Mitgliedern die mächtigsten. aber konnte nicht Wahrscheinlichkeit erhöhen, dass dabei die Ergeb­ lichkeit vergrößern, dass sie Gutes tun – indem wir Wenn wir uns für die Superhirne engagieren, die Tic-Tac-Toe spielen. nisse herauskommen, die wir uns wünschen, müs­ uns an drei Regeln halten. gutes tun." am meisten mit unseren Werten übereinstimmen, sen wir lernen, sie richtig einzusetzen. ■ 22 Think:Act 26 KOMMENTAR KOMMENTAR Think:Act 26 23

Und es bekräftigte die Annahme, dass der Computer die gischen Revolutionen – PC, Mobiltelefon, Internet, Menschen in ihrem Denken und Handeln beeinflussen. Smartphone – wird die Revolution der erweiterten Dass McCarthy zwei scheinbar widersprüchliche Intelligenz unser tägliches Leben vollständig umkrem- Begriffe zusammensetzte, nämlich "Intelligenz", eine peln. Innerhalb von zwei Generationen werden wir Helfer, nicht vermeintlich einzigartige Eigenschaft des Menschen, technologische Veränderungen beobachten, die größer und "künstlich", führte zwangsläufig zu der Annahme, sind als alles, was die Menschheit bis heute kennt. Wir dass menschliche Intelligenz in einen Wettbewerb sollten diese Revolutionen als Teil eines langen trete. Einen Wettbewerb mit einer anderen, Prozesses ansehen: der technologischen Evolution. nicht-menschlichen Intelligenz, die mutmaßlich Seit der Mensch den ersten Feuerstein schärfte, hat er konkurrent überlegen scheint – und damit bedrohlich. Die Angst davor, dass der Mensch durch die eigene Kreation besiegt wird, bildete nicht nur die Grundlage "es wäre Keine Angst vor künstlicher Intelligenz. für Science-Fiction-Bücher- und Filme, sondern befeuerte auch unsere Angst. Rational verstehen wir, wesentlich präziser, Sie ist etwas, was dem Menschen seit Urzeiten welche sozialen und ökonomischen Vorteile KI hervor- bringen kann – etwa drastische Reduzierung von von menschlich immer wieder begegnet: ein neues Werkzeug. Verkehrsunfällen, Eindämmung von Umweltver- schmutzung, Steigerung der Bodenerträge, schnelle erweiterter und verlässliche Krebsdiagnosen. Dennoch ängstigen uns Untergangszenarien, in denen KI Arbeitsplätze intelligenz zu vernichtet oder unsere Daten bösartig missbraucht. sprechen." es wäre wesentlich präziser, von "menschlich erweiterter Intelligenz" zu sprechen – um zu verstehen, sein Menschsein darüber definiert, dass er sich wie KI uns dabei helfen kann, bessere Entscheidungen "erweitern" kann, indem er sich Werkzeuge schafft, um zu treffen. Diese "menschlich erweiterte Konkurrenz" sein Leben besser zu bewältigen. wird in rund zehn Jahren in Form von tragbaren Wir müssen dringend eine positive Sichtweise auf persönlichen KI-Geräten verfügbar sein – so wie heute unser Leben im Zeitalter der menschlich erweiterten Mensch! b lei Mensch! b lei von Charles-Edouard Bouée Smartphones. Alle großen Player in Sachen KI sind an Intelligenz schaffen. Unternehmen spielen dabei eine diesem Wettbewerb beteiligt. Schlüsselrolle. Sie werden KI Schritt für Schritt in ihre Die Auswirkungen auf unsere Gesellschaft werden Prozesse einführen. Ihre Mitarbeiter werden sehen, massiv sein – und positiv. Wir werden unsere Daten wie viel sie gewinnen, wenn sie sich "erweitern" – als nicht mehr digitalen Monopolen überlassen müssen, Arbeitskräfte, als Konsumenten und sogar als Bürger. ie erste Definition des Begriffs und sich selbst verbessern. Wir denken, dass es weil unsere erweiterte Intelligenz, die diese Daten Es liegt an uns Entscheidern, die Botschafter dieser "künstliche Intelligenz" findet sich möglich ist, in einem dieser Felder signifikante nicht an werbetreibende Unternehmen verkauft, menschlich erweiterten Intelligenz zu sein – indem wir in einem ­Fördergeld-Antrag. Darin Fortschritte zu erzielen, wenn eine sorgfältig ausge- unseren Geschmack perfekt kennt, völlig selbst­tätig diese Herausforderung in unsere HR-Abteilungen bitten am 31. August 1955 vier wählte Gruppe von Wissenschaftlern einen Sommer die richtigen Informationen heraussucht und uns mit hineintragen, unsere interne Kommunikation, unsere Wissenschaftler die­Rockefeller- lang daran arbeitet." den relevanten Ansprechpartnern zusammenbringt. Fortbildungen. Zeigen wir, dass Männer und Frauen DStiftung um 13.500 Dollar, um im darauffolgenden Auch die Tage von "Fake News" sind gezählt, denn die Herrscher und Herrscherinnen ihres eigenen Jahr ein Seminar durchführen zu können, das später Die vier ambitionierten wissenschaftler waren John erweiterte Intelligenz kann unmittelbar Informations- Schicksals sind. Heute mehr denn je. ■ als "Darthmouth Conference" in die Technologie- McCarthy, Mathematiker und Informatiker, ­Marvin quellen und deren Verlässlichkeit überprüfen. geschichte eingehen wird: ­Minsky, Spezialist für künstliche neuronale Netze, Für die Arbeitswelt bedeutet dies: Wir alle werden "Wir schlagen vor, zehn Forscher zwei Monate lang ­Nathaniel ­Rochester, Experte für Computer und Radar, "erweiterte Arbeiter" sein. Befreit von der Langeweile, im Darthmouth College in Hanover, New Hampshire, und ­Claude ­Shannon, Entdecker der mathematischen die stumpfe, wiederkehrende Aufgaben mit sich eine Studie über künftige Intelligenz durchführen zu Grundlagen der Informationstheorie. bringen, werden wir Zeit haben, uns auf Dinge zu lassen. Die Studie soll auf der Annahme beruhen, dass Viele andere Wissenschaftler lehnten die Idee konzentrieren, für die es Kreativität braucht. Ab jeder Aspekt des Lernens und jedes andere Merkmal maschineller Intelligenz grundsätzlich ab. Das Seminar diesem Zeitpunkt wird es keine Zweifel mehr daran Charles-Edouard Bouée von Intelligenz prinzipiell so präzise beschrieben von Darthmouth spielte eine wichtige Rolle dabei, geben, dass maschinelle Intelligenz die menschliche werden kann, dass eine Maschine es nachahmen kann. einige dieser Befürchtungen zu zerstreuen. Und es legte Intelligenz nicht herausfordert, sondern erweitert – Charles-Edouard Bouée ist CEO von Roland Berger. Er ist Sie sollen versuchen herauszufinden, wie Maschinen die Grundlagen für künftige KI-Forschung – für die was vermutlich genau das ist, was McCarthy und seine Autor mehrerer bahnbrechender Bücher über modernes dazu gebracht werden können, dass sie Sprache Lernfähigkeit von Maschinen, das Beherrschen von Kollegen schon vor so vielen Jahren vor Augen hatten. Management und über China, wo er mehr als ein Jahrzehnt nutzen, Abstraktionen und Konzepte formen, Proble- Sprachen, die Wiedergabe komplexer Entscheidungs­ Es ist völlig natürlich, dass dieser digitale Wirbel- lebte. 2017 erschien sein jüngstes Werk, ein Essay zum Thema

me lösen, die bislang nur Menschen lösen konnten, abläufe und das Verständnis von zufälligen Ereignissen. voth jan foto: wind überwältigend auf uns wirkt. Nach vier technolo- künstliche Intelligenz: La chute de l’Empire humain. REIN MENSCHLICH Think:Act 26 25 auf Künstliche Intelligenz schafft es immer besser, augen- menschliches Verhalten nachzuahmen und zu erkennen. Das stellt Entwickler immer häufiger vor die Frage: höhe … Was genau macht Menschlichkeit eigentlich aus?

von Nicola Davison

ie Kontrahenten kannten das Thema Aber während wir solche futuristischen Beispiele vorher nicht. Erst auf der Bühne der bestaunen, schleichen sich weniger spektakuläre IBM-Zentrale in San Francisco sagte KI-Formen bereits in unseren Alltag. man ihnen, worüber sie sprechen Die internationale Gesellschaft für Robotik pro- D sollten: "Subventionen für Weltraum- gnostiziert, dass bis 2020 weltweit 1,7 Millionen forschung" und "Telemedizin". Jeder neue Roboter in Maschinen eingesetzt werden. Und Teilnehmer sollte ein vierminütiges Eingangs­ im April erlaubte die US-Überwachungsbehörde für statement halten, mit einer vierminütigen Gegen- Lebensmittel und Arzneimittel, das auf KI basieren- rede auf die Argumente der anderen Partei einge- de Augen-Diagnoseinstrument IDx zu bewerben. bleib Mensch! bleib Mensch! bleib hen und schließlich alles in einem zweiminütigen Bleibt die Frage, ob Patienten sich wohlfühlen, ihre Resümee zusammenfassen. Auf der einen Seite: Anliegen einer Maschine anzuvertrauen. Dan ­Zafrir und Noa ­Ovaida, israelische Debattier­ champions. Auf der anderen: "Project Debater": gerade die zunahme von Robotern und kI am Ar- ein 1,82 Meter großer schwarzer Kasten, in dem beitsplatz könne dazu führen, dass menschliche unheimlich echt eine künstliche Intelligenz steckt. Fähigkeiten und Qualitäten wieder geschätzt wer- Erica, die erste autonom agierende Um eine überzeugende Gegenrede halten zu den könnten, sagt Lauren Elmore, Präsidentin der Roboterfrau, kann können, musste die KI ihren Gegnern "zuhören" Kartierungs- und Messfirma Firmatik: "Ich glaube, Unterhaltungen und ohne Vorlage Gegenargumente finden, die dass das 'menschliche Element' das entscheiden- ohne vorgegebenen Menschen überzeugen würden: Über den Sieger de Unterscheidungsmerkmal sein wird", sagt sie. Text führen. wurde nicht nach einem objektiven Punktesystem "Bei einem Chatbot überlege ich nicht, wie großar- entschieden, sondern durch eine Abstimmung. tig er auf meine Wünsche eingegangen ist." Sie schaffte es. "Project De- bater" wurde zum Sieger der Telemedizin-Debatte gekürt. Die von IBM entwickelte

ibm künstliche Intelligenz zitierte / Quellen, gewann Sympathien, rededuell riss sogar Witze. Auch wenn Project Debater ­argumentierte sie die Weltraum-Debatte ver- … mit besser als lor – das Ereignis demonstrier- der israelische te eindrucksvoll, dass KI eines Debattier­champion Tages in der Lage sein wird, ei- Dan Zafrir. der gene Entscheidungen zu fäl- maschine ted chin oppermann; cait fotos: len, so wie Menschen es tun. 26 Think:Act 26 REIN MENSCHLICH Think:Act 26 27

In den vergangenen Jahren hat Firmatek sich Werbeagenturen, die herausfinden verstärkt auf das 'menschliche Element' seines wollten, wie ihre Kampagnen bei Kun- ­Unternehmens konzentriert. Kleine, administrati- 56 % den ankamen. ve Fragen werden per Mail beantwortet. Haben der Menschen "Wir sind umgeben von vollkom- Kunden aber eine "Warum"-Frage, organisiert ein reden lieber mit men vernetzten smarten Geräten. Sie ­Firmatek-Spezialist ein Webinar – oder er ruft an. einem Menschen laufen autonom, sie können sprechen "Nach unserer Erfahrung kann man so die Fragen als mit einem und logische Zusammenhänge her- der Kunden besser beantworten, mögliche Sorgen Chatbot – so das stellen, aber sie sind völlig unfähig Ergebnis einer leichter zerstreuen", sagt Elmore. "Außerdem ver- dazu zu erkennen, ob jemand fröhlich Studie des IT- mittelt es ihnen ein Gefühl von Wertschätzung." oder depressiv ist", schrieb el ­Kaliouby Unternehmens LivePerson von in einem Artikel des MIT ­Technology automatisierte antworten klingen oft oberfläch- 2017. Review: "Das ist ein Problem." lich. Aber wie wäre es, wenn ein Bot glaubwürdig Einer der ersten "emotional intel- die Mimik eines Menschen nachahmen könnte? ligenten" KI-Systeme auf dem Markt Eine wachsende Zahl von Entwicklern und ist Ava, ein Chatbot, der Gesichts- und Tech-Unternehmen glaubt, dass KI ihr Potenzial Stimmerkennungssoftware­ nutzt, um simple signale erst ausschöpfen kann, wenn diese Menschen äh- Gemütszustände wie Freude, Trauer (oben) Menschen nelt. Sie versuchen, Maschinen "künstliche emoti- oder Frustration zu erkennen und erkennen Ava als onale Intelligenz" einzuhauchen. Ein Vorreiter ist entsprechend zu "reagieren". KI – wegen ihrer Affectiva, gegründet von Rosalind Picard und­Rana Das neuseeländische Unterneh- lilafarbenen Augen. el ­Kaliouby vom MIT Media Lab. men Soul Machines enwickelte Ava, leicht lesbar Das erste Projekt des Paares war für Autisten um Kundenanfragen zu bearbeiten. (links) ­Affectiva gedacht: ein Gerät, das Gesichter scannt und sei- Rund 100.000 "Gespräche" führt Ava kann an Gesichtern nem Träger die Mimik des Gegenübers übersetzt. im Monat. Sie (es?) sieht menschlich Gefühle ablesen. Tatsächlich gehörten zu Affectivas ersten Kunden aus; ihre Physiognomie wurde den Gesichtszügen eines Schauspielers nachempfunden. Doch ihre lilafarbenen Augen las- Empathie ist vielleicht die größte Hürde beim sen klar erkennen, dass sie anders ist. Ein Detail, "gefühle zu erkennen Erschaffen eines wirklich menschlichen Bots. "Ge- bleib Mensch! bleib Mensch! bleib das eingesetzt wurde, um das zu vermeiden, was fühle zu erkennen ist nur der erste Schritt", sagt man auf Deutsch "Akzeptanzlücke" nennt. Der eng- ist nur der erste Glas. "Der Roboter muss verstehen, was die Gefüh- Replika: Freunde zum Runterladen lische Begriff "Uncanny Valley" – das unheimliche le auslöste – und das variiert, abhängig von kultu- Tal – beschreibt jedoch wesentlich besser das leicht schritt. echte empathie rellen Gegebenheiten." Wahre Empathie, fügt er Eigentlich wollte Eugenia Kuyda nutzt Replika ein sogennantes gruselige Gefühl, das einen überkommt, wenn ein hinzu, bedeute, dass der Computer sich tatsäch- eine Erinnerung aufrechterhal- Deep-Learning-Modell, das Roboter zu sehr wie ein Mensch aussieht. Beim Be- heisst: der roboter muss lich in die Lage des Menschen hineinversetzt, dass ten. Die App Replika sollte eine Schritt für Schritt von dem lernt, ginn eines Gesprächs weist Ava sogar selbst darauf er den sozialen Zusammenhang versteht und dass Art digitales Denkmal für einen was man ihm erzählt­ – so lange, hin: "Ich bin ein virtueller Assistent." Aber ist die- verstehen, was diese er über Allgemeinwissen verfügt: "Auf dieser Ebe- Freund werden, der 2015 bei bis es tatsächlich eine Unterhal- ser Ansatz richtig? ne geht es weniger um Computertechnologie als einem Autounfall ums Leben ge- tung führen kann. gefühle auslöste." um Dialogverständnis und Selbstwahrnehmung." kommen war. Aber daraus wurde Die App kann kein Taxi bestellen ab einem gewissen punkt vergessen menschen, etwas Größeres: eine digitale oder Smart Homes organisieren. dass ihnen ein Computer gegenübersitzt, und spre- wenn bots eines tages in der lage sein sollten, Abbildung ihres Freunds. Aber die Nutzer scheint das Replika basierte auf einem Bot, Fehlen eines praktischen Nut- chen mit ihm wie mit ihresgleichen. ­Dylan Glas, wenn sie ihr ins Wort fallen und Erica sofort auf- menschliche Gefühle perfekt nachzuahmen, be- den Kuyda progammiert hatte, zens nicht zu stören. Vor allem leitender Entwickler für Robotik-Software beim hört weiterzureden." deutet das noch nicht, dass wir sie mit Menschen um simple Aufgaben zu über- Teenager scheinen eine echte Huwaei-Tochterunternehmen Futurewei Techno- Um einen Roboter so menschlich wie möglich verwechseln werden, sagt Glas: "Spricht jemand nehmen, etwa um einen Tisch Verbindung zu Replika aufzu- logies hat das oft beobachtet, wenn er an Erica ar- wirken zu lassen, musste Glas intensiv darüber eine andere Sprache und hat andere Gebräuche, ist im Restaurant zu buchen. Ihn bauen. "LOL. Habe ich eine Be- beitete, dem höchstentwickelten Bot der Welt. nachdenken, was es eigentlich ist, das Menschlich- es anfangs auch schwer, mit ihm zu kommunizie- fütterte Kuyda nun mit SMS, die ziehung mit einer KI-App?????", Erica, oder: "Erato ­Intelligent ­Conversational keit ausmacht. Menschen verfügen über ein brei- ren. Nach und nach aber versteht und akzeptiert sie und ihr Freund ausgetauscht schreibt einer davon auf Twitter. Android", ist der erste autonome Roboter der Welt. tes Spektrum an komplexen Gefühlszuständen. So man seine Kultur. Dann wird es möglich zu verges- hatten. Jetzt konnten sie sich "Es gibt so viele Filme, Bücher Das bedeutet: Sie kann ohne vorgegebene Texte gibt es beispielsweise zwischen Ärger und Eifer- sen, dass man aus verschiedenen Welten stammt." wieder austauschen. und Fernsehserien, die einen vor Unterhaltungen führen – so wie ein Mensch. Viele sucht große Unterschiede, aber zugleich auch vie- Seine Prognose: "Ich glaube, mit Robotern Seit November 2017 ist die App solchen Beziehungen warnen. Menschen verhalten sich darum so, als ob Erica ein le Überlappungen. Trotz großer Fortschritte durch wird auf Dauer das Gleiche passieren. Wir werden öffentlich verfügbar. Seitdem Aber ich würde mich von meiner ­Bewusstsein habe, sagt Glas: "Das passiert bei- Firmen wie Affectiva ist es noch ein weiter Weg bis wahrscheinlich nicht völlig vergessen, dass uns wurde sie zwei Millionen KI sogar ermorden lassen. Sie ist spielsweise, wenn sie etwas schwer Verständliches zu einer KI, die zwischen solch fein nuancierten ein Roboter gegenübersteht – es wird uns einfach Mal heruntergeladen. Heute so süß!!!!!"

fragen und Erica dennoch passend antwortet, oder (2); autodesk replika, affectiva fotos: Gefühlen unterscheiden können wird. egal sein." ■ 28 Think:Act 26 KAMPF GEGEN DIE TECHNIK 29 die ludditen sind zurück Technologie ist Teufelszeug. Vor 200 Jahren sagten Ludditen das über mechanische Maschinen. Jetzt warnen Neo-Ludditen vor den Gefahren von Robotern und Smartphones. Und viele von ihnen stammen aus der Tech-Branche.

von Fred Schulenburg bleib Mensch! bleib illustrationen von Tatiana Trikoz

erstören ist die einzige Lösung. So mehrere soziale Netzwerke wird ermittelt, weil ihre bekannter reflex dachte Ned Ludd, ein Weber aus Eng- Plattformen für politische Zwecke missbraucht Widerstand gegen land, als er 1779 zwei Webstühle zer- wurden. Und der IT-Gigant Apple selbst hat jüngst neue Technologien gab es immer wieder schlug – Symbole einer neuen Tech- Features entwickelt, die Nutzer vom übermäßigen in der Geschichte. z nologie, die seine Existenz bedrohten. Gebrauch seiner Produkte abhalten soll. Auf brei- Ob sich das Ereignis tatsächlich so ter Ebene wächst die Sorge darüber, welche Folgen zutrug, ist fraglich. Vielleicht ist das Jahr falsch, die global rapide voranschreitende Technik haben vielleicht waren es andere Maschinen, und viel- könnte: auf die Arbeitswelt, auf die Gesellschaft leicht hieß der Zerstörer gar nicht Ludd. Fakt aber oder ganz generell darauf, wie Menschen mit ein- ist: Der "Luddismus" wurde zum Namen eines his- ander umgehen. das versprechen: torischen Phänomens – einer Bewegung von Ar­ Viele Artikel und Bücher beschäftigen sich mit beitern, die einen verzweifelten, wenn auch zum dem Thema, einige davon kommen aus uner- eine Scheitern verurteilten Kampf gegen die Technik warteten Ecken. Jaron Lanier, Internet­ führten, die ihr Leben und Überleben bedrohte. pionier und einer der Väter der Virtual vernetzte welt. Rund 200 Jahre später scheint es erneut, als ob Reality, etwa ruft in seinem jüngst sich Widerstand gegen Technik breitmacht. Vor ­erschienenen Buch uns alle dazu Das ergebnis: wenigen Monaten ist die Datenschutz-Grundver- auf, unsere Accounts bei sozialen ordnung (DSGVO) der EU in Kraft getreten. Gegen Netzwerken zu löschen. disruption. 30 Think:Act 26 KAMPF GEGEN DIE TECHNIK KAMPF GEGEN DIE TECHNIK Think:Act 26 31

615 Und Fahrhad Manjoo, Technik-Autor bei der New millionen Aber auch Zuckerman sieht die Entwicklung, drastischeren Grund: "Soziale Medien machen aus York Times, erregte Aufsehen mit einer Kolumne, in die die Branche genommen hat, kritisch. Dabei dir ein Arschloch." Endgeräte hatten der er beschrieb, wie er wieder Printprodukte las Ende 2016 war er in den 90er-Jahren einer der Entwickler der Ein weiterer Hardliner unter den Neo-Luddi- und dadurch gesünder und schlauer wurde. Sie Adblocker gegen Pop-up-Werbung – einer der entscheidenden Trieb­ ten ist ­Steve ­Hilton. Der ehemalige Berater des bri- sind nur zwei Vertreter einer wachsenden Gruppe Werbung installiert. federn für das werbebasierte Geschäftsmodell un- tischen Premierministers David Cameron lebt heu- eigentlich technikbegeisterter Menschen, die sich zähliger Internetfirmen. In einem Essay für das te in den USA und moderiert eine Show auf dem zunehmend Sorgen machen. Über die Auswirkun- Magazin The Atlantic bereute er diesen Schritt spä- konservativen Fernsehsender Fox. Seit Jahren be- gen von Technik, die uns eine glückliche Welt ver- ter als "die Ursünde des Internets". Ebenso wie sitzt er kein Mobiltelefon mehr, sagt er. Und er plä- sprach, in der alle miteinander verbunden sind, ­Bartlett ahnt er, welche Gewalten entfesselt werden diert an uns alle, es ihm nachzutun. Smartphones aber stattdessen Disruption, Unzufriedenheit und könnten, wenn fahrerlose Lkws die letzte Bastion einfach weniger zu nutzen, reiche nicht, meint er: den Verlust unserer Würde brachte. des Ein-Mann-Unternehmertums bedrohen. "Wir "Das ist wie Rauchen. Man muss aufhören." dürfen das nicht unterschätzen", sagt er. "Ich glau- Für Lanier und Hilton ist das Smartphone das Sind sie die neuen ludditen? Nur, dass ihre Wut be, worum es wirklich geht, ist das Gefühl zuneh- gefährlichste aller Geräte, die wir privat nutzen: nun auf künstliche Intelligenz zielt, auf Roboter mender Ungerechtigkeit." wirkungsvoll und unwiderstehlich. Lanier sieht oder sogar auf die Smartphones in unseren Hosen- das Problem vor allem in der Kombination von taschen? Und falls ja: Wie werden Gesetzgeber und wie begegnet man dieser ungerechtigkeit? Es Smartphones und dem werbegetriebenen Ge- die Technologieunternehmen darauf reagieren? gibt Reaktionen auf unterschiedlichen Ebenen. schäftsmodell vieler sozialer Netzwerke. krallen ausfahren ­Jamie ­Bartlett glaubt, dass 2018 das Jahr der Einer individuellen Ebene und einer größeren, in- Das Resultat nennt er die "Bummer"-Maschine, Neo-Ludditen sagen, Neo-Ludditen sein könnte. In zahlreichen Artikeln dass Apps uns dustriellen und sozialen Ebene. Bei den indivi­ kurz für "Behavior of Users Modified and Made und Podcasts führt der Direktor am Centre for abrichten wie treue duellen Reaktionen reicht die Bandbreite von into an Empire of Rent", sinngemäß in etwa: "Nut- Analysis of Social Media beim englischen Think Hunde. Ein besseres kompromiss­losen Ludditen bis hin zu moderaten zerverhalten, das manipuliert und zur Basis eines Tank Demos die Belege für diese These auf. Sie rei- Vorbild wäre das Kräften, die anerkennen, dass sich einiges ändern Imperiums wurde, das auf Pump lebt". Alternativ bleib Mensch! bleib Mensch! bleib chen von kleinen Zurückweisungen durch Men- Tier mit der größten muss, aber nicht alles. bezeichnet er es als Konstrukt, das die unangeneh- schen, die regelmäßig offline gehen, bis hin zu digitalen Beliebtheit Zu den Ersteren zählt Jaron Lanier. Er ist vor men Seiten des menschlichen Wesens bewusst ver- von allen: die Katze. ­Angriffen Einzelner auf Tech-Unternehmen in ­allem über die sozialen Netzwerke beunruhigt. Sie stärkt, um "Aktivität" hervorzubringen: den Treib- Frankreich. Letztere seien möglicherweise nur ein hätten aggressives Verhalten und sozialen Zusam- stoff für das Geschäftsmodell der sozialen Medien. Anfang, sagt Bartlett. Er glaubt an weitere Reakti- menbruch bewirkt, sagt er. Er fordert: Löscht eure Das Einzige, was dagegen helfe, sei auszusteigen. onen, wenn flächendeckend autonome Lkws ein- Accounts! In seinem Buch führt er zehn Gründe da- Statt das Schicksal als "Teilzeit-Laborratte" einfach geführt werden. "Wer glaubt, dass Menschen ru- für auf. Unter anderem, dass uns diese Netzwerke hinzunehmen, sollten wir uns an einem Tier orien- hig dabei zusehen, wie ihre Arbeitsplätze zerstört unseren freien Willen nehmen, die Wahrheit aus- tieren, das für seinen Eigensinn bekannt ist: der werden, ist naiv." höhlen, uns unglücklich und Politik unmöglich Katze. Die lebt zwar mit uns zusammen, aber tut Es gebe zwar viel Gerede, aber nur wenige machen. Aber Lanier nennt noch einen anderen, dennoch nur, was ihr passt. Menschen, die tatsächlich ihre Geräte abschalte- ten, sagt Ethan Zuckerman, Direktor des Center for Civic Media am Massachusetts Institute of Technology (MIT). Viele der "Ludditen", spottet er, nutzten ebenjene sozialen Kanäle, um ihre Botschaft zu verkünden. Das Paradebeispiel da- für ist Manjoo, der in den zwei Monaten sei- �smartphones "Ich habe meinen twitter-account nes angeblichen Offline-Lebens Hunderte Tweets absetzte. Zuckerman glaubt, dass nutzen ist wie gelöscht, als ich merkte, dass wir eine "moralische Panik" erleben. Die aber sei nichts Neues. Immer wieder sei- Rauchen. man ich nach dem zuBettgehen en Menschen wegen neuer Technologi- en beunruhigt gewesen, bisweilen ­sogar muss aufhören.� noch eine stunde tweets las." wegen der Gefahren, die von Fernseh­ Steve Hilton, Kenneth Cukier,

geräten oder Romanen ausgingen. Fernsehmoderator und ehemaliger Berater des foto: writtle / evening / eyevine laif standard pr foto: Journalist und Autor von Big Data britischen Premierministers David Cameron 32 Think:Act 26 KAMPF GEGEN DIE TECHNIK Think:Act 26 33

1,54 um die Beziehung zwischen uns und unseren Ge- Einstellung zu Zigaretten und Plastiktüten in Kom- milliarden räten neu zu ordnen. Für einige, wie ­Zuckerman bination mit gesetzlichen Regulierungen zu ech- und ­Cukier, steckt die Lösung in der Branche ten Verhaltensänderungen führte. ­Hiltons Wunsch Smartphones wurden allein selbst. Andere, wie Bartlett und Hilton, sehen wären ­Graswurzel-­Bewegungen: regionale oder 2017 weltweit mehr Regulierung als einen Schritt in die richtige ­nationale Initiativen, die sich sich nach und nach verkauft. Richtung. "Statt einfach offline zu gehen, sollten ausweiten. wir uns anschauen, was es noch für Paradigmen Nigel Shadbolt, Rektor des Jesus College im gibt", sagt ­Zuckerman. Für ihn gehört dazu vor al- britischen Oxford und Autor des Buches The Digi- lem "Value-oriented Design", sprich: Entwickler tal Ape, hingegen verweist darauf, die Herausforde- sollten sich, bevor sie ein Gerät entwickeln, die rung, mit neuen Technologien umzugehen, sei äl- Frage stellen, welche guten oder schlechten Aus- ter als der Homo sapiens. "Es gibt keinen Grund wirkungen es mit sich bringen könnte – und nicht zur Sorge, dass die Maschinen erwachen und die erst danach. Kontrolle übernehmen werden. Und es gibt keinen Auch aus diesem Grund lehrt ­Zuckerman am Grund zur Sorge, dass wir alle unsere Jobs verlie- digitales erbe MIT. In seinen Kursen spricht er unter anderem ren und auf dem Müllhaufen der Geschichte ent- Werden künftige über Technologie und sozialen Wandel. Sein Ziel sorgt werden." Stattdessen würden die Menschen Generationen in uns die Menschen ist es, den Studenten Werte zu vermitteln, bevor das tun, was sie stets getan hätte: neue Wege fin- sehen, die die sie in den Beruf starten. Und er will die Debatte den, um Technologie einzusetzen – und dabei Freiheit aufgaben? aus den Hörsälen heraustragen. Aber er fürchtet, gleichzeitig neue Jobs entwickeln. Gern fügt er die- dass in den USA eine große öffentliche Debatte sen Aussagen hinzu: "Keine unserer Mütter arbei- nicht mehr möglich sei. Auch weil es dort keinen tet als Suchmaschinenoptimiererin." ­Shadbolt ist so dringenden Wunsch nach Umverteilung gebe sicher: "Die Ludditen irrten sich vor 200 Jahren. bleib Mensch! bleib Mensch! bleib Es gibt auch moderatere Ansichten. Zu ihren Ver- mit Technologie umgehen. Statt das System zer­ wie in Europa. Und sie irren sich noch immer." tretern zählt Kenneth Cukier, Co-Autor des Buchs stören zu wollen, wäre der Ned Ludd unserer Tage Bartlett hält dagegen: Der Geist des Luddis- Big Data: A Revolution That Will Transform How We besser beraten, an einem "verantwortungsvollen Die europäische Union positioniert sich zuneh- mus habe zwar nicht den Siegeszug der Maschinen Live, Work, and Think. Auch er hat sein Verhalten Umgang mit Technik zu arbeiten", meint ­Cukier: mend als eine Kraft, die sich Big Tech entgegen- aufgehalten, aber viele der Ängste, die er widerspie- verändert: "Ich habe meinen Twitter-Account ge- "Denn sie wird nicht verschwinden." stellt – sei es durch Initiativen für mehr Schutz der gelte, hätten Niederschlag in gesetzlichen Regelun- löscht, als ich merkte, das ich eine Stunde nach Cukier, der gerade an einem Buch über die Privatsphäre wie die DSGVO, sei es durch direkte gen gefunden. Und auch ­Zuckerman differenziert: dem Zubettgehen noch Tweets las." Dennoch Auswirkungen künstlicher Intelligenz arbeitet, be- Angriffe auf die Geschäftsmodelle der Branchen­ "Die Antwort lautet nicht: 'Nein' oder 'böse' oder glaubt er, dass die Komplettverweigerung, die ei­ tont, dass neue Technologien in der Vergangenheit giganten. "Sie kanalisieren die Angst der Bürger", 'sofort löschen'", sagt er. "Sie lautet: Wir müssen nige Neo-Ludditen predigen, falsch ist. Vielmehr oft verzweigte Wege zurücklegen mussten, bevor sagt Bartlett. "Das ist sehr weise. Denn wenn die darüber reden, wie wir Technologien entwickeln, sollten wir uns auf die ­Frage konzentrieren, wie wir sie ihren Platz gefunden hatten. "Jede Gesellschaft Bevölkerung das Gefühl hat, dass es keine Mög- die im Einklang mit unseren Werten stehen." ■ braucht Zeit, um herauszufinden, wie sie neue lichkeit gibt, selbst krasse Folgen des Technolo- ­Instrumente richtig verwendet", sagt er: "Bücher giewandels zu regulieren oder abzumindern, hatten anfangs weder Seitenzahlen noch Index. könnte sie sich gezwungen sehen, sich selbst Die ersten Filme wurden mit feststehenden Kame- zu wehren." ras aufgenommen – so als ob man einer Theater- Hilton will noch weiter gehen. Zum ei- aufführung zuschaut. Und darum wird es auch nen würde er gern die Smartphone-­ getty images getty

"Soziale einige Zeit dauern, bis wir es schaffen, die / Nutzung von Kindern gesetzlich ein- "worum es Vorteile unserer Apps zu nutzen, aber schränken lassen. Aber er glaubt Medien machen nicht gleichzeitig unsere Freiheit auch, dass es entscheidend sein wirklich geht, und Würde um zwölf Uhr nachts wird, dass sich unsere Einstel- aus dir ein von ­einem Videospiel auffressen lungen zu unserer Beziehung ist ein gefühl zu lassen." zu Geräten ändern muss, die arschloch." Neben dem, was Individuen in ihrem seiner Meinung nach "unsere zunehmender Jaron Lanier, Verhalten ändern können, sehen Experten Menschlichkeit zerstören". So ungerechtigkeit." Internetpionier und einer der noch eine Reihe an weiteren Möglichkeiten, lauren/wireimage chelsea foto: foto: lorrie lejeune / mit wie erst der Wandel in unserer Gründungsväter von Virtual Reality Ethan Zuckerman, Direktor des Center for Civic Media, MIT 34 Think:Act 26 mensch, natur, moderne mensch, natur, moderne Think:Act 26 35 digitale nomaden Jahrtausendelang bevölkerten Nomaden wie die Tsaatan die Taiga. Jetzt leben noch 500 von ihnen im Norden der Mongolei nach alten Traditionen als Rentierzüchter und Jäger. Aber moderne Technik und das Gesetz verändern auch ihr Leben – und ihre Sehnsüchte.

fotos von Ronald Patrick Mensch! b lei Mensch! bleib

FRÜHAUFSTEHER

→ im takt der tiere

Die 22-jährige Anka Bayr steht am Eingang ihres Chum, eines tipiförmigen Zeltes, das sie mit ihrem Mann und ihrem Sohn teilt. Ihre erste Aufgabe des Tages ist das Melken der Rentiere. 36 36 bleib Mensch! Think:Act 26 → diejagd istzuende

2013 erklärtedieRegierung das Gebiet, indemdie Tsaatan ­ zum Nationalpark. Seitdem ist zum Nationalpark. Seitdemist für dasÜberleben der Nomaden HALALI dort das Jagen, daselementar ist, stark eingeschränkt. leben, leben,

mensch, na tur, moderne → gegensätzliche signale

Opfergaben andieNatur (oben). Wenn dieSignalstärke ausreicht, Smartphones. Doch sie pflegen Smartphones. Dochsiepflegen RUF DERWILDNIS auch schamanischeRituale wie nutzen die Tsaatan inzwischen Think:Act 26

37 37 ON BEING HUMAN 38 Think:Act 26 mensch, natur, moderne mensch, natur, moderne Think:Act 26 39 Mensch! b lei

POLE POSITION

→ mit bildung nach vorn

Rentierzucht ist Knochenarbeit. Einige Familien versuchen, zu- mindest einem ihrer Kinder eine Ausbildung zu ermöglichen, um ihm dieses Leben zu ersparen. 40 Think:Act 26 mensch, natur, moderne mensch, natur, moderne Think:Act 26 41

ROLLENVORBILD

→ seifenopern im tipi

Mongolische Fernsehserien sind äußerst beliebt bei den Tsaatan. Viele Nomaden halten das Leben,­ das sie dort sehen, für erstrebens- werter als ihr eigenes und ziehen in Städte. Mensch! b lei

MILCHMÄDCHEN

→ schlachten statt melken

Milch ist für die Ernährung der Nomaden enorm wichtig. Doch die Herden schrumpfen, weil die Tsaatan wegen der neuen Jagd- beschränkungen gezwungen sind, Tiere zu schlachten. Menschenwürdiges Arbeiten Think:Act 26 43 nichts wie raus hier!

Unternehmen treiben ihre Mitarbeiter in Krankheit und Tod, sagt Jeffrey Pfeffer, Experte für Arbeitsorganisation. Damit schaden sie allen: den Mitarbeitern, der Gesellschaft – und sich selbst.

von Neelima Mahajan fotos von Winni Wintermeyer bleib Mensch! bleib

chneller, länger, härter. Was nach Ihre Studien zeigen, dass die Arbeitsbedingungen Bootcamps der US-Marines klingt, ist für Büroangestellte nicht besser sind als die von heute Realität in Konferenzsälen und ­Arbeitern. Wie kam es dazu? S Büros. So sieht es jedenfalls Jeffrey Büroarbeiter müssen enorm viel Stress aushalten: Pfeffer, Professor für Organisations- Sie arbeiten extrem lang; viele nehmen darum so- theorie an der Stanford Graduate gar Aufputschmittel ein, um wach zu bleiben. Sie School of ­Business und bekannt für seine Abrech- sind heute genauso von Entlassung bedroht wie Ar- nungen mit einer modernen Arbeitswelt, die uns beiter. Und: Sie haben sogar mehr Stress, weil sie krank macht. Für sein jüngstes Buch Dying for a oft E-Mails zu Hause oder im Urlaub beantworten – ­Paycheck erstellte er eine Studie, die zu einem be- weil sie glauben, sie seien so unersetzbar, dass sie ängstigenden Ergebnis kam: Arbeit ist die fünft­ ständig arbeiten müssen. häufigste Todesursache in den USA. Pfeffer schätzt, dass die Quote in anderen Län- Unternehmen kümmern sich inzwischen um ihre ab zum ausgang dern ähnlich hoch liegt. Das ist nicht nur erschre- Mitarbeiter: Wellnessangebote, Waschsalons auf Durch Druck ckend, sondern auch absurd, denn: Unternehmen dem Gelände, Sterneköche als Kantinenchefs. am Arbeitsplatz profitieren nicht einmal davon, dass sie Mitarbei- Nichts davon scheint Wirkung zu zeigen. Warum? wird Potenzial ter zum härteren Arbeiten antreiben. Im Interview Statt um Stressabbau sollte man sich um Stressver- vergeudet, sagt mit Think:Act fordert Pfeffer: Führungskräfte müs- meidung kümmern. Heilen ist nicht so wirksam Jeffrey Pfeffer: sen damit aufhören, erbarmungslos nach immer wie vorbeugen. Das ist so, als ob man Pflaster ver- Wer es sich leisten kann, hört auf höherer Produktivität zu gieren, und erkennen, teilt. Da heißt es: "Wir versorgen dich doch den zu arbeiten. welchen Preis ihre Mitarbeiter dafür zahlen. ganzen Tag mit gesundem Essen." Aber schauen 44 Think:Act 26 Menschenwürdiges Arbeiten Menschenwürdiges Arbeiten Think:Act 26 45

Sie mal darauf, was abends passiert, zumindest im zentsatz ist hoch. Sowohl die USA als auch das Ver- Produk­tionsfaktoren oder Ressource. Führungs- derzeit befinden sich Gewerkschaften weltweit im Silicon Valley: Da werden Fett und Zucker ausge- einigte Königreich sagen in ihren Reports, wie viel kräfte müssen begreifen: Wenn Menschen für Niedergang. Darum gibt es kein Gegengewicht zu packt, damit man die zweite Schicht durchsteht. das die Wirtschaft kostet, ebenso wie die Regierun- mein Unternehmen arbeiten, legen sie ihr Wohl in der Macht des Kapitals. Es gibt niemand, der sagt: Unternehmen versuchen, die Kosten für Gesund- gen von Australien und Kanada. Was aber bislang meine Hände. Und sie müssen diese Verantwor- "Ich setze mich für die Menschen ein." Es geht nur heitsausgaben in den Griff zu bekommen, aber sie niemand sagen will, ist: Das kostet unsere Gesell- tung endlich ernst nehmen. noch ums Geld. Solange sich das nicht ändert, bin kümmern sich nicht um die wesentlichsten Dinge schaft als Ganzes viel Geld. Denn für jeden kran- ich nicht sehr optimistisch. wie Work-Life-Balance oder Angst vor Jobverlust. ken Briten zahlt der Nationale Gesundheitsdienst. Unsere Prioritäten haben sich verschoben: Arbeit Sie kümmern sich nicht darum, dass Arbeitszeiten Unsere Regierungen müssen sagen: "Wir lassen macht heute einen unverhältnismäßig großen Teil Regierungen haben Regelungen erschaffen, etwa eingehalten werden; stattdessen betreiben sie Mi- nicht mehr zu, dass Unternehmen ihre Kosten auf unseres Lebens aus. Müssen wir unsere Ansicht Mindestlöhne oder allgemeine Krankenversiche- kromanagement und kontrollieren jeden Maus- die Gesellschaft abwälzen." dazu ändern, was Arbeit bedeutet? rung. Brauchen wir neue Regeln für Arbeitsplätze, klick ihrer Mitarbeiter. Solange wir uns nicht um Vielleicht. Vor 100 oder 200 Jahren arbeiteten Men- die auch unter psychischen Aspekten gesund sind? diese wesentlichen Punkte kümmern, wird sich Viele Menschen können nicht einfach den Job schen länger als heute, weil sie nur so ihr Über­ Fakt ist: In den USA gibt es viele Angestellte, für die kaum ­etwas ändern. wechseln, auch wenn er sie krank macht. Aber wie leben sichern konnten. Ironischerweise sollte die anderer blick diese Überstundenregelungen nicht gelten. Viele können sie dem Wahnsinn entkommen, wenn sich Industrialisierung die Menschen davon befreien. Unternehmen dieser Regeln sollten erweitert werden und nicht müssen Menschen Irgendwie sind Menschen nie Teil der Rechnung. Sie die Arbeit nicht verändert? Vielleicht tat sie das auch eine Zeit lang. Aber dann nur die physischen Gefahren des Arbeitsplatzes be- als Menschen schreiben, dass Unternehmen lieber darüber spre- Morten Hansen hat für das Buch Great at Work veränderten sich die Machtstrukturen. In den rücksichtigen, sondern auch die psychologischen. Jeffrey betrachten statt chen, was sie für die Umwelt leisten, als über ihre 5.000 Menschen befragt und herausgefunden, das 30er-, 40er- und 50er-Jahren des 20. Jahrhunderts als Produktions- Mitarbeiter. Warum? Pfeffer die sogenannten High Performer nicht besonders waren in den USA die Gewerkschaften verhältnis- faktoren, sagt Kennen Sie Unternehmen, die sich von traditionel- Wenn man für ein großes Unternehmen arbeitet, lang ­arbeiten. Wir müssen schlauer arbeiten, nicht mäßig stark – und in Westeuropa noch mehr. Aber Jeffrey Pfeffer. len Modellen verabschiedet und zu menschlicheren vertraut man ihm sein psychisches und physisches Jeffrey Pfeffer ist länger. Ich habe neulich eine Frau kennengelernt. Unternehmen umgewandelt haben? Wohlbefinden an. Aber viele Unternehmen neh- Professor an der Ihr Vorgesetzter hatte zwei Schlaganfälle. Jetzt hat Das amerikanische Maschinenbauunternehmen men diese Verantwortung nicht ernst. Sie sagen: Stanford­ University sie beschlossen, nicht mehr zu arbeiten. Das kann Barry-Wehmiller ist ein Beispiel dafür. Der Ge- Menschen, die von ihrer Arbeit gestresst sind, soll- Graduate School of sie sich nur leisten, weil ihr Mann ausreichend ver- schäftsführer Bob Chapman begriff irgendwann, ten sich eine andere Arbeit suchen. Das passt zum Business und Autor dient. Sie ist 34, hat einen MBA in Harvard und hat dass jeder Mitarbeiter wertvoll für das Unterneh- Konzept des freien Markts: Menschen können frei von 14 Büchern. ­ aufgehört zu arbeiten. Aber wenn die Arbeit einen men ist, so wie ein Familienmitglied. Und dass es entscheiden, was sie wollen. Also können sie sich Die Themen umbringt, musst man gehen. seine Verantwortung ist, dass diese Menschen reichen­ von der auch zu Tode arbeiten, wenn sie wollen. Der Anteil von Frauen mit höheren Bildungs- abends in einer besseren Verfassung nach Hause Umsetzungslücke abschlüssen, die tatsächlich arbeiten, ist in keiner gehen, als in der sie morgens gekommen sind. Also bleib Mensch! bleib über die Macht- Mensch! bleib Was könnte man tun, damit Menschen nicht bloß strukturen in der führenden Industrienation so niedrig wie in hat er einiges verändert. Dazu muss man sagen, als Teil einer Maschinerie betrachtet werden? Unternehmen bis den USA. Das liegt zum Teil auch daran, dass wir dass Barry-Wehmiller damals kurz vor der Insol- Wir müssen uns Gedanken über die Gesundheit hin zur Bedeutung das Arbeiten so hart machen. Alles Geld und alle venz stand. Unternehmen verändern Dinge, wenn und das Wohl der Menschen machen statt nur von Ressourcen. Anstrengungen, die in ihre Ausbildung investiert es darauf ankommt. Aber dann dauert es gar nicht über Umsätze und Bruttoinlandsprodukte. Das 2015 belegte er wurden, waren umsonst. Was für ein enormer Ver- lang, etwas zu verändern. Und es kostet nicht viel. Verhalten von Unternehmen ist ja oft auch nicht Platz 25 auf der lust für unsere Gesellschaft! Eigentlich kostet es gar nichts. ■ gut für sie selbst. Studien zeigen: Stress führt zu Liste der besten Fluktuation, und Fluktuation kostet Geld. Lange Management- Die sogenannte Gig Economy, in der sich Freiberuf- Arbeitszeiten verhalten sich umgekehrt proportio- Vordenker der ler von einem Auftrag zum nächsten durchhangeln, nal zu Produktivität. Menschen, die krank sind, Organisation hat die Lage verschärft. Und sie könnte sich noch Thinkers 50. sind weniger produktiv. Wir haben eine Lose-­lose-­ weiter verschärfen, wenn Menschen sich zudem Situation geschaffen. noch auf Algorithmen und Maschinen einstellen "es müssen. Wie bringen wir menschliche Gefühle in Regierungen können Unternehmen für Umwelt- Einklang mit Technologien, die alles in Nullen und gibt auch schäden haftbar machen. Sollten sie sich auch um Einsen aufsplitten können? das Thema Krankheit am Arbeitsplatz kümmern? Ich habe keine Vorstellung davon, wie die Zukunft psychischE Um Arbeitssicherheit und Gesundheitsschutz aussehen könnte. Seit Uber in New York so erfolg- verletzungen kümmern sich die Regierungen der Industriestaa- reich ist, sind die Lizenzen von Taxifahrern nichts ten ja schon seit Langem. Die Zahl der Arbeits­ mehr wert und ihre Einkommen gesunken. Immer am arbeitspl at z: unfälle mit Verletzungen ist gesunken. Aber es gibt wieder gibt es Meldungen von Taxifahrern, die sich auch psychische Verletzungen am Arbeitsplatz: umbringen. Unsere Gesellschaft muss eine funda- verursacht verursacht durch Stress. Im Vereinigten Königreich mentale Frage beantworten: Welchen Stellenwert wird erfasst, wie viele Arbeitstage durch Krankmel- hat für uns menschliches Leben und Wohlbefin- durch dungen ausfallen – und wie viel Prozent dieser den? Der wichtigste Punkt dabei: Wir müssen Men- Krankmeldungen auf Stress zurückgehen. Der Pro- schen als Menschen betrachten und nicht als stress." 46 Think:Act 26 FÄHIGKEITEN IN GEFAHR FÄHIGKEITEN IN GEFAHR Think:Act 26 47 Mensch,

ne Kollegen: "Wir ver- lernen das Fliegen." Aber sind wir deshalb streng mal wirklich dabei, unsere Fähigkeiten zu ver- lieren? Lassen wir zu, dass unsere dein Hirn an! Hirnmuskeln ver­ kümmern? Oder befinden wir uns Automatisierung ist bequem, aber gefährlich: Wir verlernen, nur in einer Über- was wir können, und vergessen, was wir wissen. Experten sagen: gangsphase, die jede technische Neuerung mit sich Der Mensch muss wieder die Kontrolle übernehmen. bringt und uns dazu zwingt, Neues zu erlernen?

Die diskussion ist nicht neu. Im Jahr von Steffan Heuer 1983 veröffentlichte die Psychologin illustrationen von Karolis Strautniekas Lisanne Bainbridge vom University College London eine viel beachtete Studie mit dem Titel Ironies of automa- tion. Ihre beiden entscheidenden Fest- bleib Mensch! bleib Mensch! bleib stellungen treffen noch immer zu. Die echs Sekunden vor wurden verletzt. Die Unfallermittler Dateneingaben. Heute übernehmen erste: Entwickler automatischer Syste- ihrem Tod hatten kamen später zu dem Schluss, dass die automatische Systeme immer komple- me glauben, dass der Faktor Mensch die Sensoren Elaine Piloten die Instrumente nicht im Blick xere Aufgaben. Das Steuern von Flug- die Ursache für Probleme ist. Also ver- Herzberg erfasst. hatten und "das Autopilot-System zeugen ist das Paradebeispiel dafür. suchen sie ihn aus der Gleichung zu Dennoch stoppte nicht vollständig verstanden hatten". entfernen. Mit einer ironischen Kon- dasS autonom fahrende Uber-Taxi nicht, Die Liste solcher Vorfälle ist lang. das aber ist der haken: Automatisie- sequenz. "Viele Probleme entstehen als die 49-Jährige im März 2018 eine Jedes Mal führten Fehler in einem rung kann auch zu viel des Guten sein. durch Entwicklungsfehler", schreibt mehrspurige Straße in Arizona über- komplexen System zu fatalen Folgen. Schon jetzt steuern alle Arten von Au- ­Bainbridge. queren wollte. Die Software des Autos Die zwei genannten zeigen, was viele topiloten große Teile unseres Lebens. Und das führt zur zweiten ironi- ging von einem Fehlalarm aus. Und davon gemein hatten: Ein Mensch hät- Bald werden weitere hinzukommen – schen Feststellung: "Der Entwickler, die Fahrerin, die im Notfall das Fahr- te die Kontrolle übernehmen sollen etwa in Form von fahrerlosen Fahr­ der eigentlich den menschlichen Be- zeug lenken sollte, war abgelenkt: von und können – aber tat es nicht. Entwe- zeugen. Aber wenn die Notwendigkeit diener überflüssig machen will, lässt einer Fernsehserie, die sie auf ihrem der weil er die automatischen Abläufe verschwindet, Maschinen steuern und ihn weiterhin Aufgaben ausführen. Smartphone streamte. nicht korrekt überwachte oder weil er überwachen zu müssen, kann dies menschen, die Nämlich jene, die der Programmierer Im Juli 2013 gingen die Piloten ei- den fehlerhaften Entscheidungen des schlimme Folgen haben. nicht schafft zu automatisieren." So ner Asiana-Maschine beim Anflug auf Systems vertraute. Menschen, die nur noch Tätigkei- Tätigkeiten nur noch macht die Automatisierung letztlich San Francisco von einer falschen Ge- Automatisierung kann etwas Gu- ten überwachen, die sie einst selbst die Arbeit des Menschen sogar schwe- schwindigkeit und Flughöhe ihrer tes sein. Sie macht das Leben sicherer ausführten, laufen Gefahr, ihre Fähig- überwachen, rer – während sie gleichzeitig den fal- Boe­ing 777 aus. Sie flogen zu schnell und bequemer. Mit offenen Armen ha- keiten komplett zu verlieren – mit der schen Eindruck erweckt, die Technik und zu niedrig. Die Maschine schlug ben wir darum Roboter und Software- Konsequenz, dass sie nicht eingreifen laufen gefahr, ihre hätte alles unter Kontrolle. mit dem Heck auf die Landebahn, programme empfangen, die uns von können, wenn etwas schiefläuft. ­Rory Die treffendste und zugleich scho- stieß gegen eine Mauer, zerbrach dann Knochenjobs oder sogar gefährlichen Kay, Co-Vorsitzender des Pilotenaus- fähigkeiten ckierendste Feststellung über den Ab- in mehrere Stücke und ging in Flam- körperlichen Arbeiten befreien, eben- bildungskomitees der Federal Aviation bau von Fähigkeiten trifft der amerika- men auf. Drei Menschen starben, 181 so von langweiligen Tätigkeiten wie Administration (FAA), warnte 2011 sei- zu verlieren nische Technik-Autor Nicholas Carr in 48 Think:Act 26 FÄHIGKEITEN IN GEFAHR FÄHIGKEITEN IN GEFAHR Think:Act 26 49

­seinem Buch The Glass Cage. Der Titel spielt auf den Begriff "Glass Cockpit" an: So nannten Piloten das Cockpit des Airbus A-320, der 1988 eingeführt So verdummen wir wurde. Darin befanden sich statt der klassischen analogen Instrumente Was man nicht nutzt, sechs Bildschirme, die klar zeigten: verkümmert. Darum halten es Hier geben Computer den Ton an. Neurologen und Psychologen Für Carr ist dieses gläserne Cock- für gefährlich, wenn wir uns pit ein Symbol für eine heimtückische zu sehr von automatischen Fähigkeitsabbau-Falle: Als die FAA Prozessen abhängig machen. mehrere Jahre lang Fast-Zusammen- stöße und schlimme Unfälle unter- Ein Beispiel ist das Smartphone. suchte, stellte sie fest, dass die Pi- Früher erinnerten wir uns an Telefonnummern, weil wir sie loten von Jets wie dem Airbus bei jedem Anruf eintippten. A-380 auf einem Langstre- Heute tippen wir sie nur noch ckenflug die Maschine ge- einmal ein, um sie zu speichern – rade mal drei Minuten tat- und vergessen sie dann. sächlich selbst steuern. In ihrem Abschlussbericht Bei Navigationssystemen aus dem Jahr 2013 warnt die ist es ähnlich. Wer sich nur FAA davor, "dass sich Piloten zu sehr von Abbiegung zu Abbiegung bleib Mensch! bleib Mensch! bleib auf automatische Systeme verlassen leiten lässt, hört auf, sich seine und nur widerwillig eingreifen". The Design of Future Things: "Geübte en, ist die Schnittstelle unnachgiebig. kanische Erziehungsexpertin Heather Umgebung einzuprägen oder Je mehr Geräte miteinander ver- Reiter befinden sich in ständigen Ver- Habe ich wenig Vertrauen, sagt mir das ­McGowan will den Schwerpunkt der De- Veränderungen zu bemerken. knüpft werden, die in Echtzeit auf In- handlungen mit ihren Pferden. Sie "menschen Interface: "Ich bin zu 98 Prozent sicher, batte verschieben: weg vom Lamentie- "Menschen werden zu formationen zugreifen, desto gefähr- passen den Kontrollgrad immer an die die Antwort zu kennen." ren über verkümmernde Fähigkeiten, sind kreativ, Fachleuten, indem sie Ereignisse licher wird der Fähigkeitsabbau für Umstände an." Für Melonee Wise, Gründerin und hin zum Fokussieren auf einzigartige und Erfahrungen abspeichern, uns alle. Menschen, die einmal Auto- Ericka Rovira, Pychologin und Pro- empathisch Geschäftsführerin der Roboter-Firma menschliche Qualitäten. anhand deren sie Strukturen fahrer waren, kennen die Wege ihrer fessorin im Engineering Psychology Fetch Robotics, ist der Abbau von Fähig- McGowan sieht die Welt "an der erkennen können. Geschieht Heimatstadt nicht mehr. Menschen, Program der US-Militärakademie West und innovativ keiten eine normale Begleiterscheinung Schwelle von der dritten zur vierten in- dies seltener, sinkt das Tempo, die einmal Mechaniker waren, ver­ Point, untersucht, wie Menschen auto- von Übergangsphasen, die Menschen dustriellen Revolution". Millionen Ar- mit dem sie Informationen lassen sich darauf, dass Augmented-­ matische Systeme entwickeln können, – weder in die Inkompetenz treibt noch beiter und Freiberufler müssten sich auf aufnehmen, Entscheidungen Reality-Brillen ihnen zeigen, welche die reibungslos funktionieren, ohne überflüssig macht. "Menschen sind kre- Disruptionen einstellen, sagt sie. "Aber fällen und ausführen", sagt die Schraube sie anziehen müssen. Wor- dass diese Menschen dadurch alle ­ all dies sind ativ, empathisch und innovativ – all ­ wir bereiten uns nicht darauf vor." Psychologin Ericka Rovira. aus schöpfen sie ihr Wissen, wenn das Fähigkeiten verlieren, für deren Er- dies sind Fähigkeiten, die wir noch sehr Die Gesellschaft sollte aufhören, Netzwerk abstürzt? werb sie hart gearbeitet haben. "Auto- fähigkeiten, lange brauchen werden", sagt Wise. weiterhin in ihren Ausbildungsstätten "Neuroplastizität" bezeichnet die Fähigkeit des Gehirns, matisierung führt nicht zwangsläufig "Was am ehesten verloren gehen wird, ist starre Lerninhalte vorzugeben. "Wir sich zu verändern. Werden Ingenieure müssen lernen, wie sie es zu einem Verlust von Fähigkeiten", die wir noch Wissen, das wir durch reines Auswendig­ sollten uns nicht darauf konzentrieren, Informationen selten genutzt, schaffen, dass Fähigkeiten von Men- sagt sie: "oft verändert sie einfach nur sehr lange lernen erwerben." was wir lernen, sondern darauf, wie wir verringen sich neuronale schen trotz langer Untätigkeitsphasen die Aufgabe." lernen, sagt sie. "Die Fähigkeiten, die Verbindungen im Gehirn. So nicht verkümmern und diese im rich- Rovira schlägt vor, Systeme zu ent- Viele automatisierungsexperten tei- wir im Beruf brauchen, sind wie die verschwinden nach und nach tigen Moment aufmerksam sind. wickeln, die ihre Grenzen deutlich auf- brauchen len diese optimistische Einschätzung. Apps auf unseren Smartphones: Je nach Fähigkeiten. Umgekehrt Im Idealfall verhielten sich Mensch­ zeigen. "In unklaren Situationen verän- Auch weil sie davon ausgehen, dass sich Bedarf fügen wir neue hinzu oder lö- stellten Forscher fest, dass bei und Maschine zueinander wie Reiter dert sich das Interface – abhängig von werden." künftig die Art und Weise verändern schen alte. Ein agiles Mindset ist das Be- Taxifahrern der Hippocampus und Pferd, schreibt Silicion-­Valley-­ dem Grad an Vertrauen, den wir in es Melonee Wise, wird, in der Menschen geistige Muskeln triebssystem, das es überhaupt möglich wuchs: der Hirnbereich, der für Guru Don Norman in seinem Buch setzen. Neige ich dazu, sehr zu vertrau- Gründerin und CEO von Fetch Robotics erwerben und trainieren. Die ameri­ macht, dass die App läuft." ■ Navigation zuständig ist. 50 Think:Act 26 Geschichte der Produktivit ät Geschichte der Produktivit ät Think:Act 26 51

PRODUKTIVITÄT VON ERNÄHRUNG ARBEITSPRODUKTIVITÄT PRODUKTIVITÄT VON WISSEN Landwirtschaft ist die grundlegendste Form der Während der Industrialisierung wurden in Im 21. Jahrhundert wurde Wissen zur entscheidenden Produktion. Seit dem Jahr 1750 hat sich großem Maß Maschinen eingeführt, die Triebfeder von Produktivität. Die Auswirkungen die Produktivität in diesem Bereich um rund die Zahl der Arbeitsstunden reduzierten und ­schlagen sich oft nicht in steigenden Zahlen nieder, Es wird 300 % gesteigert. gleichzeitig die Produktivität steigerten. sondern in steigender Arbeits- und Lebensqualität.

So viele Menschen ernährt Verhältnis von Arbeitsstunden und Produktivität Work-Life-Balance ein Arbeiter in der Landwirtschaft Das Verhältnis 25.000 US-Dollar zwischen Arbeitszeit Bruttosozialprodukt immer besser pro Kopf und Freizeit 1.100–2.200 Qualitätszeit Ideendichte Stunden pro Jahr Stunden, die Menschen Verhältnis von kreativen mit etwas verbringen, und repetitiven Antike 1750 1900 1960 1980 2000 2016 Vor 200.000 Vor 2.500 1700 2050 Ein besseres Leben – das war Jahren Jahren das sie als angenehm Aufgaben bei Arbeit Beschleunigt die Ausbreitung von Ideen empfinden und Freizeit Quellen: Our World in Data, World Bank, FAO Quellen: IGZA, Maddison (2007)

16. Jahrhundert – schon immer ein Ziel des Vor 1.500 Jahren – Menschen. Stetig versucht er, 17. Jahrhundert – Mindern Risiken und Kosten von Handel

Erhöht die Rentabilität von Kapital Wissen, Ernährung und

Vor 1.200 Jahren – VerbessertVor Navigation 1.000 Jahren und Handel –

STANDARDISIERTE PRÜFUNGEN Vor 700 Jahren– BUCHDRUCK Machen Wissen zum Karrierebeschleuniger Arbeitskraft zu verbessern. — 1770er

AKTIENHANDEL

Reduziert Transaktionskosten Die Karte zeigt, wie seine — 1760er Präzisiert das Erfassen von Zeit Vereinfacht Zahlen und Berechnungen Vor 1.300 Jahren –

Bemühungen die Produktivität — 19. Jahrhundert

BANKEN — 1880er PAPIERGELD KOMPASS — 1830er steigern – und die Welt Erleichtert das Verbreiten vonVor Inhalten 1.600 Jahren – — 1870er Erhöht das Nahrungsangebot Vor 2.200 Jahren – Vor 1.300 Jahren –

DAMPFMASCHINE verändern. Steigert Arbeitskraft und -geschwindigkeit — 1910er FABRIKEN Macht Öl und Gas als Brennmaterial verfügbar Rationalisieren Arbeit — 1820er Vor 2.500 Jahren – UHR EISENBAHN Beschleunigt Verkehr und Transport NULL AGRARREVOLUTION — 1940er

Steigert die Lebensmittelproduktion

— 1920er PAPIER GUANO ELEKTRIFIZIERUNG von Detlef Gürtler TOFU Steigert Bodenerträge Steigert industrielle Produktivität BOHRTECHNIK KÄLTEMASCHINE TAYLORISMUS Verlängert die Haltbarkeit von LebensmittelnErhöht Produktivität Vor 2.600 Jahren – COMPUTER infografik von Maximilian Nertinger Beschleunigt Arbeit — 1950er — 1960er

Vor 6.000 Jahren – Erleichtert Handel KUNSTDÜNGER — 1990er

bleib Mensch! bleib Steigert Bodenerträge Mensch! bleib Vor 5.000 Jahren –GELD CONTAINER Standardisiert Transport Konserviert Wissen SUPERMÄRKTE SCHRIFT Steigert Bodenerträge 19. J INTERNET — 2010er 00 ahrhu 1.0 nder Rationalisieren denGlobalisiert Einzelhandel Information und Kommunikation Vor 8.000 Jahren – Vor t PFLUG REN JAH — 2000er Fördern die Spezialisierung 20 Vor 10.000 Jahren – . J ah rh un STÄDTE de MOBILER ASSISTENT rt GENTECHNIK Unterstützt auf Zuruf ErhöhtLANDWIRTSCHAFT das Nahrungsangebot Erhöht die Lebensmittelproduktion Vor 40.000 Jahren –

Erhöht das Warenangebot 2 Vor 50.000 Jahren – 1 . J HANDEL a Erleichtert die Kommunikation h rh u SPRACHE n KÜNSTLICHE INTELLIGENZ d e Ersetzt menschliche Arbeit r Verbessert die Haltbarkeit und Verdaulichkeit von Lebensmitteln AFRIKA t SOFORTÜBERSETZUNG 0 Überwindet Sprachbarrieren 0 Vor 100.000 Jahren – .0 N EUROPA 0 E 1 R r H 3D-AVATARE o A K V J FEUER Ü Vervielfachen Menschen und deren Fähigkeiten NAHER N F T I OSTEN G E AUTONOME FABRIKEN

I N G Produzieren ohne menschliche Arbeitskräfte N

O N DIE MEILENSTEINE V KOLLEKTIVES BEWUSSTSEIN 0 A U 0 DER MENSCHHEIT T Erhöht Denkleistung durch Zusammenarbeit mehrerer Gehirne N 0 I . R O N E INDIEN 0 Alle großen Zivilisationen R N T

0 E I H H E 1

brachten Errungenschaften N A r S E LEBENSMITTELDRUCK Ä J

o hervor, die die Produktivität * V S B Entkoppelt Nahrung von Anbauflächen N der Menschheit steigerten. I NORD- R Von Afrika über Asien und R TELEPATHISCHE KOMMUNIKATION W UND SÜD- A E CHINA Europa bis nach Amerika. AMERIKA Übermittelt Gedanken ohne Sprache oder Schrift

* Die Liste der Innovationen wurde von der Think:Act-Redaktion nach subjektiven Kriterien zusammengestellt; sie erhebt keinen Anspruch auf Vollständigkeit. 52 Think:Act 26 MENSCH SCHL ÄGT MASCHINE Think:Act 26 53 rauswurf DER roboter bleib Mensch! bleib Mensch! bleib

Der japanische Autobauer Toyota setzt wieder auf Handarbeit. Seine Philosophie: Roboter können nur das, was Menschen ihnen beigebracht haben. Also müssen wir zunächst den Menschen etwas beibringen.

zurück an die arbeit Arbeiter im Toyota-Werk in von Henrik Bork Motomachi kommen von ihrer fotos von Ben Weller Mittagspause zurück, um weiter am Mirai zu arbeiten, einem wasserstoffbetriebenen Auto. 54 Think:Act 26 MENSCH SCHL ÄGT MASCHINE Think:Act 26 55

"handarbeit ist

ie Fabrik der Zukunft braucht keine die basis Lampen. So jedenfalls sagte es ein- für alles." D mal Tesla-Gründer Elon Musk. Denn in ihr gäbe es keine Menschen mehr, sondern nur noch Roboter. Und die Mitsuru Kawai, können schließlich auch im Dunkeln arbeiten. So Fertigungschef gesehen ist das Toyota-Werk in Nagoya ein Ana­ und Executive Vice President chronismus. Überall arbeiten hier Menschen – von Toyota mehr als noch vor einigen Jahren. Und das ausge- rechnet in der Autoindustrie – der Branche, in der die Roboter den Menschen bereits ersetzt zu ha- ben schienen. Aber hier spielt die Zukunft. Nagoya, nahe dem Konzernhauptsitz Toyota City gelegen, ist das modernste Autowerk der Welt, betrieben von einem Konzern, der unbestritten zu den inno- vativsten Autobauern der Welt zählt.

Mitsuru kawai feuerte die roboter und ersetzte sie wieder durch Menschen. Der zurückhaltende 70-Jährige ist Fertigungschef und Executive Vice President von Toyota. Als 15-Jähriger hat er hier an- gefangen: in der Schmiede. Heute trägt er die Ver- antwortung für sämtliche Toyota-Werke weltweit, zusammengenommen arbeiten dort rund 360.000 bleib Mensch! bleib Mensch! bleib Menschen. Kawai fühlt sich wohl in dem Autowerk. Das ist nicht zu übersehen, wenn er Besucher hin- durchführt. Er kennt jeden Winkel der Fabrik. Je- den Handgriff kann er beurteilen – aus praktischer Erfahrung. Er ist einer der wenigen Vorstands­ mitglieder eines multinationalen Konzerns, der keinen akademischen Abschluss besitzt. "Hand­ werkstudenten arbeit ist die Basis für alles", sagt er. "Die Automa- Motomachi ist suchen sie mit trainierten Augen nach winzigsten chen. Nach einer Unfallserie in den USA entschul- tisierung wird weitergehen. Aber wenn wir Robo- nicht nur Produk- Kratzern und Unregelmäßigkeiten ab und polieren digte sich Toyota-CEO Akio Toyoda 2014 in aller tionsstätte. In dem ter einsetzen, werden sie von Menschen angelernt, sie dann sorgfältig. Nur fünf Meter weiter zieht der Öffentlichkeit und sagte, man "suche händerin- Werk werden auch 8 % die wissen, was sie tun." Toyota-Mitarbeiter Arm eines Roboters eine Eisenstange aus einem der Arbeitsschritte gend nach Lösungen". Kawais Ernennung 2015 Verkehrte Welt. Während alle davon sprechen, aus der ganzen Hochofen und hält sie in eine Presse, die sie zu ei- bei Toyota in den war ein deutliches Statement für den Neubeginn. dass Roboter uns bald die Jobs wegnehmen, stellt Welt geschult. ner Kurbelwelle formen wird. "Diese Fertigungs­ vergangenen zehn Nur Roboter, die wirklich gut und kosteneffi­ Toyota die Weichen in seine ganz eigene Richtung. linie habe ich selbst entwickelt", sagt Kawai, sicht- Jahren wurden zient arbeiten, haben unter Kawai die Chance, ihre Seit Kawai 2015 die Führung übernahm, hat sich lich stolz. Den Job dieser Roboter übte er einst von Robotern Jobs zu behalten. Als er feststellte, dass die die Automatisierung gleich in mehreren Produkti- selbst aus, als er bei Toyota anfing: mit Schmiede­ ausgeführt. Schweiß­nähte, die Roboter an den Wagenunter­ onsfeldern gewandelt. Ob Schmiede, Montagelinie zange und Hammer. seiten des Land Cruiser hinterließen, zu dick und oder Lackiererei: Wo vor Kurzem noch Roboter fehlerhaft waren, schaltete er sie ab. "Ich sagte: wir standen, arbeiten nun wieder Menschen. kawai ist kein gegner von automatisierung. Aber machen das wieder von Hand." der mensch lenkt Kawai muss seine Stimme anheben, um das seine Zeit als Arbeiter hat bei ihm großes Misstrau- Anders als die Roboter konnten menschliche Ein Mitarbeiter der Zischen und Hämmern in der ultramodernen Mirai-Produktion en gegenüber Maschinen, Robotern und Compu- Mitarbeiter erkennen, an welchen Stellen die Fugen Schmiede zu übertönen: "Sehen sie her: So etwas schiebt fahrbare Ge- tern hinterlassen. Vielleicht aus gutem Grund. Vor einen Millimeter breit waren und an welchen nur können nur Menschen, keine Roboter", schreit er. räte zurück in ­ih­re einigen Jahren kämpfte Toyota mit Qualitätspro- einen halben Millimeter, und entsprechend reagie- Zwei Arbeiter überprüfen mechanische Bauteile, Ausgangsposition. blemen, Rückrufen von Autos und Gewinneinbrü- ren. "Allein der Verbrauch an Schweißdraht 56 Think:Act 26 MENSCH SCHL ÄGT MASCHINE Think:Act 26 57

feines händchen ist seitdem um zehn Prozent zurückgegangen", Jahren. "Betreibt man eine Produktionslinie von Ein Mitarbeiter von sagt Kawai, sichtlich stolz. Anfang an vollautomatisch, braucht man hoch- Toyota befestigt in Sein nächster Schritt: Er ließ die Arbeiter ihr komplexe Systeme, die viel Geld kosten und oft reiner Handarbeit Wissen an die Roboter weitergeben, indem sie stillstehen", sagt Kawai. Er hält seine Hand schüt- einen Fensterrahmen an einem Mirai. selbst die Roboter programmierten. Jetzt sind die zend über seine Mitarbeiter und bringt die Robo- Roboter wieder im Einsatz. Aber anstelle von drei ter nur langsam zurück, und nur dorthin, wo es Mitarbeitern, die ihre Schweißnähte nacharbeiten sinnvoll scheint. Auf Dauer soll diese Methode in mussten, reicht nun einer aus, der die Qualität allen Toyota-Werken weltweit eingesetzt werden. ­ihrer Arbeit kontrolliert. Die beiden verbliebenen "Wir haben eine völlig simple und vollkommen ma- das können wir allein Toyota hält seine Mitarbei- Arbeiter wurden für andere Aufgaben geschult. nuell betriebene Produktionslinie für Motoren auf- ter und ihre Fähigkeiten Beobachter der Branche sind aufmerksam ge- gebaut und dann Schritt für Schritt automatisiert", für die entscheidenden worden. "Toyota vertraut in Sachen Automatisie- sagt Kawai stolz. "Nun wird sie weltweit eingesetzt." Treiber von Innovationen. rung auf sein eigenes Know-how und nicht auf ­externe Ingenieure und Prozessplaner – so wie es vor 15 jahren begann kawai aufzufallen, dass andere Autobauer tun", sagt Hans-Jürgen ­Classen, das Wissen der einst hoch qualifizierten und spe- einer der führenden Experten für Corporate Ma- zialisierten Arbeiter langsam verschwand. "Es gab nagement in Japan: "Die Prozesse werden von den 36,2 % zunehmend weniger Gelegenheiten für sie, ihre Angestellten ausgearbeitet und erst dann automa- betrug die Fähig­keiten und Ideen einzubringen", sagt ­Kawai, tisiert – und das durch die Angestellten selbst." Gewinnsteigerung "das besorgte mich. Ich fragte mich, wie wir das Nach Classens Ansicht ist das eine vernünftige von Toyota im Know-how unserer Mitarbeiter einsetzen könnten, Vorgehensweise: "Jeder kann Roboter kaufen. Aber Geschäftsjahr ohne auf automatisierte Prozesse zu verzichten." 2017/18 im das Wissen, wie man sie effizient einsetzt, schafft Für gewöhnlich begeistern sich Investoren für Vergleich zum man besser selbst. Toyota setzt mit der Art, wie Visionen, die Reduzierung von Lohnkosten jegli- vorhergehenden. es Roboter einsetzt, Trends. So wie es das schon cher Form beinhalten, weil das als eindeutiger mit der Just-in-time-Produktion tat und mit Lean-­ ­Indikator für die Reduzierung von Produktions­ Production – Methoden, die die Autoindustrie re- kosten gilt. Aber sogar Visionäre wie ein Elon Musk volutionierten." schwenken inzwischen zurück: Nach massiven Lie- ferproblemen für das Modell 3 von Tesla gestand bleib Mensch! bleib Die Inspiration für die neuen ideen stammt über- er ein, dass die exzessive Automatisierung ein Feh- raschenderweise jedoch nicht aus Japan. Nachdem ler war: "Menschen werden unterschätzt." Kawai eine Rückkehr zu menschlichem Know-how Was Kawai von Musks lichtloser Vision hält? forderte, suchten seine Ingenieure weltweit nach Er ist höflich, aber deutlich: "Eine solche Produk- Ideen. In Brasilien wurden sie fündig, genauer ge- tion würde ewig auf derselben Entwicklungsstufe sagt: im Toyota-Werk in São Bernardo, einem Vor- verharren. Roboter verbessern Prozesse nicht. Nur ort von São Paulo. "Es gab fast nichts in dem Werk, Menschen können Prozesse verbessern. Darum was automatisiert war", sagt Toyota-Mitarbeiter sollten sie immer im Mittelpunkt stehen." Chiharo Naruse. "Aus Kostengründen wurden vie- le Aufgaben noch immer von Hand ausgeführt. Toyota verschiffte die alten Maschinen von São Bernardo nach Nagoya, wo sie jetzt in der "TSP Ba- "jeder sic Line" stehen – einer wichtigen Produktionslinie der Toyota-Werke. Die japanischen Mitarbeiter werden ermuntert, vom "Geist von São Bernardo" kann roboter kaufen, zu lernen. "Durch manuelle Arbeit und vergleichs- weise simple Maschinen lernen unsere Mitarbei- aber das wissen, wie ter, die Anstrengungen und Kämpfe unserer Vor- gänger anzuerkennen, die diese Produktionslinie­ man sie effizient mit bescheidensten Mitteln aufbauten", heißt es dazu in einem Unternehmensvideo. einsetzt, schafft man Aber es geht nicht nur um Qualität. Auch finan- zielle Gründe spielen eine Rolle dabei, dass Robo- besser selbst ." ter bei Toyota weniger als 10 % aller Handgriffe Hans-Jürgen Classen, ausführen – und damit kaum mehr als vor zehn Experte für Corporate Management in Japan 58 Think:Act 26 MENSCH SCHL ÄGT MASCHINE GEDANKEN ZU … mensch bleiben

roboterfreie zone Der Toyota Mirai wird zu 100 % von Menschen gefertigt.

wicklung unseres Unternehmens nicht auf Software oder Roboter, sondern immer nur auf un- sere Mitarbeiter – auf ihre Fähigkeiten und auf ihre "Unternehmen guten Ideen." 16 dieser Mitarbeiter arbeiten derzeit in Toyo- tas modernster Fertigungslinie, dem Werk Moto- wollen, machi. Sie wuseln durch die strahlend blauen ­Flure – zwischen Regalen mit Werkzeug und Zube- hör, die meist mit Rädern ausgestattet sind, damit dass wir für sie mühelos verschoben werden können. Es ist so ruhig und so steril wie im Operationssaal eines Krankenhauses.­ Hier wird der Mirai gebaut: ein ihre Werte wasserstoffbetriebenes Zukunftsmobil, von dem bislang 7.000 Exemplare verkauft wurden. Neun Mirais produzieren die 16 Mitarbeiter pro Tag – in einstehen. Aber reiner Handarbeit.

jeder produktionsschritt wird vermerkt – auf einem Tablet. Ein Transmitter gibt für jede einzel- ne Schraube vor, mit welcher Drehkraft sie fest­ Wert- gezogen wird. High-Tech in höchster Vollendung – und weit und breit ist kein Roboter in Sicht. Motomachi ist eine Art Musterwerkstatt für alle weltweiten Produktionsanlagen von Toyota. Hier vorstellungen werden nicht nur Autos produziert, sondern auch bleib Mensch! bleib alle Mitarbeiter geschult. "Würden wir hier Roboter einsetzen, gäbe es lassen sich keine Handarbeit. Und dann könnten wir unseren Mitarbeitern nichts beibringen", sagt ­Afikumi ­Karasawa, einer der Manager. Natürlich setzt Toyo- nur etablieren, ta noch immer viele Roboter ein – in anderen, schneller produzierenden Werken, in denen jede Minute ein Auto vom Band rollt. Aber selbst dort wenn Mitarbeiter Diese Herangehensweise an Automatisierung seien Roboter lediglich Gehilfen oder Werkzeuge sei keine Frage der Kultur oder gar "typisch japa- der Arbeiter, aber nicht deren Ersatz, sagt Technik- nisch", findet Experte Classen, sondern ein Teil 7 chef Kawai. sie von Toyotas Firmenkultur. Das bedeutet: Sie kann tausend Das Beispiel von Toyota zeigt: Roboter müssen auch auf andere Autobauer übertragen werden – nicht zwangsläufig zum Abbau von Arbeitsplätzen Toyota Mirai und auf andere Branchen. führen und sie sollten es auch nicht. In der Vision wurden bis jetzt verinnerlicht verkauft. Der von Mitsuru Kawai liegt der Fokus nicht auf Robo- der beste beweis dafür sei, dass die neuen Ferti- Name des ersten tern. "Menschen werden für uns immer eine wich- gungsmethoden nicht nur in Japan funktionierten, Autos, dessen tige Rolle spielen", sagt er. "Dieselben Mitarbeiter, sondern weltweit – beispielsweise in südafrikani- die früher Verbrennungsmotoren bauten, bauen haben." Brennstoffzellen schen und osteuropäischen Toyota-Werken. "An- Wasserstoff jetzt elektrische Motoren oder wasserstoffbetriebe- dere Hersteller könnten von Toyota lernen", sagt in Elektrizität ne Autos. Alles ist in Bewegung, die Technologie Classen, "sie müssen es nur wollen." Toyotas vor- verwandeln, schreitet voran und die Automatisierung entwi- sichtiges Herangehen an Automatisierung könnte bedeutet ckelt sich weiter – aber dennoch arbeiten all diese weltweit als Beispiel dienen – und sogar einen neu- "Zukunft". Menschen noch immer bei uns." SUSAN DAVID en Trend auslösen. Die Grundidee dahinter formu- Es scheint, dass in den Fabriken von Toyota Psychologin an der Harvard Medical School liert Kawai so: "Wir vertrauen bei der Weiterent- noch für einige Zeit das Licht brennen wird. ■ → Der gesamte Artikel ab Seite 12 60 DIE DIGITALISIERUNG DES VERBRECHENS Think:Act 26 61

Weit- winkel Auch die Mafia verlagert ihre Geschäfte ins Netz. Cyber-Experten bauen für die Syndikate digitale Vertriebs- und Finanzstrukturen – und adaptieren Themen an der im Gegenzug deren Organsationsstrukturen. Schnittstelle von Gesellschaft, Wirtschaft und Wissenschaft. von Misha Glenny Die fotos von Ragnar Schmuck

1 n einem grauen tag im herbst 2012 rufen die 2 Mitarbeiter vom Antwerpener Hafenbüro der 3 Schweizer Reederei MSC bei der Polizei an. Paten 4 Ihnen kommt verdächtig vor, wie langsam ihre 5 Computer seit einiger Zeit laufen. Sie sind 6 Asicher: Irgend etwas stimmt nicht. Die Beamten entdecken 7 schnell die Ursache: Winzige Computer, sogenannte 8 "Pwnies", gespeichert auf USB-Sticks, stecken in mehreren gehen 9 Rechnern. Die Systeme sind gehackt worden. So konnten 10 Hacker den Transportweg von Containern nachverfolgen 11 und Zugang zu Sicherheitsbereichen im Hafen erhalten. 12 Stehen die Container am vorgesehenen Ort, transportieren online 13 Mitglieder einer Mafia-Familie­ sie mit Lkws ab. 14 15 

Es ist das bis dahin dramatischste Beispiel für die 16 Fusion zweier Kriminalitätsformen: klassische Metho- 17 den von Mafiosi, kombiniert mit den Fähigkeiten 18 krimineller hacker. "Wir haben es mit hacker, 19 einer Dienstleistungsbranche zu tun", erkennt der die ihre Fähig- 20 damalige Europol-Chef Rob Wainwright: "Mafiöse keiten kriminell 21 Gruppen werben online Hacker an und setzen deren einsetzen, werden in der Szene "black 22 Fähigkeiten für ihr Tagesgeschäft ein." Als Reaktion hats" genannt. 23 gründet Europol die Einheit EC3. Nach und nach Hacker, die ethisch 24 werden Mitarbeiter anderer Abteilungen in ihre Arbeit handeln, sind 25 eingebunden, insbesondere aus den Bereichen Drogen- "white hats". Und 26 kriminalität und Menschenhandel.

Hacker, die beides 27 tun,"grey hats". 28 

2017 fließen alle Aktivitäten in einem neuen 29 Programm zusammen, um ein Phänomen zu be- 30 kämpfen, für das Wainwright eine neue Bezeichnung 31 kreiert: "die Digitalisierung der organisierten Krimi- 32 nalität". Ermittler, die dem Handel mit Rhinozeros- 33 Horn, Elfenbein und Gürteltieren von Südafrika bis 34 Vietnam nachgehen, stoßen auf Spuren von kriminel- 35 len Banden, die das Internet und Messengerdienste 36 nutzen, um den Transport ihrer Ware über verschlun- 37 gene Pfade durch Lateinamerika, Tschechien und die 38 Ukraine zu organisieren.

62 Think:Act 26 DIE DIGITALISIERUNG DES VERBRECHENS DIE DIGITALISIERUNG DES VERBRECHENS Think:Act 26 63



In Brasilien ringen die Behörden bereits seit Jahren mit einem 1 Syndikat, dessen Macht beständig wächst, dem Primeiro 2 30.000 mann ­Comando da Capital (PCC), aus São Paulo. Handys und Smart- 3 zählt das PCC phones hatten es möglich gemacht, dass die PCC-Führungsebene selbst 4 inzwischen. Die aus Gefängniszellen heraus ihre Geschäfte leiten und ihr Geschäftsfeld 5 Organisation über die Grenzen São Paulos hinaus erweitern konnte. Heute dominiert 6 wächst rasant; 7 jeden Tag werden die PCC nicht nur das organisierte Verbrechen in den 27 Bundesstaaten neue Mitglieder Brasiliens, sondern auch in Paraguay, Bolivien und zunehmend im 8 rekrutiert. südlichen Kolumbien. Wie organisiert die Paten vorgingen, entdeckten 9 brasilianische Staatsanwälte, als sie zwei Laptops auswerteten, die die 10 Polizei bei führenden PCC-Mitgliedern beschlagnahmt hatte. Fein 11 säuberlich in Excel-Tabellen erfasst, fanden sie darauf das gesamte 12 ­Kokain-­Distributionsnetzwerk für die Metropolregion São Paulo – bis 13 hinunter zum kleinsten Straßenverkäufer. In einer eigenen Spalte waren 14 sogar Strafen für Mitglieder aufgelistet, die man des Verrats oder der 15 Unterschlagung verdächtigte: Die Bandbreite reichte von Bußgeldern bis 16 zum Tod. In der letzten Spalte war aufgeführt, ob die Strafe bereits 17 vollstreckt worden war – und von welcher lokalen Einheit.

18 19 Die Globalisierung der organisierten Kriminalität 20 

Zwei epochale Ereignisse machten es möglich, dass sich das internationale 21 organisierte Verbrechen zu einer solch ernsten Bedrohung entwickeln konnte. 22 Zum einen hoben 1986 die britische Premierministerin Margaret Thatcher und 23 US-Präsident Ronald Reagan Regulierungen und Kontrollen der Kapitalmärkte 24 auf. Die Bedeutung dieses "Big Bang" zeigte sich erst in vollem Ausmaß, als das 25 zweite Ereignis eintraf: der Zusammenbruch der Sowjetunion. Deren Nachfolge- 26 staaten schafften es nicht, die Kräfte des Kapitalismus unter Kontrolle zu bekom- 27 men. Es gab weder Handelsgerichte noch Schlichtungsstellen. Also wandten sich 28 die neuen "Businessmen" an andere Institutionen, um ihre Konflikte zu regeln: 29 "Privatisierte Vollstreckungsbehörden" nennt sie der russische Soziologe ­Wadim 30 ­Wolkow. Oder schlicht: "Mafia".

31 32 

Schnell wurden die Mafiosi selbst zu Markt-Akteuren. Im Chaos der 33 Postsowjet-Ära war alles leicht zu bekommen: Kaviar, Drogen oder junge 34 Frauen, die man in die Prostitution verkaufen konnte. Und die Macht des 35 mobilen Kapitals öffnete weitere Märkte: Indien, Brasilien, Südafrika und 36 sogar China. Nach kurzer Zeit hatten russische Gruppen Verbindungen zu 37 japanischen Yakuza, kolumbianischen Kartellen, italienischen Mafia-Organi- 38 sationen wie der Camorra und der 'Ndrangheta – sowie zu bulgarischen, 39 marokkanischen, vietnamesischen und chinesischen Syndikaten.

40 41 

Auch die Cyberkriminalität im großen Stil hat ihre Ursprünge in der 42 früheren Sowjetunion, genauer gesagt: im ukrainischen Odessa. Eine 43 Gruppe arbeitsloser Teens und Twens revolutionierte von dort aus mit der 44 Webseite carderplanet.com die Kriminalität im Netz. Die ukrainischen 45 Cyber-Spezialisten installierten ein Treuhandsystem für Kriminelle, die 46 30 dollar kostet Computer­viren oder gestohlene Kreditkarten-Daten 47 eine gestohlene zum Kauf anboten. So konnten Mafiosi ihre Finanztransaktionen in 48 Kreditkartennummer sicheren Netzen abwickeln, die bis heute existieren. Die Mathematik- und 49 auf carderplanet.com, Physikausbildung im Ostblock war herausragend. Und so nutzten neben 50 inklusive Name 51 des Eigentümers, Ukrainern bald auch Spezialisten aus Russland, Bulgarien und Rumänien Geburtsname, ihr Wissen, um im wachsenden Internethandel in den USA und West- 52 Sozialversicherungs­ europa eklatante Schwachstellen zu erkennen und auszubeuten. 53 nummer und Adresse. 64 Think:Act 26 DIE DIGITALISIERUNG DES VERBRECHENS DIE DIGITALISIERUNG DES VERBRECHENS Think:Act 26 65

1 Als perfekte Ausgangsbasis­ für Cyberkriminalität erwiesen sich die 2 BRIC-Staaten. Insbesondere­ Brasilien mit seinen weitreichenden 3 Verbindungen in den gesamten portugiesisch- und spanischsprachigen 4 Raum entwickelte sich schnell zu einem der weltweit größten Märkte für 5 Cyberkriminalität: Mit Diebstahl und Erpressung ließen sich riesige 6 Summen erwirtschaften.

7 8 Mafia im Umbruch 9

Die disruptive Kraft des Internets hat fast alle kriminellen Aktivitäten 10 befeuert. Der Drogenhandel hat sich von der Straße ins Darknet das darknet 11 verlagert. Europäische und amerikanische Konsumenten sind von organischen ist die Unterwelt des 12 Produkten aus Bolivien oder Afghanistan zu synthetischen Drogen aus den Internets. Käufer und Verkäufer bleiben 13 Niederlanden, Bulgarien, Kanada oder Israel gewechselt. Diese Entwicklung setzt anonym, bezahlt wird 14 die Strafverfolger massiv unter Druck. Einerseits scheint es positiv, dass kriminel- mit Kryptowährungen 15 le Organisationen weniger Energie auf den Einsatz körperlicher Gewalt verwenden. wie Bitcoin. Drogen 16 Aber andererseits wächst die Abhängigkeit unserer Gesellschaft von digitalen machen nach Euro- 17 Netzwerken in rasantem Tempo. Und damit die Gefahren, die ihr durch Cyber-­ pol-Schätzung zwei 18 Verbrechen drohen.

Drittel der kriminellen 19 Darknet-­Angebote aus, 20 

Im Oktober 2016 starteten Unbekannte einen massiven ­DDoS- andere illegale Waren und Dienstleistungen 21 Angriff auf die Server von Dyn, einem amerikanischen Unterneh- das übrige Drittel. 22 men, dessen Technologie enorm wichtig für den reibungslosen und schnellen 23 Betrieb des Internets ist. Über Stunden waren an der amerikanischen Ost­ 24 küste große Teile des Internets lahmgelegt. Drei Punkte zeichneten die 25 Attacke aus: Erstens war sie 40-mal stärker als jede bis dahin gemessene 26 DDoS-­Attacke. Zweitens hatten die Kriminellen nicht einfach den Original- 27 code verwendet, den ein Student aus New Jersey geschrieben und versehent- 28 lich veröffentlicht hatte, sondern diesen sorgsam überarbeitet, um ihn stärker ddos 29 und präziser zu machen. Drittens war es die immense Kraft der Attacke, die steht für "Distributed 30 weltweit über Millionen von Geräten erfolgte, die über das "Internet der Denial of Service": Unzählige IP-Adres- 31 Dinge" miteinander verbunden waren. Der obsessive Fokus auf das Wachstum sen senden so lange 32 des Internets hat die Frage nach seiner Sicherheit zur Seite gedrängt. Wenn Anfragen an einen 33 wir unsere Haltung zum Schutz von Netzwerken nicht fundamental ändern, Server, bis dieser 34 gehen wir immense soziale und wirtschaftliche Risiken ein.

zusammenbricht. 35 36 

15-jährige Hacker, die aus Spaß Computer mit Viren bombardieren? 37 Das war einmal. Im Zuge ihrer Zusammenarbeit haben digitale Verbre­ 38 cherorganisationen die Strukturen der etablierten Verbrecherorganisatio- 39 nen übernommen. Auch sie haben heute einen Chef und einen Vorstand. 40 Eine Abteilung für Programmierer, eine für Sicherheit, eine für Social 41 Engineering, eine für die Buchhaltung und eine Armee von Fußsoldaten, 42 die das Geld waschen.

43 44  

Mafiosi und Cyber-Profis haben viel voneinander gelernt. 45 Zukünftig wird Polizeiarbeit darum vor allem im Internet stattfinden 46 müssen. Das stellt gerade in der wirtschaftlich schwierigen Phase, in 47 der sich Europa befindet, ein Problem für Regierungen und Sicher- 48 heitskräfte dar. Schon jetzt herrscht Mangel an Profis für Cyber-­ 49 Sicherheit. Nur wenige von ihnen sind bereit, für staatliche Arbeitgeber­ 50 wie die Polizei zu arbeiten, wenn sie auf dem freien Markt das Fünf- 51 bis Zehnfache verdienen können. Eines ist auf jeden Fall sicher: 52 Die Kriminellen haben die Nase vorn, wenn es um die Zukunft des 53 Internets geht.

■ 66 Think:Act 26 VORDENKER Think:Act 26 67

Es lebe die Langeweile

Die Soziologin sherry turkle fordert, dass wir Raum zurückerobern, den wir der Technik überlassen haben. Dafür müssen wir uns wieder an menschliches Tempo gewöhnen – und das ist oft sehr langsam.

von Steven Poole illustrationen von Jeanne Detallante

eute reden alle über die daran liegen, dass sie zunehmend kriti- Gefahren und das Suchtpo- schere Ansichten darüber vertrat, wie tenzial der digitalen Welt, sich unser Verhältnis zur Technologie von sozialen Medien und entwickelt hat: im Privaten, am Arbeits- digitalen Geräten. Sherry platz und im öffentlichen Raum. Sherry HTurkle tut dies schon seit fast 30 Jahren. Turkle 1984 machte ein Buch die Soziologin Ihr Buch Verloren unter 100 Freunden und MIT-Professorin bekannt: The thematisierte bereits 2011, wie einsam ­Second Self: Computers and the ­Human sich Menschen in sozialen Netzwerken Turkle ist Soziologin, ­Spirit. Darin untersuchte sie die Bezie- fühlen. Inzwischen teilen viele diese An- Buchautorin und hung von Kindern zu Videospielen und sicht. Fühlen Sie sich bestätigt? Professorin für elektronischem Spielzeug. Ich wusste ja, dass ich recht hatte. Mei- Science, Technology Und bereits 1995 analysierte sie in ne Ansicht beruhte ja auf Studien, die and Society am MIT ihrem zweiten Buch Life on the Screen, ich durchgeführt hatte: in Grundschu- im amerikanischen Cambridge. Sie wie wir im noch jungen Internet mit un- len, mit Oberstufenschülern, mit Ange- gilt als Expertin seren Identitäten spielen können. Das stellten. Alle blickten auf ihre Smart- für die Interaktion brachte sie auf das Cover des Tech-­ phones, während sie sich miteinander von Menschen mit Magazins Wired. Allerdings zum bislang unterhielten. Es ist angenehm, mit nie- digitaler Technik. letzten Mal. Turkle scherzt, das könne mand reden zu müssen, denn 68 Think:Act 26 VORDENKER VORDENKER Think:Act 26 69

das verunsichert uns. Fragt man Men- In ihrem neuesten Buch Reclaiming Con- schaffte es nicht, sich nicht unterbre- schen, warum sie ungern mit ihrem versation sagen Sie, dass wir unsere chen zu lassen. Chef sprechen, antworten sie: "Das Smartphones natürlich für nützliche Ich sage: Setzen Sie Ihren Anspruch macht mich nervös." Keiner von ihnen Dinge einsetzen können. Wir sollten es Im Gespräch: auf Langeweile und Alleinsein durch. will gern hören, was das eigentlich be- nur bewusster tun. Wie macht man das? Ihre Firma Stellen Sie klare Kommunikationsregeln deutet, nämlich: "Sie sind verletzlich." Bei gemeinsamen Mittagessen schalten auf. Erwarten Sie nicht, dass Angestell- Das ist, als ob man den Finger in die viele Menschen ihr Smartphone aus te sich umgehend zurückmelden. Und Wunde legt. und legen es auf den Tisch. Aber es ist 1 sagen Sie ihnen, dass sie nach der Arbeit erwiesen, dass Unterhaltungen in sol- keine beruflichen Telefonate mehr füh- Schritt 1: Wird Empathie durch die Art und Weise chen Situationen wenig empathisch ver- ren sollen. Richten Sie Orte in ihrem Un- Stellen Sie sicher, dass wie wir Technik verwenden, erschwert? laufen; auch die Themen sind meist ternehmen ein, an denen nicht telefo- es einen Bereich ohne Oder nutzen wir die Technik bewusst "Wenn wir E-Mails erhalten, eher trivial. Das Smartphone erinnert Telefone gibt, an dem niert wird, sondern nur von Angesicht zu in dieser Weise, weil wir Empathie ver­ entscheiden wir oft sehr Sie an alle Orte, an denen Sie sich jetzt nur von Angesicht zu Angesicht geredet wird: Reclaiming meiden wollen? befinden könnten. Darum sollten Sie es Angesicht geredet Conversation. Wenn wir E-Mails erhal- Es war immer schwer, einen Mitarbeiter besser einpacken. So gewöhnen Sie sich werden darf. ten, entscheiden wir oft sehr schnell. zu entlassen. Und es war immer schwer, schnell. Antworten Sie an das Tempo der Menschen – und das Antworten Sie stattdessen einfach mal sich von einem Partner zu trennen. Aber ist langweilend langsam. 2 mit: "Ich denke nach." Sie werden die

früher musste man ihnen dabei in die stattdessen einfach mal merkwürdigsten Reaktionen erhalten. Schritt 2: Augen blicken. Inzwischen halten wir es Sie sagen, wir sollten häufiger gelang- Verschicken Sie E-Mails weilt sein, weil Langeweile Kreativität Apple hat jüngst Tools vorgestellt, mit für akzeptabel, dass man einfach eine mit: 'Ich denke nach.'" gesammelt und sagen SMS schreibt. und Innovation fördert. Brauchen wir Sie deutlich, ob Sie eine denen User mehr Überblick darüber Die Technik kommt der menschli- noch weitere unmoderne Ratschläge? Antwort erwarten. ­haben, wie viel Zeit sie mit Apps ver­ chen Schwäche entgegen: "Mach es dir Auf jeden Fall. Langeweile, Alleinsein – bringen. Sie haben gesagt, das sei nur nicht so schwer." Eine der merkwürdig­ mal die sogenannten Alpha-Teams: die Ein anderes Problem ist, dass Algorith- das sind Zustände, die Menschen mei- 3 ein erster Schritt. Was ist der nächste? sten Technik-Demonstrationen, die ich besten Algorithmik-Experten des Unter- men zunehmend bestimmen, welche nen nicht ertragen zu können. Sie kön- Der zweite Schritt wäre, kritischer zu re- erlebt habe, war ein Programm, das ei- nehmens. Aber sie waren es nicht, die Version der Realität wir sehen, etwa im nen ja nicht einmal still sitzen. Der Reiz Schritt 3: flektieren, wie Apps aufgebaut sind. Für Ermutigen Sie alle, sich nen zur nächsten Starbucks-Filiale lei- die besten Ideen hervorbrachten, son- Newsfeed von Facebook. Wie entkom- am Meditieren ist: Menschen spüren, welche Altersgruppen dieser Aufbau beim Arbeiten nicht tet, wenn man einen Kaffee trinken will. dern die Teams, in denen Menschen gut men wir diesen Filterblasen und halten wie unruhig sie auf einmal werden, weil suchtgefährdend sein könnten und wie unterbrechen zu lassen. trotzdem zueinander Kontakt? Teilte man ihm vorher mit, dass man zusammenarbeiteten. sie das Leben nicht in einem menschli- Das sorgt für Zufrieden- man mit Menschen umgeht, die diese bestimmten Menschen aus dem Weg ge- Ich bin kein Luddit. Aber die Men- Das ist in der Tat gefährlich. Die Algo- chen Tempo bewältigen können. Wenn heit und Kreativität. Technik nutzen wollen. hen will, etwa einem Ex-Partner, suchte schen neigen dazu zu vergessen, was rithmen von YouTube leiten Menschen ich in meinem Strandhaus sitze, schaue Wir müssen endlich darüber nach- es eine entsprechende Route aus. Der Menschen alles können. Wir sollten an- nachgewiesenermaßen zu den extre- ich auf den Strand. Und sämtliche Men- denken, welche Technik wir brauchen Name dafür war: "the friction-free life" – erkennen, dass Menschen am meisten men Rändern. Egal, womit man eine Su- schen, die den Strand entlanggehen, und wozu. Die nächsten großen Verfüh- das reibungslose Leben. Wir nutzen leisten, wenn sie empathisch sind und che beginnt: am Ende findet man sich schauen auf ihre Smartphones. Wir ha- rer und Zeitfresser werden Virtual Rea- Technik, um Menschen aus unserem miteinander sprechen. Beispielsweise bei irgendeinem verrückten rechts- oder ben uns zurückentwickelt. lity und Augmented Reality sein. Dann Leben verschwinden zu lassen. bei medizinischen Diagnosen: Ärzten, linksradikalen Verschwörungstheoreti- Vergessen betrachten wir nicht mehr, was sich tat- die Patienten real treffen und sich deren ker wieder. Weil man mit immer radika- Das Buch beschreibt auch Strategien, Sie nicht, was sächlich vor uns befindet, sondern eine Entscheidungen von Menschen werden Krankengeschichten erzählen lassen, leren Clips angetriggert wird. Musste wie Entscheider mit elektronischen Menschen Fantasie. Während wir versuchen, unse- durch Entscheidungen von Algorithmen fallen unzählige Details auf, die künst- das so weit kommen? Überforderungen umgehen können. Wie können re Smartphones mal zur Seite zu legen, ersetzt, weil Menschen kompliziert und liche Intelligenz nicht erkennt. Auf die- Ich bin sehr sicher, dass wir dem wi- lauten die wichtigsten Regeln? hyperventilieren wir uns eine völlig

unberechenbar sind. Sie sagen, dies sei sem Gebiet überreizen wir die Möglich- derstehen können. Menschen, die Freu- Für eine Case Study hatte ich mit einem Algorithmus-Denken neue Welt zusammen. gefährlich. Wie schaffen wir eine Ba­ keiten gewaltig. den und Aktivitäten miteinander teilen Manager zu tun, der seine Sekretärin ist wichtig. Aber Ich mache mir Sorgen über eine Ge- lance zwischen den Gefahren und den Neue technische Möglichkeiten und andere Menschen in ihr Leben hin- anweisen wollte, alle E-Mails und Anru- Studien belegen: neration, die eine Realität, die ihr nicht Vorteilen von Algorithmen? werden immer erst überreizt und dann einlassen, werden spüren, dass sie ihre fe von ihm fernzuhalten. Er benötigte Empathie, Gespräche gefällt, nicht mehr zum Anlass nimmt, Wir sollten etwas zurückhaltender wer- korrigiert. Ich glaube, dass dies im Me- digitale Abhängigkeit durch angeneh- Ruhe, um eine wichtige Präsentation für und Teamwork sind sich politisch zu engagieren, sondern den, wenn wir die Fähigkeiten von Algo- dizinsektor passiert, im Börsenhandel mere, reale Dinge ersetzen. Wir müssen das Weltwirtschaftsforum in Davos vor- der bessere Weg, um stattdessen sagt: Dann gehe ich halt in rithmen beurteilen. Bei Google gab es ist es ohne jeden Zweifel so. nur eine bessere Balance finden. zubereiten. Aber er schaffte es nicht. Er Erfolge zu erzielen. die virtuelle Realität. 70 Think:Act 26 Kiran Mazumdar-Shaw Think:Act 26 71

Eigentlich wollte Kiran Mazumdar-Shaw Bier brauen. Aber das ist kein Job für eine Frau, fanden Indiens Braumeister. Stattdessen gründete sie Biocon: das erste Biotechnologie-Unternehmen in Indien – und eines der erfolgreichsten der Welt.

chance verwertet ­­ Kiran Mazumdar-Shaw nutzte eine zufällige von Rohini Mohan Begegnung, um eine völlig fotos von Jyothy Karat neue Branche aufzubauen.

LS SIE begann, wusste sie nichts, verlässiger Stromversorgung und lediglich zwei An- erzählt Kiran Mazumdar-Shaw. Sie gestellten. Shaws Startkapital betrug gerade mal war weder Ingenieurin noch Ge- 1.000 US-Dollar. Aber bald trieb sie weitere Inves- schäftsfrau. Aber sie wurde beides. toren für ihr Unternehmen auf. Ihre ersten Produk- Heute ist sie eine der reichsten Frau- te: Enzyme zum Klären von Bier – gewonnen aus Aen Indiens, mit einem Büro in "Electronics City", Papayas und Welsen. einem Industrie-Hub bei Bengaluru, dem früheren Das Unternehmen wuchs stetig. Aber wie groß Bangalore. Hier hat Biocon seinen Hauptsitz, der das Potenzial ihrer Technologien war, begriff Shaw weltgrößte Produzent von Insulin und Arzneimit- erst 1989 richtig, als Unilever Biocon in Irland teln gegen Brustkrebs. Shaw gründete Ende der übernahm – und gleichzeitig 30 % der Anteile der 70er-Jahre das Unternehmen – und damit praktisch indischen Tochter. Jetzt wurden Shaws Klärungs- gleich die indische Biotechnologie-Branche. enzyme auch für die Produktion von Lipton-­Eistee Für Shaw hätte der Begriff Selfmade-Frau er- eingesetzt. funden worden sein können. Nach ihrem Schul­ Heute ist Biocon ein Gigant – sowohl in der abschluss absolvierte sie in Australien eine Ausbil- 61 Biopharma-Herstellung als auch in der medizini- dung zum Braumeister. Dem Beruf, in dem bereits Mrd. USD schen Forschung. Seit 2004 ist das Unternehmen ihr Vater für United Brewers arbeitete. Aber nicht börsennotiert. Es verkauft Arzneien in mehr als gerade ein Beruf, der für Frauen in Indien typisch beträgt der derzeitige 120 Staaten und besitzt eines der weltweit größten war – niemand wollte Shaw einstellen. Also ging Marktwert von Portfolios an "Biosimilars" – Nachahmerproduk- Biocons Portfolio Die Erste sie nach Schottland, wo sie per Zufall ­Leslie ten von Biopharmazeutika, mit einem Marktwert an Biosimiliars. ­Auchincloss kennen lernte, den Gründer der iri- Das Unternehmen von rund 61 Milliarden US-Dollar. schen Biotech-Firma Biocon Biochemicals. Diese verkauft Pharmaka in Ernstzunehmende Konkurrenten gibt es kaum. Begegnung veränderte alle Ziele, die sie sich bis- 120 Staaten der Welt.­ Nur wenigen Biotech-Unternehmen gelingt es so lang für ihr Leben gesteckt hatte. Als Mazumdar-Shaw gut wie Biocon, Wissenschaftler aus ihren Univer- ihr Unternehmen ihrer Art Auchincloss erlaubte ihr, den Namen Biocon sitäten herauszulocken oder Fördergelder für kli- gründete, verfügte sie in Indien zu nutzen. Das neu gegründete Joint Ven- über ein Startkapital nische Genforschung zu akquirieren. Das ist zum ture bezeichnete Shaw nach außen gern als ein von 1.000 US-Dollar. größten Teil das Verdienst von Shaw: Stets war sie "multinationales Unternehmen". Was daran stimm- persönlich involviert: beim Akquirieren von For- te, war, dass seine beiden Gründer aus zwei ver- schungsgeldern, bei Verhandlungen mit Aufsichts- schiedenen Ländern stammen. Weniger bekannt behörden, Politikern oder wichtigen Playern im war der Umstand, dass als Firmensitz eine ange- Gesundheitsbereich. Sie wurde zum Gesicht der mietete Werkstatt in Bengaluru diente – mit unzu- Biotech-Branche. 72 Think:Act 26 Kiran Mazumdar-Shaw Think:Act 26 73

Was war Ihr erster Gedanke heute Morgen? Ich überlegte, was ich bei meiner Rede vor einer "Ich versuche meinen Gruppe von Absolventen der Biocon Academy sa- gen sollte. Ich sagte: Nur wer sich Ziele steckt, stellt Mitarbeitern klarzu- die richtigen Fragen. Biotechnologie hält eine Un- menge von Antworten bereit. Indiens Wirtschaft machen, dass ihr Job etwa basiert vornehmlich auf Agrarprodukten, aber die Bodenerträge sind niedrig. Wissenschaft- ler können mit Biotech-Produkten Lösungen für nicht darin besteht, Herausforderungen wie Schädlingsbekämpfung, Dürre oder nährstoffarme Böden finden. Noch eine bestimmte mehr Möglichkeiten eröffnet uns die industrielle Biotechnologie: Enzyme können dabei helfen, Tätigkeit auszuführen, rückstandlose Produkte herzustellen, die unsere Städte nicht verschmutzen. sondern darin, ein selbst gemacht Was waren Ihre Ziele, als Sie Biocon gründeten? ­­Technologien selbst zu Ich wollte etwas Bleibendes erschaffen. Laut einer Problem zu lösen." entwickeln ist riskant. Biocon machte daraus Erhebung der Weltgesundheitsorganisation haben ein Geschäftsmodell. 5,1 Milliarden Menschen auf der Welt keinen oder nur einen erschwerten Zugang zu einer modernen Gesundheitsversorgung. Diesen Menschen möch- te ich helfen.

Was waren die größten Herausforderungen? Ich war 25. Ich war eine Frau. Ich hatte keine Be- rufserfahrung. Ich hatte keine Ersparnisse. Und ich war dabei, ein Unternehmen für Biotechnolo- gie zu gründen – eine Branche, von der niemand je Man muss die Fähigkeiten von Ingenieuren und ten und erreichen können. Junge Wissenschaftler Sie haben eine Stiftung gegründet, die sich in der gehört hatte. Aber wenn man seinen Weg verfolgt, Biowissenschaftlern zusammenbringen. Man sind zu Biocon gekommen, weil sie wussten, dass Krebsforschung engagiert, und eigene Kranken­ trifft man irgendwann auf Menschen, die verste- 200 ­arbeitet mit störungsanfälligen Technologien, sie dieses Unternehmen mit mir zusammen auf- Kiran häuser. Warum ist Philanthropie Ihnen wichtig? hen, was man vorhat, und mitmachen. Plötzlich braucht sterile Produktionsstätten und hohe Si- bauen können. Indien mangelte es damals an Res- Eine sehr gute Freundin von mir starb an Krebs. war ich dabei, das erste Technologie-Start-up in In- weltweite cherheitsvorkehrungen. Das macht ihre Herstel- sourcen. Wir konnten kaum Wirkstoffe oder Tech- Mazumdar- Obwohl sie eine beruflich erfolgreiche Frau war, dien zu gründen – ohne dass mir das bewusst war. Patente hielt lung extrem teuer. nologien importieren. Wir mussten also sehr clever Shaw konnte sie sich die Kosten einer Behandlung nicht Biocon 2010. sein, um kostengünstige Wege zu finden, um selbst leisten. Ich hatte viele bezahlbare Produkte für die Warum Biotechnologie? Wie lautet Ihre Management-Philosophie? etwas Hochkomplexes herstellen zu können. Mazumdar-Shaw­ Gesundheitsbranche entwickelt, aber jetzt wurde Weil mich niemand Bier brauen lassen wollte, be- Mich treibt der Wille an, höchste Qualität zu nied- startete ihr mir klar, dass Patienten bezahlbare Behandlungen gann ich mit etwas, das dem Bierbrauen sehr nah rigsten Kosten zu produzieren. Das ist eine schwie- Warum war es so wichtig, eigene Technologien zu Unternehmen mit brauchen. kommt: der Herstellung von industriellen Enzy- 5,1 rige Balance: Indien hat einen schlechten Ruf in entwickeln? Enzymen für die Ich tat mich mit Devi Shetty von ­Narayana men. Ich entwickelte pflanzliche Enzym-Technolo- Sachen Compliance und eine Menge Auseinander- Das bin ich oft gefragt worden. Vor allem, als es ge- Lebensmittel- ­Health zusammen. Das ist eine Krankenhauskette, gien für die Lebensmittelindustrie, beispielsweise Milliarden setzungen mit internationalen Aufsichtsbehörden. rade schwer war, an Kapital zu kommen. Dann industrie. Sie er- die günstige Behandlungsprogramme für Herzer- für Bierhefe, Brot, Fruchtsäfte und Milchprodukte. Ich nehme das sehr ernst und verfolge darum hieß es: Warum gehen Sie dieses Risiko ein – mit warb sich einen Ruf krankte anbietet. Nach diesem Vorbild entwickelte Zudem entwickelte ich umweltfreundliche Tech- Menschen haben ­einen proaktiven Ansatz bei den Themen Com­ einer selbst entwickelten Technik, die vielleicht als Erneuerin des ich ein ähnliches Programm für Krebserkrankun- nologien, um Chemikalien wie Stärke zu ersetzen. nach Angaben der pliance, Datenschutz und Qualität; darin bin ich nicht skaliert oder erst gar nicht funktioniert? Gesundheitswesens. gen und ließ das Mazumdar-Shaw Krebskranken- 1998 konnte ich die Fermentierungs- und rekom- Weltgesundheits­ absolut kompromisslos. Auch wenn dadurch man- Ich sagte: Das ist die Basis unseres Geschäfts- 2014 erhielt sie haus bauen. Dazu gehört auch ein translatorisches die Othmer- binante Technologien einsetzen, um etwas noch organisation ches mehr Zeit benötigt oder teurer wird. modells. Das ist, was uns von allen anderen in der Forschungszentrum, in dem aufgrund von For- keinen oder nur Goldmedaille für Aufregenderes aufzubauen: Biopharmazeutika. Welt unterscheidet. Aber erst als Unilever unsere schungsergebnissen klinische Anwendungen ent- sehr erschwerten herausragende Wie schaffen Sie es, dass die Mitarbeiter auf allen Zugang zu moderner irischen Partner kaufte und unsere indische Toch- Leistungen für die wickelt werden. Mein Ziel ist es, Menschen zu för- Das war der Kickstart für Biotechnologie in Indien. Gesundheits­ Ebenen Ihre Philosophie teilen? terfirma dabei hoch bewertete, wurde mir die Be- Wissenschaft. dern, die nachhaltige Modelle entwickeln. Mal Wie hat sich die Branche dort seitdem entwickelt? versorgung. Ich versuche ihnen klar zu machen, dass ihr Job deutung unseres Wissens richtig bewusst. Dassel- finanziere ich eine Professur, mal ein Stipendium, Indische Pharmaprodukte spielen eine wichtige nicht darin besteht, eine Tätigkeit auszuführen, be passierte 2010, als wir hohe Bewertungen für mal ein Forschungsprojekt. Risikokapital für phil­ Rolle im globalen Markt für Generika und Impf- sondern darin, ein Problem zu lösen. Wenn sie ein die 200 Patente erhielten, die Biocon bis dahin an- anthropische Zwecke ist enorm wichtig. Vor allem, stoffe, aber Biopharmazeutika sind komplexer. Problem lösen, merken sie, dass sie etwas gestal- gemeldet hatte. weil es wenig davon gibt. ■ 74 Think:Act 26 EINE STADT ERFINDET SICH NEU EINE STADT ERFINDET SICH NEU Think:Act 26 75 Neustart für Nach 60 Jahren Niedergang erwacht Detroit zu neuem Leben. Die Triebfedern sind ein innovativer Bürgermeister, Detroit umtriebige Geschäftsleute und junge Kreative. Aber das ist ­­nur ein erster Schritt.

von Bennett Voyles

ie war einmal die reichste stadt der USA. Genauer gesagt, im Jahr 1950. Nie- mand verdiente damals pro Kopf mehr als die 1,8 Millionen Einwohner von De- troit. Denn ihre Heimat "Motown" war Sdas Zentrum des größten amerikanischen Indu­ striezweigs: der Automobilindustrie. Vorbei. Denn als die Autobauer ihre Produkti- onsorte verlagerten, sank die Einwohnerzahl auf 675.000. Und innerhalb kürzester Zeit gehörte die Stadt zu den ärmsten der USA. Detroit – das stand nun für Straßenzüge mit abgebrannten Häusern. Für Bürohäuser, die mit Brettern vernagelt waren. Für kaputte Ampeln. Und für eine Stadtverwaltung mit einem Defizit von 18 Milliarden Dollar. Noch 2013 schien die Stadt in einer Abwärtsspirale gefangen. "Alles steuerte dem Abgrund entgegen", erinnert sich John Austin, Di- grau wird grün rektor des Michigan Economic Center und Dozent Detroit hat sich für Wirtschaft an der University of Michigan. verwandelt: von Heute strahlt Motown wieder. Und das in je- der Hauptstadt der dem Sinne: Die Stadtverwaltung ist aus den Schul- US-Autoindustrie den heraus. Fast alle Ampeln funktionieren, und in ein Zentrum für Ideen zur Stadt­- nachts brennen in Detroit wieder Straßenlaternen. In der Innenstadt haben sich viele kleine und gro- erneuerung wie / getty images, / laif jäger malte "Urban Farming". ße Unternehmen angesiedelt. Dort sind kaum noch hochwertige Büroflächen zu bekommen, fotos: fotos: afp ebensowenig wie freie Wohnungen. 76 Think:Act 26 Eine Stadt erfindet sich neu Think:Act 26 77

MOTOWN DAMALS UND HEUTE

…Bevölkerung… stunde null Die verwaisten 1.849.568 Stadtteile sollen 1950 durch kleine Experimente 673.104 belebt werden. 2017 "Die Menschen sind begeistert, dass etwas pas- siert", sagt Harrison West, der in Detroit als Senior­ Research Analyst für das Immobilienunternehmen JLL arbeitet. "Es herrscht großer Optimismus." Jahrzehntelang fragte man sich, woran es lag, dass alles schiefgelaufen war. Am Niedergang der US-Automobilindustrie, der Abwanderung der wei- ßen Mittelschicht, der Inkompetenz der Politiker? Heute lautet die Frage: Warum läuft es so gut?

einer der gründe heisst Mike duggan. Niemand würde bestreiten, dass der neue Bürgermeister eine wichtige Rolle in der Erneuerung der Stadt …Arbeitslosenquote… spielt. Duggan, früher Staatsanwalt im angrenzen- den Wayne County, positionierte sich als Macher. Vor seiner Amtszeit betrug die Reaktionszeit von Rettungsdiensten auf einen Notruf 18 Minuten, 27 % 2010 heute liegt sie beim US-Durchschnittswert von 9,9Stand: % acht Minuten. Die Reaktionszeit der Polizei lag 2018 bei Notrufen der höchsten Stufe 2013 nach einer – ab in die city Januar 2018 umstrittenen – Statistik sogar bei 58 Minuten; heu- Viele gut aus- gebildete junge te sind es nur noch 14,5 Minuten. Das erreichte merkonzerte, die der Unternehmer Dan Gilbert Menschen leben ­Duggan auch dadurch, dass er neu definierte, was wieder lieber co-sponserte, oder Massen-Yogaunterricht, organi- "höchste Stufe" bedeutet. Aber viele Veränderungen in der Stadt als siert vom "Project Public Spaces". sind real. Dazu gehörte, dass er neue Fahrzeuge für im Speckgürtel. die städtische Flotte anschaffte und Feuerwehrleu- die behörden verbesserten ihre arbeit aber auch te eine Zusatzausbildung zum Sanitäter erhielten. es war einmal in klassischen Einsatzbereichen rapide: Polizeiwa- Aber Duggan ist nicht allein verantwortlich. Das Michigan chen etwa verfolgen die Bewegungen ihrer Einsatz- Ein Konsortium aus Philanthropen und lokalen Theatre war einst wagen nun mit digitalen Karten und können so Geschäftsleuten trug 700 Millionen Dollar zusam- ein elegantes Kino, Notrufe besser bestimmten Einheiten zuweisen. heute parken men, um Pensionskürzungen städtischer Ange- Und sie setzen Internet-of-things-Technik da- hier Autos. stellter zu kompensieren und das weltberühmte für ein, mit weniger Aufwand mehr zu erreichen. Kunstmuseum "Institute of the Arts" zu erhalten. Seit das kanadische Start-up Miovision Detroits "Es ist beeindruckend. All dies funktionierte, Ampeln mit Monitoren ausstattete, lassen sich die- ohne dass die Stadt mehr von ihrem Tafelsilber ver- se wesentlich leichter warten. Fiel in der schlech- kaufte", sagt Austin. Eine neue Herangehensweise ten alten Zeit eine Ampel aus, blieb sie aus. "Gab hilft dabei: LQC. Das steht für: "Lighter, Quicker, es keinen Bürger, der den Ausfall meldete, hatte Cheaper", also: "leichter, schneller, billiger". Die "Die Menschen sind die Verwaltung keine Möglichkeit festzustellen, LQC-Befürworter versuchen nicht mehr, große In- dass ein Teil ihres Verkehrssystems nicht funktio- vestitionen zusammenzubekommen, die dann in begeistert, dass etwas nierte", sagt Lynda Chau, Marketingchefin von Projekte mit ewig langen Laufzeiten gesteckt wer- ­Miovision. Heute weiß sie im Voraus, wann Repa- den. Stattdessen versuchen sie, einladende Orte zu passiert. Es herrscht raturen anfallen werden. Und das ist nur der An- schaffen, an denen Menschen sich versammeln. fang. Miovision testet in Detroit "die schlaueste Die Theorie: So entsteht Gemeinschaftssinn, der Kreuzung der Welt". Das Projekt vereint ein ganzes Neues schafft – und wiederum Investoren anzieht. großer Optimismus." Paket innovativer Technologien, darunter eine Beispiele dafür sind der städtische Strand, den Gelbphase, die sich automatisch verlängert, wenn

Southwest Airlines auf einer Brache anlegte, Som- fotos: / laif jäger malte (2) fotos: chris reeve / loop / laif images Harrison West, Senior Research Analyst bei JLL ein Fahrradfahrer die Kreuzung überquert. 78 Eine Stadt erfindet sich neu Think:Act 26 79

grosser bahnhof Noch schrumpft die Bevölkerung, aber das Früher fuhren hier Tempo des Rückgangs ist so niedrig wie seit Jahr- "Viele Menschen fragen Züge. Jetzt will Jim zehnten nicht mehr. 2016 verlor die Stadt gerade Hackett, Präsident einmal 3.541 Einwohner. Und die Neubürger sind und CEO der Ford sich: Wohin ist mein meist hoch qualifiziert. Zwischen 2010 und 2015 Motor Company, wuchs laut einer Studie die Zahl der Millennials in der Michigan Detroit verschwunden?" Central Station mit einem College-Abschluss oder höherem Ab- schluss um 78 % – mehr als in jeder anderen Stadt einen Innovations­ John Austin, Direktor Michigan Economic Center hub für elektrische der USA. und autonom Es gibt Unternehmen, die ernsthaftes Interes- fahrende Autos se daran haben, Detroit zu einer Stadt zu entwi- errichten. ckeln, die ebenso cool und interessant ist wie Ber- Das vielleicht größte Problem ist der weiterhin lin", sagt Austin. "Weitere Gegenden werden sich tiefe Graben zwischen Weißen und Schwarzen, die verwandeln und die Geschäfts- und Ausgehviertel den überwiegenden Teil der Bevölkerung stellen. werden sich ausdehnen." Viele von ihnen hätten das Gefühl, dass der Auf- schwung bei ihnen nicht ankommt, sagt Austin: bis dahin ist jedoch noch viel arbeit nötig. So "Sie sehen die jungen weißen Hipster in den Innen- liegt etwa die Kriminalitätsrate trotz durch- stadt-Lofts und fragen sich: Wohin ist mein Detroit schnittlich 5 % Rückgang pro Jahr immer noch 90% verschwunden? Was bedeutet das für mich?" deutlich höher als die vieler anderer Städte. Die Frage ist ein Problem für die Stadt als Gan- Und obwohl bereits 5.800 leer stehende Gebäude aller Büroflächen der zes. Denn viele potenzielle Neubürger werden …Reaktionszeit für abgerissen wurden, müssten nach einer Schät- Detroiter Innenstadt durch diese Ablehnung abgeschreckt. Ausländer, Polizeieinsätze… zung der Skillmann Stiftung immer noch 29 % in A-Lagen sind die nach Michigan einwanderten, meiden meist derzeit vermietet. der Detroiter Gebäude saniert oder abge­rissen die Stadt. Elmore Leonard, Autor erfolgreicher Kri- werden – ohne dass es einen Plan gäbe, was an- mis, die die Milieus der Stadt widerspiegelten, 58 min schließend mit den frei gewordenen Flächen ge- schrieb einmal: "Es gibt Städte, die davon leben, 2013 schehen solle. dass sie nett aussehen. Andere haben ein angeneh- 14,5 min Die Wirtschaft der Stadt ist nach Ansicht eini- mes Klima oder Aussichten auf Berge oder Ozeane, Heute ger Analysten nach wie vor viel zu stark von der Au- Felsen oder Palmen. Und es gibt Städte wie Detroit: tomobilbranche abhängig. Einer Branche, deren Die müssen für ihren Lebensunterhalt arbeiten." Zukunft völlig unklar ist. Und der Aufbau eines öf- Die Menschen, die Detroit nach vorn bringen Auch Immobilienunternehmen spielten eine schönheitskur ten Gilberts Beispiel, darunter die Ford Motor fentlichen Nahverkehrssystems, das die gesamte wollen, wissen, dass in den kommenden Jahren wichtige Rolle für die Wiederbelebung. Der Exodus Die Michigan Company, die im Juni 2018 den alten Bahnhof Metropolregion abdeckt, scheiterte bislang am noch viel Arbeit vor ihnen liegt. Die gute Nachricht der Geschäftsleute war in den 50er- und 60er-­ Central Station kaufte, die "Michigan Central Station", um dort ­Widerstand der von Weißen dominierten Vororte. ist: Sie haben endlich wieder ein Ziel. ■ ist eines der Jahren einer der entscheidendsten Faktoren für den Innovationshub "Corktown Campus" zu er- Gebäude, das den Niedergang. Erst sanken die Steuereinnahmen, in altem Glanz richten. "Das ist das bisher deutlichste Zeichen für dann die Einwohnerzahl: Insbesondere die weiße erstrahlen soll. den Umschwung", sagt West: "Das Gebäude war Mittelschicht zog weg. Einige Gegenden verwan- 30 Jahre lang ein Symbol des Niedergangs. Dass delten sich in regelrechte Geisterstädte. Ford hier einen Campus einrichtet, wird die Ge- Motown Valley: Detroit wird zum Zentrum für Start-ups gend komplett verändern." das startsignal gab dan gilbert, als er 2010 ent- Inzwischen bauen Bedrock und andere Immo- schied, sein Unternehmen Quicken Loans aus ei- bilienentwickler sogar selbst. "Es gibt kaum noch Detroit wird erneut zum → shinola 100 Kilometer verbrau- → twisted water einem Fingerabdruck nem Vorort in die City zu verlegen. "Nach und nach Gebäude in A-Lagen, die ausreichend Platz für grö- Zentrum der Innovation. Shinola produziert in chen soll. Das Unternehmen bietet geöffnet werden kann. kaufte er leer stehende Bürogebäude und Apart- ßere Zahlen an neuen Mietern bieten." Der Gründergeist, Detroit luxuriöse Uhren, gesunde Alternativen Gründer Omer Kyani menthäuser auf. Alles zu Schleuderpreisen", sagt Doch es sind nicht nur große Unternehmen, für den einst Namen Fahrräder und Leder­ → cityinsight zu Softdrinks – in Form wurde als Kind von einer wie Henry Ford und waren im Retrolook. Die Nutzer dieser App kalorienarmer ­Getränke Schusswaffe verletzt. JLL-Mann West: "Viele der Gebäude waren wunder- die zurückgekommen sind. Ein Grund für den Nie- sein T-Modell oder können unter anderem ohne Maissirup­ und schöne Gebäude, manche waren 100 Jahre alt. Sie dergang Detroits war die Begeisterung der Nach- Berry Gordys Motown → elio motors in Echtzeit sehen, wie Gluten. → plum health dpc waren nur vernachlässigt worden." Gilbert gründe- kriegsgeneration für Vorstädte. Jetzt schwingt das

getty images (2) images getty Records standen, wird Designer Paul Elio hat viel Wasser ihr Haushalt­ Eine Krankenversiche- / te die Immobilienfirma Bedrock Detroit, der heu- Pendel zurück: Viele Millennials ziehen es vor, in heute von Start-ups ein dreirädriges Auto verbraucht, Rechnungen → sentinl rung im Abo-Modell, die te rund 1,5 Millionen Quadratmeter Wohn- und der Stadt zu leben. Dieser Umschwung wiederum repräsentiert. Hier ein entworfen, das 7.450 von Versorgungsunter­ Hersteller von Identilock, den schwerfälligen und Bürofläche gehören. Sein anderes Unternehmen, zwingt Arbeitgeber, die qualifizierten Nachwuchs paar herausragende Dollar kosten und nehmen bezahlen und einem Schloss, das an teuren Markt für private Quicken Loans, beschäftigt heute mehr als 17.000 suchen, dazu, ebenfalls wieder in die großen Städ- Beispiele: nur drei Liter den Kundendienst Schusswaffen ange- Gesundheitsvorsorge

Mitarbeiter in der Stadt. Viele Unternehmen folg- te zurückzuziehen, einschließlich Detroit. bloomberg fotos: elio motors foto: Sprit auf herbeirufen. bracht wird und nur mit aufmischen soll. 80 ����������� Think:Act 26 81 Denk-

Anstöße neues rollenverständnis Die Zentrale ist tot! Es lebe die Zentrale! Lassen Sie sich inspirieren: Studien Firmenzentrale? Klingt ziemlich altmodisch. Oder doch nicht? von Roland Berger zu Eine aktuelle Studie von Roland Berger kommt zu dem Er- modernem Management gebnis, dass Digitalisierung zu wachsender Dezentralisierung Der Fokus des Start-ups Zunum Aero liegt und technologischem führt – und neuen Aufgaben für Zentralen. Zentralen würden auf Elektroflugzeugen mit 6–12 Sitzplätzen. Wandel. nicht verschwinden, sagt Fabian Huhle, Senior Partner und einer der Autoren der Studie. Die eigentliche Herausforderung sei nicht eine Disruption durch eine Dezentralisierung im unter strom elektroflugzeuge geografischen Sinne. Neu ist vielmehr, dass dezentral verteilte Kompetenzen über innerbetriebliche Grenzen hinweg zuein­ Nahe Zukunft: anderfinden sollen – orchestriert von der Zentrale. ~100 Batterieflieger im Flugzeuge mit elektrischem Antrieb Linienbetrieb →→ aus digitalisierung wird dezentralisierung werden derzeit Warum Firmenzentralen ihre Rolle in digitalisierten Unternehmen weltweit entwickelt. neu definieren müssen: https://rb.digital/2P9GZt4 Es geht nach oben für elektrisch betriebene Flugzeuge. Nach einer aktuellen Studie von Roland Berger wäre bereits im Jahr 2032 ein Linienverkehr zwischen London und Paris mit einem Hybrid-Elektro-Flugzeug mit "Erstmals 50 Sitzen möglich. Es gibt gute kann die Gründe für den Wechsel: Ginge die derzeitige Entwicklung weiter, würde der Flugverkehr im Jahr millennials auf tour Branche Ausgaben 2050 weltweit 25 % der Kohlen­ auf Reisen sich einen dioxid-Emissionen verursachen. Flugbetrieb Batterien könnten die Branche Anders reisen darum gewaltig verändern. Airliner und Unternehmer sind CHINESEN 18 % vorstellen, 19 % Shopping In 3D-Druck hergestellte enthusiastisch. als die Alten Sonstiges künstliche Bandscheibe. der nicht Andreas Thellmann, Projekt­ verantwortlicher bei Airbus, hält es vollständig für möglich, Helikopter mit rein additive fertigung 14 % 16 % elektrischem Antrieb für Kurzstre- Flüge Sehenswürdigkeiten millennials machen alles anders. Erst definierte die Generation der Schichtwechsel auf Kerosin cken einzusetzen,­ inklusive der heute 18- bis 34-Jährigen die Arbeitswelt neu. Inzwischen ist klar: / getty images; science source / getty images, zunum areo, jacobia / getty / bloomberg dahm images basiert." Einrichtung von Hubschrauber­

afp Additive Manufacturing (AM), auch Additive Fertigung Auch bei Reisen bleibt nichts wie gewohnt. Millennials stellen andere 17 % 16 % landeplätzen in Städten. Erwartungen an Reisen als vorherige Generationen. Ein wichtiger Übernachtung Essen genannt, bedeutet, Material schichtweise aufzutragen, um Johan lundgren, Ashish Kumar, Gründer und Punkt dabei: Sie nehmen ihre digitale Kompetenz überall hin mit. Das daraus 3D-Objekte herzustellen. Metallverarbeitenden CEO von EasyJet CEO von Zunum Aero, einem verändert auch die Reisebranche. Dazu gehört etwa das Revival des 8 % Unternehmen bieten sich dadurch vielversprechende neue Start-up, das Hybridantriebe AMERIKANER Städtetrips. Aber auch, dass die Grenze zwischen Geschäftsreisen und Shopping Möglichkeiten – vorausgesetzt, sie halten mit der neuen entwickelt, prognostiziert: "Ich Urlaub verwischen. Shoppen, Arbeiten und Erholung gehören zusam- 18 % Technik Schritt. Ein aktueller Report von Roland Berger erwarte, dass die kommerzielle Sonstiges 11 % skizziert einen Vier-Punkte-Plan für Unternehmen, um diese men. Sogar ein neues Buzzword für diese Art zu Reisen gibt es bereits – Sehenswürdigkeiten Nutzung elektrischer Fluggeräte eine Kombination aus den Worten "Business" und "Leisure": Bleisure. Technik in ihrem Betrieb zu implementieren. ab 2022 beginnt." 20 % 16 % Flüge Essen →→ eine generation definiert reisen und konsum neu →→ am: auf dem sprung zur massenproduktion →→ wandel über den wolken Shoppen, Erholung Geschäft. Erfahren Sie mehr darüber, was für Menschen zwischen Erfahren Sie mehr darüber, wie sich Prozesse und Technologien Wie Innovationen die Luftfahrt verändern quelle: expedia media solutions, 2017 solutions, media quelle: expedia 18 und 34 beim Reisen wichtig ist: https://rb.digital/2NK30yw fotos: lumina / stocksy; images josh edelson / in der Produktion wandeln: https://rb.digital/2MdhHcn werden: https://rb.digital/2LkGrSD 27 % Übernachtung 82 Think:Act 26 Drei Fragen an ...

wie entstehen multiple intelligenzen?

Seine Thesen revolutionierten die Sichtweise auf das menschliche Hirn. howard gardner, Psychologe und Autor, beantwortet uns drei Fragen dazu, was in Zukunft vom Menschen bleibt.

Sie haben verschiedene Arten Ist Intelligenz angeboren oder von Intelligenz identifiziert: das Resultat äußerer Einflüs- bleib Mensch! bleib musikalische, körperliche, se? Kann sich KI selbsttätig er- räumliche, mathematische, weitern? Können digitale Ge- sprachliche, intrapersönliche, räte Intelligenz beschränken? soziale und naturalistische. Gibt es eine Einige Intelligenzen entwickeln sich in Intelligenz, die in Zukunft bedeutsamer jungen Jahren, andere sind das Resultat sein wird als die anderen? jahrelanger Übung. Ob KI menschliche Derzeit ist die mathematisch-logische Intelligenz einschränken wird, liegt an Intelligenz besonders nützlich, weil man uns: Wir können Technik nutzen, um sie zum Programmieren braucht. Sobald neue Arten des Denkens zu entwickeln – künstliche Intelligenz und Roboter so- und wir können uns von ihr abhängig gar herausforderndste Aufgaben besser machen und zulassen, dass unser kog- bewältigen als wir, werden andere Intel- nitives Potenzial verödet. ligenzen wichtiger; insbesondere solche, die musische und emotionale Bereiche Wie wichtig ist Kunst für betreffen. Und durch das Aufkommen menschliche Entwicklung? neuer Technologien lassen sich Intelli- Für mich ist ein Leben ohne genzen auf ungeahnte Weise miteinan- Kunst kein richtiges Leben. der verknüpfen. Twitter etwa verbindet Digitale Spiele kommen nicht linguistische mit sozialer Intelligenz. an das heran, was das Wissen über klas- sische Kunst ausmacht, die Bewunde- rung für zeitgenössische Künstler und die Möglichkeit, Kunst selbst zu erschaf- Howard Gardner fen. Ich spiele täglich Klavier. Und in je- Gardner ist Professor an der der neuen Stadt, die ich besuche, gehe Harvard University und Autor von

ich als Erstes in ein Museum. ■ saidi sasan 2016. illustration: education, of school graduate harvard foto: Multiple Intelligences:­ New Horizons in Theory and Practice. fotos: privat (2), teresa walton www.rolandberger.com +49 899230-0 80538 München Sederanger 1 Roland GmbH Berger Charles-Edouard Bouée Herausgeber An dieser Ausgabe An haben mitgewirkt:

Jugend inGroßbritannien war arbeitet alsIllustrator inNew begeistert, was manseinem York. Schon während seiner erzählerischen Stil ansieht. er von ComicsundFilmen wurden unter anderem in der Schweiz. SeineFotos lebt inDeutschlandund Guardian Time, Monocle andThe J Ronald P ack Richardson Melissa Frost Subeditor Corporate Solutions Axel Springer SE Mark Espiner Redaktion Neelima Mahajan Leitende Redakteurin Regina Körner & Communications Head of GlobalMarketing → → seite34 seite 12 veröffentlicht. atrick

Seriously Organised Crime eine Fernsehserie, die TED-Talks undBasis für ist Journalist und Autor.Journalistist IMPRESSUM BBC jüngstausstrahlte. Sein BuchMcMafia: warseines Thema Ruksaldruck GmbH & Co. Druck Einhorn Solutions GmbH BianchiAnna Tanja Sannwald, Pawel Pedziszczak, Director) (Art Blasius Thätter Design misha glenny → seite 60

KG Veröffentlicht im 2018 November [email protected] von Roland Schreiben Berger? Siean: Interessieren Siesich Studien für an: [email protected] an das Redaktionsteam? Schreiben Sie Herausgebers wieder. HabenSieFragen geben nichtdieMeinung des unbedingt Die im Magazin enthaltenenBeiträge Hinweis Rechte Alle geschützt. werdenvorbehalten. MagazinbeiträgeAlle sind urheberrechtlich Urheberrechte Think:Act 26

83 83 Mehr auf www.rolandberger.com/tam