Den Digitalisierungs-Autopiloten abschalten

Marco De Micheli, PRAXIUM Verlagsleiter, hat gegenüber der Digitalisierung eine sehr ambivalente Haltung. Im Blog des Verlages erscheinen oft sehr kritische Beiträge zur Digitalisierung, aber genauso Chancen und Nutzen aufzeigende.

Franziska Werfli von hrmbooks.ch wollte von ihm wissen, was dahinter steckt und wie er wirklich zur Digitalisierung steht.

Herr De Micheli, in Ihrem Blog äussern Sie sich über die Digitalisierung oft sehr kritisch, manchmal gar mahnend. Sind Sie ein “Digitalstürmer”?

Könnte man zuweilen meinen, ich weiss :-). Ist aber nicht so. Vieles an der Digitalisierung ist begrüssenswert und positiv. Neue medizinische Diagnosemöglichkeiten, neue faszinierende Lerninstrumente, vereinfachte Publikationsmöglichkeiten für jedermann, Entlastung von monotoner Routinearbeit, hilfreiche Prognosen dank Big Data und vieles mehr. Vieles macht die Digitalisierung bequemer, effizienter, fehlerfreier, sicherer, ressourcenschonender und schneller. Auch die zahlreichen positiven Beiträge in unserem Blog oder die Fachinformationen zur Digitalisierung aus dem PRAXIUM Verlag beweisen, dass ich vieles an der Digitalisierung positiv sehe und die Chancen überwiegen. Nur: Es haftet der Digitalisierungseuphorie eben zuweilen auch etwas tendenziell Totalitäres an, dass wer nur schon Zweifel äussert oder ein wenig Kritik übt, sehr schnell in die Ecke der Fortschritts-Feindlichkeit gedrängt wird.

Weshalb denn Ihre häufige und teils massive Kritik?

Meine häufige Kritik rührt daher, dass man gegenüber der Digitalisierung massiv und teilweise auch naiv unkritisch ist und sie nicht hinterfragt. Es dominiert vielfach blinde Technologiegläubigkeit. Können Chatbots wieder einige Sätzchen mehr aus Kandidaten-Interviews verstehen, wird das sofort gefeiert. Man sieht die Digitalisierung als den heiligen Gral und reagiert beinahe entzückt auf jede noch so banale Neuerung der KI. Das Hauptproblem ist aber, dass diese die gesamte Gesellschaft umstülpenden Entwicklungen ohne jegliche Kontrolle abläuft und einige Silicon Valley Abenteurer in vielen Bereichen auch die Art und Weise bestimmen, wie wir leben und was für unsere Zukunft wichtig ist. Das Problem ist, dass Konsumenten, Bürger und Politik dabei nichts zu sagen haben und über deren Pläne auch nicht informiert werden.

Aber diese Innovationen sind doch wichtig für unseren Fortschritt. Was ist daran so schlimm?

In vielen wichtigen Bereichen bestimmen Technologien mit Algorithmen die Entwicklungsrichtung unserer Gesellschaft ohne jegliche Verantwortung für gesellschaftliche Konsequenzen, man denke nur an auf uns zukommende millionenfache Jobverluste. Es ist viel zu wenig Verantwortungsbewusstsein vorhanden, weil digitale Evangelisten ohne soziale Kompetenzen und politisches und ethisches Verständnis mit deren Perfektions- und Optimierungswahn die Welt zum digitalen Versuchslabor machen. Die abgehobenen Fantastereien gehen sogar so weit, dass wir mit der Technik verschmelzen, Teil einer Cloud werden und unseree biologischen Fesseln sprengen sollen. Ein Extrembeispiel ist auch, dass man beispielsweise den Tod besiegen will, sich aber über die katastrophalen und desaströsen gesellschaftlichen Auswirkungen nicht ansatzweise im Klaren ist und sich darüber vermutlich nicht einmal Gedanken macht. Man bastelt einfach daran herum, in der Erwartung, wieder einige milliardenschere Investoren anlocken zu können for the next big thing. Der gesellschaftliche Nutzen, ob Menschen das überhaupt wollen oder gar die Risiken werden meistens völlig ausgeklammert, als gäbe es sie gar nicht.

Bürger und Politik sind völlig ahnungslos, was abläuft, man macht gemäss der Machbarkeitsdroge einfach, was machbar ist. Doch erste Warnsignale häufen sich und wir erleben in letzter Zeit immer öfters, dass einiges ausser Kontrolle gerät, unausgereift ist und der KI auch nach über 40 Jahre noch immer enge Grenzen gesetzt sind. Selbstfahrende Autos töten Menschen. Bei Facebook gehen Millionen höchst sensibler Lebensdaten verloren und bei den Techgiganten werden Riesenmengen unserer teilweise hochsensiblen Lebensdaten gespeichert. Wofür sie genutzt werden, welche Profile über uns bestehen, wer diese zu sehen bekommt und vieles mehr – das weiss niemand. Eine aktuelle Befragung von Tagesanzeiger online ergab, dass über 70 Prozent der Facebook-Nutzer kein Vertrauen mehr in das soziale Netzwerk mehr haben, auch das ist ein Warnsignal. Und woran sonst noch in den Labors getüftelt wird, ist ohnehin eine Blackbox.

Ich habe aber den Eindruck, dass die Politik langsam aktiver wird und nicht mehr nur zuschaut.

Ansatzweise stimmt das. Leider allerdings auch das Langsam. Vor allem die EU hat hier eine Vorreiterrolle und auch die kompetenten Leute und initiiert Vorschriften und erste Reglementierungen, wie die neue Datenschutzverordnung. Denen müssen sich auch US-Techgiganten beugen, da Europa der grösste Markt ist und sie ohne diesen nicht existenzfähig sind. Auch in Deutschland und teilweise in der Schweiz ist man recht kritisch und problembewusst. Aber denken sie an die unbedarfte Anhörung im US-Senat mit harmlosen Fragen an Zuckerberg von Leuten, die nicht einmal wussten, womit Facebook sein Geld verdient. Auch bei uns wissen viele Politiker wenig bis nichts über die Digitalisierung, die Schulen unternehmen ebenso nichts und die Digitalisierung wird auch bei den Medien zwar noch am ehesten, leider aber auch zu selten thematisiert, wenn man bedenkt, welch tiefgreifendes und auch risikobehaftetes Veränderungspotenzial sie hat.

Soll man denn Digitalisierung stoppen und verbieten?

Noch einmal: Keinesfalls. Sie bietet zu viel Gutes und zu viele Chancen. Nur: Etwas, was dermassen tiefgreifende und disruptive Umwälzungen mit sich bringt, auf die niemand auch nur ansatzweise vorbereitet ist und nahezu alle Gesellschaftsbereiche durchdringt, gehört unter stärkere gesellschaftliche Kontrolle. Digitalisierungskonzerne und Start-ups müssen mehr Transparenz zeigen und Pläne und Experimente offen legen. Auch und vor allem Regulierungen und mehr Verantwortung bei den Digitalkonzernen sind absolut dringend und notwendig. Nur geschehen tut nichts oder zumindest viel zu wenig. Ich befürchte, dass man auch nach dem Facebook-Skandal wieder zur Tagesordnung übergehen wird, als wäre nichts geschehen. Man muss sich ja nur die Arroganz eines Zuckerberg vor Augen halten, mit der er auf Kritik reagierte, nebst salbungsvollen Zusagen, doch immer nur das Beste für uns alle zu wollen.

Sind da aber nicht Konsumenten und Mitarbeitende auch in der Pflicht, kritischer zu sein und gewisse Dinge zu hinterfragen?

Bis zu einem gewissen Grad ja. Aber die Probleme sind derart komplex, das Agieren der Techmultis so intransparent und deren Versicherungen für alle doch nur das Beste zu wollen, so täuschend glaubhaft, dass ich verstehe, dass hier viele überfordert und verunsichert sind, wem sie was glauben können. An einem Tag hört man, dass durch die Digitalisierung Millionen von Jobs verloren gehen und am nächsten Tag das genaue Gegenteil. Oder denken Sie an die Wahlmanipulationen in den USA, wo eine exzessive Digitalisierung ohne jede gesellschaftliche Verantwortung sogar die Manipulation demokratischer Wahlen zuliess. Hier konnten Anzeigen von Diktatoren geschaltet werden, als sei es Mode- oder Disneyland-Werbung. Wer soll hier noch verstehen, was genau ablief, und vor allem wer hierfür verantwortlich war, was alles geschah und heue noch geschieht, wie die Politik solches zu verhindern gedenkt, was gar nie publik wird? Ich könnte mir gar vorstellen, dass die Dunkelziffer solcher Missbräuche und Manipulationen hier gegen 100 Prozent tendiert.

Wie ehrlich und glaubwürdig agieren denn Facebook, Google und Co?

Man stellt dort schon fest, dass ihnen ein schärferer Wind entgegenbläst und das Unbehagen wächst (Techlash), nicht zuletzt durch die sich häufenden Skandale und die zunehmende Sensibilität in Fragen der Privatsphäre. Punkto Datenschutz beginnt zumindest Google erste Verbesserungen vorzunehmen. Nur statt einer Vorwärtsstrategie reagiert man immer nur dann, wenn bei Nutzern und in der Politik Unmut aufkommt. Bei Facebook fehlt mir, wie bei vielen Nutzern auch, zunehmend das Vertrauen in die Aufrichtigkeit. Und die Kernfrage bleibt bestehen und unbeantwortet: Welche Daten werden über uns gesammelt, was macht man mit ihnen, was weiss man wirklich über uns und an wen gehen alle unsere Daten allenfalls.

Bei Facebook hat man zwar Einsicht in die über uns gesammelten Rohdaten, nur wesentlich sind die viel weiter gehenden Big Data-Analysen, die jedoch verborgen bleiben. Ein Beispiel: Mit den heutigen Möglichkeiten der Psychometrie und entsprechenden Algorithmen kann man nur schon aufgrund von etwa 200 Likes (!) unser Verhalten, unsere Präferenzen und unsere Persönlichkeit detaillierter analysieren und erfassen, als dies unser engster Freundeskreis tun kann. Auch das Bewusstsein, dass man mit den eigentlich uns gehörenden Lebensdaten Milliarden verdient, wir aber als Eigentümer dieser Daten, von den kostenlosen Tools abgesehen, nichts davon haben, fehlt noch immer. Ein Minimalrecht müsste Nutzern die Möglichkeit geben, beispielsweise bestimmen zu können, welche Bereiche ihrer Lebensdaten erfasst und ausgewertet werden dürfen. Infolge fehlender Transparenz kann man aber sehr vieles gar nicht wirklich beurteilen.

Wie beurteilen Sie die Digitalisierung für Mitarbeiter und in Unternehmen?

Es wird sie vielleicht noch immer überraschen 🙂 Überwiegend positiv, auch und vor allem im HR: Einsparung von Ressourcen, mehr und genauere Facts und Figures als Entscheidungsgrundlagen, Effizienzsteigerung der Prozesse, die Vielfalt der Kommunikationskanäle, Objektivierung von Beurteilungen im Performance Management, wertvolle Prognosedaten und mehr. Doch auch in Unternehmen und HR gilt ähnliches: Wissen Mitarbeiter, welche Daten über sie bestehen und gesammelt werden und wer mit ihnen was macht? Wer stellt sicher, dass nicht jegliche digitale Kommunikation erfasst und ausgewertet wird, um beispielsweise Kündigungswahrscheinlichkeiten prognostizieren zu können? Welche Daten werden extern von Microsoft und Co. gesammelt? Dass es mit Windows 10 und aus dem Office heraus geschieht, weiss man. Dass Gmail von Google ebenso nichts entgeht, wissen einige mittlerweile auch. Nur zu meinen, sie seien die einzigen, wäre naiv.

Welches sind denn die grössten Risiken von Fehlentwicklungen?

Auch über die Konsequenzen fehlerhafter Algorithmen weiss man zu wenig. Irgendwann wird die Komplexität so gross sein, dass wir Entscheidungen intelligenter System gar nicht mehr nachvollziehen können. Warnsignale gab es schon etliche an der Börse, wo fehlerhafte Algorithmen die Mini-Crashs auslösten, etwa. The point of no return könnte erreicht sein, wenn KI-Systeme lernfähig werden und sich selber weiterentwickeln und optimieren können. Sie könnten auf die Idee kommen, dass der Mensch nur noch ein zu Störfaktor ist, den es zu eliminieren gilt. Ob dies zu sehr Science-Fiction Horror-Visionen sind, weiss ich nicht. Der britische Physiker Stephen Hawking, einer der intelligentesten Menschen, war jedenfalls der Meinung, dass dem nicht so ist, er warnte immer wieder eindringlich vor den Gefahren einer entfesselten und unkontrollierten Künstlichen Intelligenz.

Wo sehen sie die kritischen Entwicklungen in Unternehmen?

Das Wesentliche, nämlich Mitarbeiter fördern und deren Talente entwickeln, eine glaubwürdige und authentische Kommunikation pflegen, die Passion der Mitarbeiter für Spitzenleistungen entfachen, die wirklich besten zur Unternehmenskultur passenden Führungskräfte gewinnen, frei werdende Ressourcen im Recruiting für verbesserte Kommunikation nutzen – diese und viele hunderte von dringenderen und wesentlich wichtigeren Erfolgsfaktoren in HR und Arbeitswelt verbessert die Digitalisierung nicht und trägt nur wenig dazu bei. Und wenn es gar Tools, gibt deren Anbieter allen Ernstes behaupten, den Cultural Fit von Kandidaten messen zu können, ist dies ein Beispiel, wie vermessen und realitätsfremd Leistungserwartungen der Digitalisierung zuweilen sind. Es geht bei der Digitalisierung auch selten um substanziellen und wertefördernden Fortschritt, sondern mehrheitlich um quantitative Aspekte wie Prozessoptimierungen, Automatisierungen, Kostensenkungen, Fehlerreduktionen und mehr.

Sie beginnen mich langsam nachdenklich zu stimmen. Was müsste man denn tun?

Das völlig unkontrollierte und von gesellschaftlicher Mitwirkung abgekapselte Voranschreiten der Digitalisierung – auch, aber nicht nur in der Arbeitswelt – muss wesentlich stärker unter demokratische, arbeitsrechtliche und politische Kontrolle und Einflussnahme gestellt und nach dem bewährten Rezept der sozialen Marktwirtschaft mit neuen Gesetzen und Einschränkungen reglementiert werden. Wie und mit welchen Folgen unsere Arbeitswelt umgekrempelt wird, sollte nicht länger von Nerds im Silicon Valley bestimmt werden, sondern nur noch unter Einbezug von Politik, Nutzern der Digitalisierung, Arbeitnehmern und Konsumenten stattfinden.

Noch einmal: Digitale Entwicklungen müssen viel kritischer hinterfragt und reguliert werden und es muss auch vermehrt auf Risiken und Bedrohungen hingewiesen werden. Unsere Zukunft in Arbeitswelt und Gesellschaft darf nicht einer kleinen Anzahl von privaten IT-Kolossen und euphorischen Tüftlern im Silicon Valley überlassen werden, als wären es Sandkastenspiele. Es liegt in der Verantwortung aller, von Unternehmen über die Politik bis zu kritischen Mitarbeitern und Bürgern, vom Autopiloten der Technologisierung auf die manuelle Steuerung des technologischen Fortschritts umzuschalten. Vor allem auch das Human Resource Management ist aufgerufen, hier warnender und kritischer einzugreifen und zu hinterfragen.

Zum Schluss: Können Sie als Verlagsleiter Bücher zum Thema empfehlen?

Zur Problematik der Digitalisierung gibt es mittlerweile einige. Interessant sind aber auch Romane mit Niveau, die im Storytelling viel plastischer und eingängiger auf die Gefahren einer unkontrollierten Digitalisierung hinweisen. “The Circle” von Dave Egger, eine Parodie auf Google und Co. und der neue soeben erschienene Roman von Frank Schätzung, “Die Tyrannei des Schmetterlings” sind sehr lesenswert und auch sehr spannend. Als Fachbücher sind auch “Abgehängt – Wo bleibt der Mensch, wenn Computer entscheiden?” von Nicholas Carr oder “Das digitale Debakel – Warum das Internet gescheitert ist – und wie wir es retten können” von Andrew Keen lesenswert und interessant. Einen ernüchterndernden Ausblick auf die digitale Zukunft bietet auch das soeben erschienene Buch “Jäger, Hirten, Kritiker: Eine Utopie für die digitale Gesellschaft” von David Precht.