Die Zipperlein des Dr. Watson. Dumm, wie Digitalisierung scheitern kann.

Die Grundlage künstlicher Intelligenz ist und bleibt die natürliche.

Warum grosse Business-Initiativen grandios scheiterten und überhöhte Erwartungen zu Milliardenverlusten führ(t)en.

  • Redaktionelle Überarbeitung vom 01.10.2020

Die Stimme der Vernunft ist leise. Siegmund Freud

Die alte Welt liegt im Sterben, die neue ist noch nicht geboren: Es ist die Zeit der Monster. Antonio Gramsci (1937)

«Overpromised and underdelivered»: Die Zipperlein des Dr. Watson

2016 hatte IBM die hauseigene Software mit künstlicher Intelligenz Watson scherzhafterweise als US-Präsident vorgeschlagen («Watson for President»).

Wenige Jahre davor hatte Watson bereits mit deutlichem Vorsprung gegen zwei herausragende Spieler in einem Jeopardy-Spiel gewonnen. Dies wurde als Durchbruch der künstlichen Intelligenz gefeiert. Bahnbrechende Anwendungen im juristischen und im medizinischen Bereich («Dr. Watson») schienen zum Greifen nah und das geschäftliche Potenzial riesig. Die Ankündigung des Krebsbehandlungscenter MD Anderson an der Universität Texas, mit IBM Watson Krebs auszuradieren, sollte Wirklichkeit werden, ein gigantischer Markt sich auftun.

IBM investierte heftig: Alleine in München wurden um 200 Millionen US-Dollar zwei imposante Bürotürme errichtet, das Watson IoT Center, ausgelegt für 1.000 hochqualifizierte Mitarbeiterinnen und Mitarbeiter.

Schon 2017 zeigte sich, dass die Erwartungen zu hoch gesteckt waren. MD Anderson und weitere Krankenhäuser kündigten die Zusammenarbeit auf. Trotz der gewaltigen Investitionen und riesiger Mengen an eingelesenen Patientenakten konnte IBM Watson AI nur bedingt liefern, was versprochen worden war.

Noch schlimmer: Der Verdacht von Fehldiagnosen kam auf. Der Gedanke dass Dr. Watson, gewissermassen mit ergaunertem Arzttitel, als für Aussenstehende undurchschaubares KI-System nicht oder nur schwer nachvollziehbar reihenweise falsch therapiert und medikamentiert, ist ein Gruselszenario, nicht nur für die aktuell betroffenen Patienten, sondern auch für die behandelnden Ärzt*innen (als quasi programmierter Entmündigung ihrer Kompetenz entgegen dem hippokratischen Eid) und die Kliniken. Ganz besonders in den USA wegen drohender privatrechtlich zu leistenden Schadenersatzforderungen in fast unbeschränktem Ausmass.

Entlassungen und gescheiterte Projekte bei IBM Watson waren die Folge.

Grosse Schuhe, ohne zu wissen, wie man damit laufen kann.

Es ist, meinte ein Betroffener, als hätte IBM grosse Schuhe, ohne zu wissen, wie man damit laufen kann. (Ein Schicksal das beim zeitgleich aktiven Blockchain-Hype übrigens schon seit längerem offen zu Tage liegt.)

Sich gegen diese Entwicklungen stemmend verkündete IBM's CEO Virginia Rometty noch Anfang 2018 stur Watsons Law: In Anlehnung an das bereits erprobte Moore's Law (Verdopplung der Rechenleistung von Mikroprozessoren alle zwei Jahre) und Metcalfe's Law (Wert eines Kommunikationsnetzwerks steigt mit dem Quadrat der Zahl der Teilnehmer) sollte Watsons Law mit künstlicher Intelligenz Industrie, Verbrauchern, Städten sowie schlichtweg der ganzen Menschheit einen eigenständigen und exponentiellen Wachtumsimpact liefern, der über blosse Optimierung weit hinausging.

Watson sollte der ganzen Menschheit einen exponentiellen Wachstumsimpact liefern.

Schon ein halbes Jahr später war davon nichts mehr zu hören. Die KI-Strategie war nicht aufgegangen. Das IBM Management hatte sich vertan. Als eine Ursache wurde die mangelnde Datenqualität angeführt: Dr. Watson war über lange Zeit mit allen verfügbaren Krankenakten gefüttert worden, ohne tiefere Bezugnehme auf deren Qualität und den jeweiligen Kontext. Die aktuell propagierte KI stelt aber als schwache KI nur von Menschen abgeleitete, syntaktisch formalisierte Intelligenz für einen bestimmten Bereich dar. Sie kann nur Muster und Korelationen erkennen, aber keine Kausalitäten verstehen. KI kann sich deshalb nicht von sich aus weiter entwickeln, sie ist nicht selbständig lernfähig.

KI ist nicht selbständig lernfähig.

Vorurteile und Irrtümer werden durch eine solche KI algorithmisch versteinert. Daten sind für einen Computer nutzlos, wenn sie nicht ordentlich von Menschen “gelabelt” und mit einem konkret durchdachten Modell hinterlegt werden, vor dessen Hintergrund sie zielgerichtet als Information ausgewertet werden können. Ist einmal zu viel Unschärfe (Entropie) in den Daten, scheitert jeder Algorithmus.

Nach schmerzlichen Verlusten halbierte IBM das Watson-Team darauf um mehr die Hälfte und kaufte im Oktober 2018 schliesslich Red Hat, einen soliden Anbieter von Linux-Lösungen, mit seiner Multicloud-Lösung ungleich weniger glamourös als die Verheissungen der künstlichen Intelligenz.

Nachdem IBM Zeit und Geld mit seinen überzogenen KI-Erwartungen vergeudet hatte, möchte das Unternehmen nun beim Cloud-Computing zu seinen vorangesprinteten Mitbewerbern wie Amazon, Google und Microsoft aufschliessen. Die haben allerdings inzwischen einen ziemlichen Vorsprung. Einen Vorsprung, den IBM mit herstellerneutralen – quasi agnostischen «multicloud» und «hybriden Cloudansätzen» ausgleichen möchte.

Ob und wie IBM damit die Verluste aus ihrer Überschätzung der KI wett machen kann, wird sich erst noch zeigen.

«Overhyped and too broad»: GE Predix als milliardenschwere Industriebaracke

2016 bezeichnete Forrester Predix (predix.io) als eine der führenden Lösungen auf dem Gebiet des industriellen Internets.

GE Digital hatte Predix im Herbst davor vollmundig als umfassende cloudbasierte Service-Plattform für das industrielle Internet der Dinge (Industrie 4.0) angekündigt: Nicht weniger als 20% Einsparungen sollten überall möglich sein, quer durch alle Branchen.

Alleine 2016 wurden in die eigens dafür gegründete GE Digital 6 Milliarden US-Dollar investiert. 14 Milliarden Dollar wollte GE damit 2020 erlösen, als eine der «top 10 software companies» der Welt, wie der damalige CEO von GE Digital, Jeffrey R. Immelt verlauten liess. Daten, angeblich das neue Gold, sollten branchenübergreifend erfasst und danach mit Hilfe schlauer Algorithmen erschlossen werden. Je mehr und umso rascher, umso besser. Daraus wurde allerdings nichts.

Overhyped and too broad – an epic fail for the ages.

Overhyped and too broad, so wird der Ansatz heute gesehen, ein epic fail for the ages. Mitarbeiter wurden entlassen. GE Digital vom Nachfolger Immelt's wieder herausgelöst, nachdem unter der ursprünglich vollmundig angekündigten “Digitalen Transformation” unterm Strich lediglich so viel Geld einfach in den Sand gesetzt worden war, dass manche Beobachter sich schon nachvollziehbare Sorgen um das Überleben von GE selbst machten.

Die Fehler waren vielfältig: GE wollte einerseits mit Amazon, Google und Microsoft um die beste eigene Cloud-Technologie rittern (meine Bewertung: aussichtslos), andererseits KI und Digitalisierung als Commodity querbeet und generisch ohne tiefere Fachbezüge auf alle Branchen ausrollen (meine Bewertung: unrealistisch). Und GE hat geglaubt — was für ein kardinaler Irrtum — Digitalisierung sei ein eigenständiger Produktionsfaktor, aus dem heraus sich selbständig das Geschäft weitere entfalten werde.

Digitalisierung und KI sind keine eigenständigen Produktionsfaktoren sondern akzessorische.

Daten sind aber keine Information und KI-Systeme verstehen nichts, dazu benötigt es branchenkundiges Know-how, eben Menschen, die sie anlernen. Ohne fachliches Know-how gibt es keine erfolgreiche KI-Umsetzung. Bescheidenheit ist eine Tugend und Daten sind veredlungsfähig, aber kein Gold an sich.

Daten müssen deshalb inhaltlich aufbereitet beziehungsweise oft erst gezielt erfasst werden, damit sie wertschöpfend genutzt werden können. “Use of data requires [human] prediction”, wie William Edwards Deming als studierter Mathematiker und Statistik-Professor bereits 1993 formulierte [Ergänzung PE]. Big Data als Fat Data verschlingt hingegen offenkundig nur hartes Geld und wertvolle Ressourcen.

Accenture & Co als digitale Brandstifter?

2016 veröffentliche Accenture eine Pressemitteilung: Deutschland stehe dank künstlicher Intelligenz vor einem nachhaltigen Wachtumsschub. Eine hauseigene Studie weise nach, dass das Wirtschaftswachstum durch KI bis 2035 verdoppelt, die Arbeitsproduktivität um bis zu 40% gesteigert werden könne. In Zusammenarbeit mit einem Marktforschungsinsitut wurde für jedes Land penibel das Steigerungspotenzial durch KI berechnet und explizit für die österreiche Wirtschafts- und Digitalisierungsministerin Margrete Schramböck erneut bekräftigt.

Mit Hilfe von KI könne das Wirtschaftswachstum gesteigert und so die Zeit bis zur Verdopplung des Wirtwschaftswachstums für jedes Land stark verkürzt werden. Ohne KI würde sich die deutsche Wirtschaft z. B. erst in 50 Jahren verdoppeln, mit KI hingegen schon in 25 Jahren!

Egal ob jemand Wirtschaftswachstum ungeteilt positiv sieht oder sich eher der radikal kritischen Haltung Greta Thunberg nahe fühlt: Beim Gedanken an eine quantitative Verdopplung der gesamten Weltwirtschaftsleistung in den nächsten 25 Jahren oder noch früher wird angesichts der Klimaproblematik wohl fast jede und jeder Sorgenfalten bekommen. Wer soll denn diese Produkte und Services alles kaufen? Und wohin mit der doppelten Menge an Plastikmüll? Beides, die Naivität, mit der behauptet wird, dass ausgerechnet KI dies möglich mache, und die Naivität mit der das in Nöten geratene Wachstumsparadigma einfach weiter fortgeschrieben werden soll, sind atemberaubend.

Die Naivität und Dreistigkeit, mit der KI als Allheilmittel gepriesen wird, ist atemberaubend.

Möglich sei dies deshalb, weil KI nicht nur optimierend wirke, sondern neben Arbeit, Kapital und Produktivität schlichtweg ein vierter generischer Produktionsfaktor sei.

  • Die Eintagsfliege “Watsons Law” von IBM sowie die inzwischen als falsch erwiesenen Annahmen von GE lassen diese Annahme allerdings als offenkundig falsch erschienen.

Laut Accenture können KI-Systeme wahrnehmen, verstehen und handeln. Damit sei intelligente Automation möglich. Diese habe die ability to solve problems across industries.

  • GE's Irrtum der generischen, quasi fachfreien Anwendungsmöglichkeit von KI lässt grüssen.

Ein Programm namens Amelia könne z. B. Technische Handbücher lesen und “diagnose a problem and suggest a solution” und so Wartungsingenieure weltweit instruieren.

  • Dr. Watson lässt grüssen, der die fast wortgleiche Unterstützung Ärzten angedeihen lassen wollte, die damit ihre Patienten einem undefinierten Risiko aussetzten.

Amelia habe auch die Antworten auf die 120 häufigsten Fragen an Hypothekenmakler auswendig gelernt und könne so Finanzierungsfragen beantworten, was natürliche enorm Arbeitsaufwand einsparen.

Jetzt müssen nur noch die Kunden informiert werden, welche Fragen sie stellen dürfen und welche auf keinen Fall, dann kann damit sicher viel Arbeitsaufwand eingespart werden.

Damit nicht genug, Amelia könne wie ein pflichtbewusster Angestellter eigene Wissenslücken erkennen und schliessen. Dazu delegiere das Programm schwierige Fragen, deren Antwort es nicht wisse, an einen Menschen und merke sich dessen Antwort. Dieser selbstlernende Aspekt von Amelia sei eine fundamentale Veränderung. Spätestens hier geht die Bodenhaftung verloren:

Selbstlernende KI liegt laut seriöser KI-Forschung, die es übrigens auch gibt, immer noch in weiter Ferne (siehe unten: Ford) bzw. wird sie aus prinzipiellen Gründen nicht realisierbar sein, zumindest nicht in der hier in Aussicht gestellten naiven Form.

Kapitalassets würden sich so automatisch und selbst im Wert steigern. KI als digitales Perpetuum Mobile der Kapitalakkumulierung!

Optioment und andere Scams: Bitcoins als schwarzes Loch menschlicher Intelligenz

Erinnerungen an das fast analog lautende Versprechen von Optioment tauchen auf.

Optioment war einer der vielen Bitcoin- und Blockchain-Scams, also ein mit betrügerischer Absicht aufgesetzter Anlagebetrug. Optioment versprach genau das gleiche, nämlich automatische Vermögensvermehrung, nur in diesem Fall mit Blockchains und nicht mit KI. Es verursachte als betrügerisches Schneeballsystem (Ponzi-Schema) in Österreich für über 10.000 Betroffenen eine kolportierte Schadenssumme in Höhe von 100 Millionen Euro. Optioment war übrigens auch 2016 gegründet worden. Natürlich kann der Fall Optioment wegen des offensichtlichen Vorliegens betrügerischer Absicht nicht mit den gescheiterten Projekten von IBM oder GE verglichen werden. In allen drei Fällen wurden allerdings namhafte Vermögenssummen im falschen Glauben an die Versprechen digitaler Technologie verbrannt.

Im Jahre 2016 entstanden durch falsch verstandene überhöhte Erwartungen an die Digitalisierung alleine bei IBM, GE und Optioment Schäden in Milliardenhöhe.

Die Vermehrung von Kapital und Arbeit sei, wieder nach Accenture, der zweite erfolgsversprechende Anwendungsbereich. Verbreitung von Innovationen der dritte. Autonome Fahrzeuge würden die Unfallzahlen senken und so möglicherweise die grösste Gesundheitsinitiative der Welt darstellen.

Um den Nachteilen zu begegnen und Menschen, die durch KI arbeitslos werden zu helfen, sollten “redistribution effects” gesetzt werden. Mit Hinweisen auf positive Klimaeffekte und breiterem Zugang zu einer guten Gesundheitsversorgung könne stimmungsmässig gegengesteuert werden, um diese falschen digitalen Versprechen politisch verkaufen zu können.

Dabei wird der Anteil der ICT-Branche (inklusive Cloud Computing und damit auch von KI-Anwendungen) an Treibhausemissionen weltweit bereits auf fast das Doppelte des zivilen Luftverkehrs geschätzt.

Die Beschäftigten könnten sich laut der Studie zukünftig viel stärker mit kreativen Aufgaben und mit Innovationsfragen befassen, die eine höhere Wertschöpfung als die bisher ausgeübten Tätigkeiten nach sich zögen. So liessen sich die Produktivität in der Landwirtschaft durch selbstfahrende Traktoren und Melkroboter, die die Milch gleich “verkosten” bis zu 38% steigern.

Wie stark die Digitalisierung die Produktivität steigern wird, ist nicht klar. Bisher blieben die erwarteten Effekte deutlich unter den Erwartungen. Manche Ökonomen wie Robert Gordon bezweifeln, ob Digitalisierung überhaupt die Produktivität steigern kann.

Der Zukunftsrat der bayerischen Wirtschaft musste verwundert anmerken, dass «kein Zusammenhang zwischen dem Digitalisierungsgrad und dem Produktivitätswachstum der Volkswirtschaften zu erkennen» sei, rechtfertigte diese – in der Studie «Neue Wertschöpfung durch Digitalisierung» (PDF Download, Seite 38) nachvollziehbar unerwünschte Einsicht – mit der schlechte Datenlage.

Ökonomen bezweifeln, ob die Digitalisierung überhaupt die Produktivität steigern kann.

Und menschliche Bedürfnisse bleiben ja trotz der Digitalisierung im wesentlichen die gleichen, sie werden nicht exponentiell ansteigen. Auf jeden Fall wird die Effizienz zur automatisierten Erledigung einzelner Aufgaben stark ansteigen und werden Menschen nicht mehr in angestammten Bereichen arbeiten können. Deshalb sind klare Rahmenbedingungen und begleitende Anpassungen in technischer, rechtlicher, organisatorischer und sozialer Hinsicht notwendig. Ein einfaches Fortschreiben der bisherigen Arbeitsorganisation mit KI-Unterstützung wird nicht funktionieren, Begleitmassnahmen sind notwendig.

Dazu müssten laut Accenture allerdings die Daten, das neue Gold, aus den “Datentresoren” der Amtsstuben befreit werden. “Der Einsatz von künstlicher Intelligenz mache den möglichst ungehinderten Zugriff auf Daten notwendig. Die Amtsverschwiegenheitskultur stehe dem entgegen.” (Hervorhebung PE).

Aus privatwirtschaftlichen kommerziellen Interessen sollen öffentliche Daten wegen nicht einhaltbarer Erwartungen, quasi unter falschem Vorwand gratis bereit gestellt werden.

Denn ähnlich wohl wie IBM Watson Krankenakten aus ihren Registern «befreit» hat, die jetzt elektronisch abrufbar aber eben nicht — wie erhofft — selbstlernend geworden sind. Als dystopisches Beispiel kann auch China dienen. Dort ist ein ungehinderter Zugriff auf die Daten aller Bürger möglich. Ein Social Score gängelt die Menschen und regelt deren Freiheitsräume. Und trotzdem sinkt die Wachstumsrate in China seit einiger Zeit schon.

Accenture, ein Beratungskonzern mit über 450.000 Mitarbeitern weltweit, drängt darauf, für KI-Projekte öffentliche Datentresore aufzubrechen, um Ziele zu erreichen, die IBM und GE mit den gleichen Argumenten ins Wanken gebracht haben.

Es wäre tragisch, wenn wegen derart durchsichtiger und irreführender Argumente tatsächlich Datenschutz, Individualsphäre und Persönlichkeitsrechte ausgehöhlt werden würden.

Sogar das Amtsgeheimnis, das als Nebelgranate für politischen Dünkel die demokratisch bedenklich ist, erhält als Schutz des Gemeinwohls vor unerlaubtem Zugriff aus Profitinteresse plötzlich einen unerwarteten Rechtfertigungsgrund, wobei die Dateneinsicht für betroffene Bürger nicht mit der pauschalen Zugriffsfreigabe zur kommerziellen Verwertung durch Unternehmen verwechselt werden darf.

Resümee

Aufstrebende Technologien und die Digitalisierung werden uns ohne Zweifel Verbesserungen und Wettbewerbsvorteile bringen. Die richtigen Rahmenbedingungen müssen allerdings in ethischer, sozialer, organisatorischer, technischer und rechtlicher Sicht erst noch gesetzt werden, um eine nachhaltige Wertschöpfung zu erzielen.

Digitalisierung ist kein Selbstzweck und erst recht kein Selbstläufer. Um sie erfolgreich umzusetzen benötigt sie Ziele und Strategien — und vor allem Sachverstand und Fachwissen.

Digitalisierung ist kein Selbstzweck und benötigt menschlichen Sachverstand und Fachwissen.

An diesem Sachverstand und Fachwissen bei der Digitalisierung der öffentlichen Verwaltung scheint es häufig zu mangeln:

  1. So hat die Melde-App des österreichischen Digitalisierungsministeriums nicht geprüft oder zumindest plausibilisiert, ob die Meldeadresse stimmen kann,
  2. hat die die Wahl-App Anträge für Wahlkarten nicht weitergeleitet und
  3. wurden im Ergänzungsregister unkontrolliert personenbezogene Daten öffentliche Sichtbarkeit im Internet stellte.

Das zeitverzögerte Nachhüpfen von unhaltbaren Erlösungsversprechen wird uns nicht weiter bringen. Es ist erschütternd, mit welcher Naivität die Politik alten Paradigmen wie dem Wirtschaftswachstum weiter nachhängt und rechtliche Grundwerte schwächt.

Wie die Beispiele der amerikanischen Industrielegenden IBM und GE gezeigt haben, werden Nebelgranaten und theologisch anmutende Heilsversprechen aber keinen Bestand haben. Bei diesen Konzernen hat es nicht einmal drei Jahre gedauert, bis die falschen Annahmen in Milliardenverlusten und harten Korrekturmanövern endeten.

Da künstliche Intelligenz zwangsläufig immer von menschlicher abgeleitet und orchestriert werden wird, werden mit ihr bestehende Bedürfnisse günstiger und rascher erfüllt werden können. Sie kann zwar die Produktivität steigern, stellt aber keinen eigenständigen Produktionsfaktor dar.

Künstliche Intelligenz ist kein eigenständiger Produktionsfaktor.

Das Managementproblem, dem wir eigentlich gegenüberstehen ist ein anderes: Die stetig zunehmende Komplexität unserer Welt (Stafford Beer, Fredmund Malik). KI kann diese Komplexität nur bedingt senken, da sie immer unterkomplex zur menschlichen ist. Mit einem unterkomplexen System lässt sich aber kein hochkomplexes steuern (Ashby's Law der Kybernetik). Mit einer fehlende fachlichen Durchdringung einer Regierungspolitik auch nicht.

Mit Unterkomplexität können keine komplexen Probleme gelöst werden.

Zudem wird die Digitalisierung die interne Struktur und Organisation fast aller Unternehmen und der Verwaltung grundlegend umkrempeln. Es werden weniger bestehende Abläufe einfach 1:1 automatisiert, als diese vielmehr aus Kundensicht neu und bedürfnisorientiert digital orchestriert – ganz im Stile von Design Thinking. Die internen Umstellungen müssen entsprechend vorausschauend begleitet werden, Mitarbeiterinnen und Mitarbeiter auf andere Art und neu eingebunden werden. Das erfordert neue Formen der Zusammenarbeit und der Arbeitsorganisation (Stichwort New Work, Deming – The New Economy). Auch IT-Sicherheit muss vor diesem Hintergrund im Sinne einer “useable Security” neu gedacht werden, da besteht echter Handlungsbedarf.

Unterkomplex eingeführte Digitalisierung führt in eine Sackgasse.

Was uns KI an Schnelligkeit und Präzision vorauszuhaben scheint, fehlt ihr an sozialer Kompetenz, inhaltlicher Deutungsgabe, situativer Präsenz und der Fähigkeit zur Vorwegnahme von Entwicklungen. Inhaltliches Know-how, die sorgfältige Analyse von Daten, die Gestaltung der benötigten Informationsstrukturen und das Erkennen von Kauslitäten und Systemzusammenhängen ist angesagt, kein naiver Datendigitalimus als Glauben an nicht erfüllbare Prophezeiungen von vertriebsstarken Beratungsfirmen.

Auf diese Weise nachhaltig eingesetzt kann uns KI helfen, unsere Probleme zu lösen. Sie kann dies aber nicht für uns tun, selbst mit Milliardeninvestitionen vorab.

Das Risiko ist hoch, der mögliche Schaden an verpufftem Beraterhonoraren, erodierten Datenbeständen, ausgehöhlten Rechtsgrundlagen und dem Verlust an angestammten Grundwerten ist hoch. Staatliche Digitalisierungsinitiativen hat mehr Zielorientierung, Klarheit, Nachhaltigkeit und schlichtweg Hausverstand verdient.

Es braucht offenbar mehr natürliche Intelligenz, um künstliche richtig einsetzen zu können.

Über den Autor

Dr. Peter Ebenhoch ist multidisziplinärer Wirtschaftsagilist. Als zertifizierter Strategie- (HSG), Projekt- (PMP) und Risikomanager (PECB) unterstützt er Organisationen und Unternehmen im Hinblick auf nachhaltige Digitalisierung und disruptiver Intelligenz.

Nachweise

Watson

Predix

Accenture