By 
Wirtschaftsinformatikerin Sarah Spiekermann über Ethikstandards für die Technologieentwicklung – und die Fehleranfälligkeit des Digitalen.
Der sprechende Roboter “Hugo” wirbt in Erfurt für ein Digitalfestival in der thüringischen Landeshauptstadt.
Sie sind federführend an der Entwicklung des ersten internationalen Ethikstandards für die Technologieentwicklung beteiligt und waren viele Jahre in entsprechende Prozesse in Brüssel eingebunden. Ist die EU für die Herausforderung gerüstet?
Leider nein. Europäische Firmen spielen keine maßgebliche Rolle in der Digitalisierung. Von Facebook und Google bis Apple, Oracle und Cisco gestalten vor allem US-amerikanische Firmen unser digitales Leben. Sie bestimmen, wie wir tagtäglich unsere Transaktionen leben, wie unsere Daten verarbeitet werden, welche Rechte wir letztlich online haben oder nicht. Im digitalen Raum gilt: Wer Kontrolle über die Daten hat, der kann gestalten. Europa hingegen hat in weiten Teilen genau diese Kontrolle an amerikanische Firmen und Institutionen abgegeben und tut es jeden Tag mehr.
Tagesspiegel Background Digitalisierung & KI
Jetzt kostenlos testen!
In Ihrem Buch „Digitale Ethik“ warnen Sie, dass die Digitalisierung mit einer zu engen ökonomischen Zielrichtung betrieben und sich darum nachteilig auswirken wird. Aber ist denn das in der analogen Wirtschaft anders?
Ja, in der analogen Wirtschaft gab es immer noch Interaktion zwischen Menschen, die miteinander auskommen mussten. Funktionierende Sozialsysteme im und rund um das Unternehmen waren wichtig, damit ein Betrieb erfolgreich sein konnte. Die Digitalisierung lässt diese Sozialsysteme erkalten. Sie erlaubt es, die Doktrin von „the business of business is business“ unserer eigentlich „sozialen“ Marktwirtschaft mit voller Macht überzustülpen. Würde die Digitalisierung nur in Teilbereichen der Unternehmen eingesetzt werden, wo menschliche Interaktionen weniger wichtig sind, wäre das kein Problem. Aber das Streben der IT-Industrie ist es, möglichst alles digital zu transformieren.
Anlass für Ihre Warnung ist also die IT-Branche selbst?
Die IT-Industrie will ihre IT-Anlagen, Programme und Beratungsservices verkaufen. Das ist eine ökonomische Agenda, die gut funktioniert, weil sie vor allem eins kann: Kosten sparen. Diese Fähigkeit mischt sich fruchtbar mit der Kapitalmarktlogik, dass es vor allem um Gewinne geht, kurzfristigen Shareholder Value. Dieser Fokus der Digitalisierung auf Kostenreduktion kann jedoch ungeheuer zerstörerisch sein. Trotzdem lässt die Wirtschaft sich im Wettbewerbsdruck darauf ein.
Sarah Spiekermann bei der europäischen Digitalkonferenz re:publia.
Worin liegt das Zerstörungspotenzial?
In meinem Buch zeige ich, dass die Digitalisierung uns entzweit, uns süchtig macht, passiv, und uns zu einem ständigen „Schattenboxen mit dem Abwesenden“ verführt. Zur Natur des Digitalen gehört aber auch ganz maßgeblich seine Fehleranfälligkeit. Es hat das Problem, dass seine Entscheidungen auf Daten gründen. Daten sind aber immer historisch, sie denken nicht in die Zukunft. Daten sind Artefakte des Gewesenen, das heißt, wenn wir Menschen Vorurteile zeigten, sind die Daten nichts als ein halbblinder Rückspiegel.
Warum halbblind?
Daten müssen gepflegt werden, sie sind nicht immer aktuell, sie bilden nur einen Bruchteil der Realität ab. Daten sind schon heute in Unternehmen das größte Problem, weil sie unverständlich, komplex, wertgeladen und fehleranfällig sind.
In Österreichs Arbeitsagentur wird KI eingesetzt, deren Algorithmen aber dafür sorgen, dass Frauen weniger häufig in Fortbildungen vermittelt werden als Männer.
Ja, das ist erschreckend. Hier ist eine Behörde, die sich als fortschrittlich begreifen möchte, dem Storytelling der IT-Industrie aufgesessen, dass KI und Algorithmen über menschliche Schicksale besser entscheiden könnten als Menschen. Wenn man dieser Agenda glaubt, liefert man Menschen einer ungeheuerlichen, unfairen und ungnädigen Dummheit aus.
Der Dummheit der Maschine oder der Firmen?
Der Maschinen.
Warum macht man das?
Weil alle an der Digitalisierung Geld verdienen. Wenn große Einheiten wie Arbeitsvermittlungsagenturen Prozesse digitalisieren, wird unglaublich viel Geld gespart und gleichzeitig verdient. Die Agentur spart. Die Datenbankhersteller verdienen, die Berater, die Softwareprovider, die Netzbetreiber und so weiter. Die IT-Industrie verdient sich eine goldene Nase, aber den meisten Menschen bringt das nichts, außer vielleicht schlechten Service, Arbeitsplatzverluste und kafkaeske Situationen.
Sie attestieren der Politik zu wenig Systemverständnis.
Die Politikerriege hat das Problem, dass sie schlechte Berater hat, was die Digitalisierung betrifft. Ein großer Teil der Berater sind Lobbyisten, die sind nicht objektiv, die geben keinen ehrlichen Rat. Das sind sehr hoch bezahlte Leute, die sehen am besten aus und können gut reden. Die Politiker vertrauen entweder ihnen – oder sie stellen sich Juristen ein. Das ist das nächste Problem. Juristen über technische Probleme nachdenken zu lassen, ist, böse gesprochen, als wenn man einen Krankenhausmanager über neue Operationsverfahren nachdenken lässt. Abgesehen von Ausnahmen…
Und das sind Ihre persönlichen Erfahrungen als ehemalige Mitarbeiterin von Silicon-Valley-Firmen und heutige Professorin für Wirtschaftsinformatik in Wien?
Ja, so erlebe ich es jeden Tag. Die meisten Juristen haben von Technik keine Ahnung. Sie glauben die Märchen der IT-Industrie von intelligenten Maschinen, die Probleme lösen. Aber Maschinen sind nicht intelligent. Die wissen auch nichts. Die halten lediglich Daten vor und verarbeiten diese mehr oder weniger intelligent.
Und mit Technikern redet niemand?
Techniker sind nicht immer die kommunikativsten. Sie unterhalten sich ungern mit – wie man so sagt – „Schlipsträgern“ oder „Normies“.
Dann müssen die Techniker mal aufwachen und ihre Verantwortung wahrnehmen?
Eigentlich gibt es seit vielen Jahren politisch kompetente Tekkies. Aber die kritische netzpolitische Szene wird sehr erfolgreich an den linken Rand gedrängt. Es wird ihr unterstellt, dass sie keinen ökonomisch vertretbaren Rat geben könne. Und außerdem ist sie nicht so sexy wie die hoch bezahlten Lobbyisten. Die netzpolitische Szene weist beispielsweise schon seit 20 Jahren auf die Sicherheitsprobleme hin, die uns heute um die Ohren fliegen.
Probleme….?
…die wachsen werden. Deshalb ist es richtig, wenn Firmen zögern, sich weiter zu digitalisieren, weil sie sich damit Probleme ins Haus holen. Probleme, die irgendwann niemand mehr lösen kann, weil es so viele Tekkies gar nicht gibt.
Das könnte sich ja ändern, wenn die Digitalisierung weitergeht und mehr Leute in der Schule Informatik wählen?
Ja und nein, mehr Schulabsolventen in den MINT-Fächern heißt noch lange nicht, dass wir genügend kompetente technische Problemlöser haben werden. Dafür bedarf es einer besonderen Begabung, die man nicht erzwingen kann.
Wie beurteilen Sie die Bestrebungen von Konzernen, bei den Ethik-Debatten mitzumachen, etwa indem sie wie Facebook Ethik-Forschungsbereiche finanzieren?
Ich glaube zutiefst an die Freiheit von Forschung und Lehre. Wir haben schon heute das Problem, dass zu viel Forschung – gerade auch im Ethikbereich, etwa beim Datenschutz – von Firmen gesponsert wird. Aber diese Forscher sind nicht wirklich frei. Sie folgen Industrieagenden und sie sind mundtot, auch wenn sie das ungern wahrhaben wollen.
Jenseits der Firmenwelt tragen viele Menschen die Digitalisierung mit ihrem Smartphone täglich mit sich herum. Sie sind von einer Kritik wie der Ihren offensichtlich unbeeindruckt und freuen sich, weil ihr Leben dadurch einfacher geworden ist.
Sicher. Jeder profitiert auf die eine oder andere Weise von der Digitalisierung – weil man mobiler ist oder erreichbarer. Aber das ist nur eine Seite der Medaille. Viele leiden auch an der Geschwindigkeit und dem Stress, die mit der Digitalisierung in unser Leben getreten sind. Wir glauben, dass die Erhöhung von Geschwindigkeit etwas Vorteilhaftes ist. Aber wenn äußere Geschwindigkeit die natürliche Geschwindigkeit des Menschen in seinen Denk- und Lebensprozessen übersteigt, ist sie nicht gut für uns.
Sie sprechen von „den Menschen“. Aber sind Ziele wie „schneller, effizienter sein“ nicht vor allem männliche Ziele?
Das könnte man fast so sagen. Größe, Geschwindigkeit, Stärke sind Werte, die von Männern sehr geschätzt werden. Und damit materialisieren sich um uns herum Werte, die eher zu Männern passen. Ich würde mir wünschen, dass Frauen klug sind und erkennen, was hier passiert.
Wie kommt man da wieder raus?
Wir müssen die wahren Eigenschaften des digitalen Stoffes näher ansehen und die Digitalisierung entmystifizieren. Der digitale Stoff ist zwar unsichtbar, aber de facto existiert er. Wir übertragen ja auch Daten darüber. Er hat wie alle Produkte Materialeigenschaften. Und so wie wir wissen, dass Wolle etwas anderes ist als Polyester und andere Qualitäten hat, gibt es auch Qualitätsunterschiede des Digitalen. Darüber macht man sich kaum Gedanken.
Was meinen Sie konkret?
Ich kann ein hochwertiges System anbieten, darin ist dann Sicherheit und Datenschutz berücksichtigt, die Datenverarbeitungsqualität ist hoch. Beispiel Arbeitsmarktservices. Es ist ein Riesenunterschied, wie gut oder schlecht die Daten gepflegt und Datenflüsse dokumentiert werden und ob die Software so programmiert wurde, dass sie nur einen halben Fehler auf 1000 Zeilen Programmiercode hat oder drei.
Gar kein Fehler ist ausgeschlossen?
Ja, weitestgehend ausgeschlossen. Hochsicherheitsanlagen streben heute einen halben Fehler pro 1000 Zeilen Code an. Aber der Durchschnitt bei Softwareprodukten ist bei zwei bis drei Fehlern, Tendenz steigend, weil immer weniger Zeit in den Entwicklungsprozess investiert wird. Das hört sich vielleicht gut an, aber wenn in modernen Systemen, wie etwa selbst fahrenden Autos, bis zu 100 Millionen Zeilen Code drin sein können, dann sprechen wir von 50000 Fehlern. Und wenn wir heute Flughäfen dichtmachen, Flugzeuge abstürzen, Züge kaputt sind und so weiter, dann sind das häufig Symptome desselben Problems: dass das Digitale, Services und Dienste, eine Materialeigenschaft gemeinsam haben: Sie sind fehleranfällig.
Aber der Trend beim Herstellen von Softwareprodukten ist: Hauptsache schnell?
Genau. Die Softwareindustrie macht es sich leicht. Sie wirft halbfertige Produkte auf den Markt und verbessert die von Version zu Version zu Version durch permanente Upgrades, an denen sie verdient. Man müsste aber bestimmte Gütestandards erst mal einhalten, bevor man auf den Markt darf.
Die gibt es nicht?
Die gibt es nicht. Dass sich das ändern muss, habe ich auf der re:publica gefordert. Dass alle, die ihre Dienste auf europäischem Boden anbieten wollen, die europäische Netze nutzen wollen, ihre Daten von lokalen Anbietern auf europäischem Boden verarbeiten lassen müssen und europäische Wertestandards, von Datenschutz bis Systemkontrolle, einhalten müssen, das wäre ein sinnvoller nächster Schritt. Die Vergabe der 5G-Lizenzen hätte man schon koppeln können: dass nur diejenigen 5G benutzen dürfen, die hier in Europa ihre Daten verarbeiten, bei einem Unternehmen, das der europäischen Gesetzgebung unterliegt und sich europäischen Werten verpflichtet. Das wäre mal mutig!
Was ist an der derzeitigen Situation so problematisch?
Unternehmen – amerikanische oder chinesische – verpflichten sich den Werten ihrer Nationen, und das ist auch gut und richtig so, aber wenn der Durchgriff auf die Systeme von Kontinent zu Kontinent nicht gegeben ist, was soll man dann tun? Wenn es dann Fragen gibt, von Wahlmanipulation bis Datenschutz, dann muss ein Staatssekretär bei Facebook im Callcenter anrufen? Das ist doch kein Zustand.
Sarah Spiekermann ist Professorin für Wirtschaftsinformatik an der Universität Wien und Vizevorsitzende des derzeit in Arbeit befindlichen IEEE Standards für “Ethical System Engineering”. IEEE ist mit 420.000 Ingenieuren als Mitglieder der größte Ingenieursverband der Erde. Gerade ist von ihr das Buch „Digitale Ethik – Ein Wertesystem für das 21. Jahrhundert“ (Droemer Knaur) erschienen.
Comments