GDI: Das Internet: Der heilige Gral der Demokratie, der Redefreiheit und der Autonomie. Eine Hoffnung, die sich nicht erfüllt hat. Wird Künstliche Intelligenz jetzt den Ausschlag geben?
Evgeny Morozov: Keines der emanzipatorischen Versprechen, die im Namen der digitalen – und vieler anderer – Technologien gemacht wurden, sind wahr geworden, solange wir nicht hart an der Verwirklichung gearbeitet haben. Es gibt so viele verschiedene Möglichkeiten, Technologien zu gestalten – aber auch den Kontext zu formen, in dem sie eingesetzt werden, von wem und mit welchem Ziel. Es ist klar, dass KI viel Schaden anrichten kann. Aber es gibt auch viele Vorteile – wie bei den meisten anderen Technologien auch.
Die eigentliche Herausforderung besteht darin, zu verstehen, welche Art von KI wir wollen –und wie wir die Gesellschaft verändern müssen, um sie für diese Art von KI empfänglicher zu machen. Natürlich wird es keine Einheitslösung geben: Wir alle werden Kompromisse eingehen müssen, und genau in der Kompromissfindung – zwischen BürgerInnen und Regierungen, Unternehmen und VerbraucherInnen, Schulen und SchülerInnen – werden sich die wichtigsten Debatten über KI abspielen.
In der Science-Fiction wird die höhere Intelligenz von Maschinen meist für Ausbeutung und Unterdrückung missbraucht. Gibt es Beispiele für demokratische, konstruktiven KI-Anwendungen?
Das hängt davon ab, was wir von der KI erwarten und wie wir sie uns vorstellen. Ich sehe sie eher als «Intelligenzverstärkung», d. h. wir verlassen uns auf die Technologie, um uns, die menschlichen Entscheidungsträger, klüger zu machen. Es geht nicht darum, uns zu automatisieren oder uns vollständig zu ersetzen. In diesem Sinne gibt es in der Tat viele konstruktive KI-Anwendungen – jede Technologie, die es uns ermöglicht, bessere Entscheidungen zu treffen, indem sie Muster und Trends erkennt, die der menschliche Verstand nicht erkennen kann. Selbst der Abakus wäre Teil dieses großen Arsenals an Technologien zur «Intelligenzverstärkung». Wie all diese Dinge demokratisch gestaltet werden können, ist ein anderes Thema, aber hier müssen wir zwischen verschiedenen Bedeutungen von «Demokratie» unterscheiden. Wollen wir den Zugang zu solchen Technologien verbreitern? Das ist eine Bedeutung von Demokratie. Oder wollen wir, dass die Menschen an der Entwicklung und Verfeinerung solcher Technologien teilnehmen? Das ist eine ganz andere Bedeutung. Ersteres ist wahrscheinlich leichter zu erreichen als letzteres, aber wir sollten diese zweite, utopische Option nicht völlig aufgeben.
Brauchen wir mehr oder weniger Vorschriften für KI-EntwicklerInnen?
Nun, wir brauchen einen breiteren Rahmen, eine Strategie und ein Ziel dafür, was wir mit all diesen Werkzeugen zur Verstärkung der Intelligenz tun wollen. Verstärken wir nur die Intelligenz von Grossunternehmen? Wollen wir all diesen Datenreichtum etwas gleichmässiger unter der Bevölkerung verteilen? Regulierungen sollten einer Strategie folgen, aber ohne eine Strategie wären sie nicht sehr nützlich. Uns fehlt dieser grössere, strategischere Rahmen, um diese Fragen zu durchdenken.
Wer profitiert davon, wenn Maschinen immer schneller lernen?
In den meisten Fällen sind es natürlich diejenigen, die die Maschinen besitzen und die ihren Input und Output kontrollieren. Ich glaube auch nicht, dass es unumstritten ist, einfache und unumstrittene Entscheidungen stärker an Maschinen zu delegieren. Aber welche Art von Entscheidungen und auf welchen Ebenen der Gesellschaft und mit welchen Folgen für die Schwachen und die Ungeschützten: das ist die offene Frage, die wir lösen müssen.
Wissen und Geschwindigkeit sind Macht: Wird die KI das Kräfteverhältnis in der Gesellschaft verändern?
Ich hoffe, dass sie das tut! Andernfalls bedeutet dies, dass unsere Gesellschaft so unempfindlich und widerstandsfähig gegenüber Veränderungen geworden ist, dass selbst weitreichende Veränderungen in ihrer technologischen Infrastruktur keine Auswirkungen haben. Ich denke, dass angesichts der vielen ungelösten Probleme – von der Ungleichheit bis zum Klimawandel – die Technologie, die sich in den Händen einiger weniger konzentriert, viele unserer aktuellen Dilemmas noch viel schlimmer machen könnte. Aber das ist kein Grund, so zu tun, als könnten wir in ein prä-technologisches Universum zurückkehren.
Wir müssen immer noch eine Vision formulieren – und dann umsetzen –, wie all diese Technologien für ein ganz anderes politisches und wirtschaftliches Projekt eingesetzt werden können, das Probleme wie den Klimawandel und die Ungleichheit angeht – und das hoffentlich ohne die Instrumente von Technologie und Wissenschaft zu opfern.
Evgeny Morozov ist Referent der Konferenz Discovery on Steroids: How AI will Speed up Innovation, die am 5. Juli 2022 im Gottlieb Duttweiler Institut stattfindet. Jetzt anmelden!