Die Debatte um die ethische Vertretbarkeit künstlicher Intelligenz konzentriert sich aktuell darauf, dass Maschinen keine unethischen Entscheidungen treffen sollten, die bestehende Vorurteile verstärken könnten. Dies betrifft Bereiche wie Bewerbungen, Kreditvergabe, gerichtliche Verurteilungen und Gesichtserkennungssoftware im Einsatz von Polizei und öffentlichen Einrichtungen.
Weniger beachtet werde die Frage, wie KI die moralische Integrität von Menschen beeinflussen kann, so Nils Köbis, Professor for the Human Understanding of Algorithms and Machines an der Universität Duisburg-Essen. Gemeinsam mit Iyad Rahwan und Jean-François Bonnefon veröffentlichte er dazu einen Meinungsartikel in der «Los Angeles Times». Menschen tendierten dazu, sich unethisch zu verhalten, wenn sie dies vor anderen rechtfertigen können, wenn sie sehen, dass andere ähnliche ethische Abstriche machen, und wenn sie dies gemeinsam mit anderen tun können. Der soziale Einfluss spiele eine bedeutende Rolle im moralischen Kompass der Menschen.
Psychologisch betrachtet könne KI als beratende Instanz dazu dienen, die Rechtfertigung für das Brechen ethischer Regeln zu liefern, so Köbis et al. im Paper «Bad machines corrupt good morals». Beispielsweise könnten KI-Systeme Verkaufsgespräche analysieren und vorschlagen, dass die Täuschung von Kund*innen die Chancen auf Gewinnmaximierung erhöht.
Besorgniserregend sei auch die Rolle von KI als «Enabler». Menschen könnten mit KI zusammenarbeiten, um bewusst Schaden zu verursachen, wie dies bei KI-generierten Medien, insbesondere «Deepfakes», der Fall sei. Studien zeigen, dass Menschen zu viel Vertrauen in ihre Fähigkeit haben, Deepfakes zu erkennen, was sie besonders anfällig mache.
Erfahren Sie mehr über den moralischen Einfluss von KI am 20. Europäischen Trendtag, der am 13. März 2024 am Gottlieb Duttweiler Institut stattfinden wird. Dort wird Nils Köbis als Referent Einblicke in seine spannende Forschung geben.