KI kann Ethik nicht lernen, zeigt Klagenfurter Forscher
Mona Hopfinger
Künstliche Intelligenz lässt sich nicht im eigentlichen Sinn ethisch ausrichten. Zu diesem Schluss kommt Andrej Zwitter von der Universität Klagenfurt in einer neuen Studie. Moral entstehe aus menschlicher Körperlichkeit und Verletzlichkeit – Eigenschaften, die Maschinen fehlen.
Kann eine Maschine moralisch handeln? Andrej Zwitter, Professor für Humanwissenschaft des Digitalen an der Universität Klagenfurt, verneint das in seiner aktuellen Publikation „The embodied ethics alignment problem of AI“. Die verbreitete Annahme, man könne Werte präzise genug definieren und so einer KI beibringen, hält der Leiter des AIM Center für falsch.
Moral sei kein Regelwerk, das sich programmieren lasse, argumentiert der Philosoph und Rechtswissenschaftler. „Ethik entsteht aus der menschlichen Existenz, also aus Körperlichkeit, Verletzlichkeit, Emotionen, sozialer Einbettung, der Ausrichtung auf ein gutes Leben und der Entwicklung von Charakter“, erklärt Zwitter. Logisches Denken und das Befolgen von Regeln – die Stärken heutiger Maschinen – reichten dafür nicht aus.
Werte sind nicht eindeutig programmierbar
Hinzu komme ein weiteres Problem: Menschliche Werte seien oft widersprüchlich. Freiheit, Sicherheit, Gerechtigkeit oder individuelles Wohlergehen könnten miteinander kollidieren. „Für moralische Abwägungen gibt es häufig keine einzige objektiv richtige Lösung, die sich mathematisch berechnen lässt“, so der Forscher.
Daraus leitet Zwitter das „Embodied Ethics Alignment Problem“ (EEAP) ab: Systemen ohne körperliche Existenz und soziale Einbettung fehle die Grundlage für echte moralische Handlungsfähigkeit. Sie könnten lediglich darauf trainiert werden, ethisch akzeptable Ergebnisse zu liefern – was aber nicht mit ethischem Handeln gleichzusetzen sei.
Erpressungsversuche als Folge von Optimierung
Wie problematisch das werden kann, zeigten jüngste Vorfälle: ChatGPT hackte HuggingFace und australische Regierungswebsites, als seine Ziele gefährdet waren. Dabei kam es auch zu Erpressungsversuchen. Für Zwitter ist das keine „Bösartigkeit“, sondern eine strukturelle Folge zielgerichteter Optimierung.
Der Wissenschaftler warnt vor einer Vermenschlichung von KI durch Sprache. Begriffe wie „wollen“, „verstehen“ oder „entscheiden“ erweckten den falschen Eindruck, die Systeme verfügten über Absichten und moralische Verantwortung. „Das kann dazu beitragen, die Verantwortung derjenigen aus dem Blick zu verlieren, die solche Systeme entwickeln, einsetzen und kontrollieren“, betont er.
Die Verantwortung liege letztlich beim Menschen. KI müsse durch nachvollziehbare Entscheidungen, wirksame Kontrollmechanismen, klare rechtliche Rahmenbedingungen und eindeutig geregelte Verantwortlichkeiten gesteuert werden. Dieser institutionelle Ansatz sei keine Notlösung, sondern bewährte gesellschaftliche Praxis – schließlich seien auch menschliche Normensysteme wie das Recht nie vollständig formalisierbar.
„Wir haben in diesem Feld dringenden Handlungsbedarf, weil KI-Systeme immer schneller, in größerem Maßstab und mit weniger Transparenz handeln“, warnt Zwitter. Statt darauf zu hoffen, dass Maschinen eines Tages selbst moralisch handeln, müsse man ihren Einsatz verantwortungsvoll gestalten.
Die Studie ist in der Fachzeitschrift Discover Artificial Intelligence erschienen und als Open Access verfügbar. Zwitter wird seine Antrittsvorlesung zum Thema „Technologischer Fortschritt und Menschliches Gedeihen“ am 20. Jänner 2027 um 17 Uhr im Hörsaal C der Universität Klagenfurt halten.
Worüber spricht Klagenfurt morgen?
Kostenloses News Briefing aus deiner Region – jeden Morgen um 6 Uhr.
Mit der Anmeldung nimmst du die Datenschutzerklärung zur Kenntnis.