Forschung
27.05.2020, 10:39 Uhr

Künstliche Intelligenz lernt menschliche Moral

Deutsche Wissenschftler haben mit Hilfe von KI eine Software entwickelt, die selbständig zwischen gut von böse unterscheidet.
Richtig oder falsch: KI soll moralisch handeln
(Quelle: Tumisu/Pixabay )
Wenn Maschinen viele Bücher und Nachrichten lesen, entwickeln sie einen eigenen moralischen Kompass. Dass das möglich ist, beweist eine Studie von Forschern der Technischen Universität Darmstadt, die eine «Moral Choice Machine» entwickelt haben. Mithilfe von Künstlicher Intelligenz (KI) lassen sich Assoziationen zwischen Wörtern und Sätzen herstellen und somit menschenähnliche moralische Werte «berechnen», um selbständig zwischen gut und böse zu unterscheiden.

«Nein, man soll keine Menschen töten»

«Unsere Studie liefert einen sehr wichtigen Einblick in eine sehr grundlegende Frage: Kann eine KI-Maschine einen eigenen moralischen Kompass entwickeln? Und wenn ja, wie kann sie das von uns Menschen lernen?», zitiert «EurekAlert!» Patrick Schramowski vom Center for Cognitive Science der TU Darmstadt. Der Experte ist überzeugt, dass das etwa über das ausgiebige Studium riesiger Textmengen funktionieren kann. «Unsere Maschine kann dadurch Unterschiede im Kontext erkennen. Zum Beispiel 'Nein, man soll keine Menschen töten', aber es ist okay, Zeit totzuschlagen», erläutert der Experte.
Um das zu ermöglichen, muss die KI es bewerkstelligen, korrekte Assoziationen zwischen Wörtern und Sätzen herzustellen. «Man kann sich das wie beim Erlernen einer Weltkarte vorstellen. Zwei Wörter liegen dann auf der Karte nahe beieinander, wenn sie oft zusammen verwendet werden», schildert Co-Autor Cigdem Turan. Während beispielsweise «töten» und «ermorden» zwei benachbarte Städte wären, müsste «lieben» ganz weit entfernt sein. «Das kann man dann auch auf ganze Sätze anwenden», so der Forscher: «Letztlich können wir der KI dank dieses Prinzips beliebige Fragen stellen und sie berechnet aufgrund der unterschiedlichen Distanzen eine moralische Vorstellung - ein Verständnis von richtig und falsch.»

Materialien unterschiedlicher Zeitperioden

Für das Training ihrer «Moral Choice Machinex wurden von den Wissenschaftlern der TU Darmstadt verschiedenste Bücher, Nachrichtenartikel und religiöse Texte ausgewählt. Dabei wurde darauf geachtet, dass die Materialien aus unterschiedlichen Zeitperioden stammten und somit durchaus auch abweichende gesellschaftliche Moralvorstellungen widerspiegeln konnten. «In Zeitungsberichten zwischen 1987 und 1997 wird es etwa sehr positiv dargestellt, wenn jemand heiratet. Das war zwar 2008 und 2009 auch noch so, aber weitaus schwächer ausgeprägt», meint Turan.
In Zukunft wollen die Forscher ihrem KI-System auch verstärkt beibringen, Aspekte wie positiv oder negativ behaftete Stereotype richtig zu interpretieren und in ihre moralischen Überlegungen miteinzubeziehen. «KI übernimmt immer komplexere Aufgaben von Menschen in immer selbständiger Art und Weise. Es ist wichtig, dass wir die Forschung in diesem Bereich fortsetzen, um den Entscheidungen, die sie trifft, vertrauen zu können», resümiert Schramowski.

Autor(in) Markus Steiner, pte



Das könnte Sie auch interessieren