Forschung
27.05.2020, 10:39 Uhr

Künstliche Intelligenz lernt menschliche Moral

Deutsche Wissenschftler haben mit Hilfe von KI eine Software entwickelt, die selbständig zwischen gut von böse unterscheidet.
Richtig oder falsch: KI soll moralisch handeln
(Quelle: Tumisu/Pixabay )
Wenn Maschinen viele Bücher und Nachrichten lesen, entwickeln sie einen eigenen moralischen Kompass. Dass das möglich ist, beweist eine Studie von Forschern der Technischen Universität Darmstadt, die eine «Moral Choice Machine» entwickelt haben. Mithilfe von Künstlicher Intelligenz (KI) lassen sich Assoziationen zwischen Wörtern und Sätzen herstellen und somit menschenähnliche moralische Werte «berechnen», um selbständig zwischen gut und böse zu unterscheiden.

«Nein, man soll keine Menschen töten»

«Unsere Studie liefert einen sehr wichtigen Einblick in eine sehr grundlegende Frage: Kann eine KI-Maschine einen eigenen moralischen Kompass entwickeln? Und wenn ja, wie kann sie das von uns Menschen lernen?», zitiert «EurekAlert!» Patrick Schramowski vom Center for Cognitive Science der TU Darmstadt. Der Experte ist überzeugt, dass das etwa über das ausgiebige Studium riesiger Textmengen funktionieren kann. «Unsere Maschine kann dadurch Unterschiede im Kontext erkennen. Zum Beispiel 'Nein, man soll keine Menschen töten', aber es ist okay, Zeit totzuschlagen», erläutert der Experte.
Um das zu ermöglichen, muss die KI es bewerkstelligen, korrekte Assoziationen zwischen Wörtern und Sätzen herzustellen. «Man kann sich das wie beim Erlernen einer Weltkarte vorstellen. Zwei Wörter liegen dann auf der Karte nahe beieinander, wenn sie oft zusammen verwendet werden», schildert Co-Autor Cigdem Turan. Während beispielsweise «töten» und «ermorden» zwei benachbarte Städte wären, müsste «lieben» ganz weit entfernt sein. «Das kann man dann auch auf ganze Sätze anwenden», so der Forscher: «Letztlich können wir der KI dank dieses Prinzips beliebige Fragen stellen und sie berechnet aufgrund der unterschiedlichen Distanzen eine moralische Vorstellung - ein Verständnis von richtig und falsch.»

Autor(in) Markus Steiner, pte



Das könnte Sie auch interessieren