Das Szenario
Ein Nutzer arbeitet mit einem KI-Assistenten an einer Aufgabe und stellt durch iteratives Feedback sowie Modellaktualisierungen sicher, dass die Aktionen der KI an seinen Zielen und Werten ausgerichtet bleiben.
Was diese Zeichnung zeigt
Die dahinterstehenden Entscheidungen verstehen.
01
Die KI stellt bei unklarer Absicht Rückfragen
02
Die KI überarbeitet ihren Vorschlag, wenn der Werteabgleich fehlschlägt
03
Der Nutzer gibt korrigierendes Feedback zur Aktualisierung des Wertemodells
Zur Entwicklung von Human-in-the-Loop-KI-Systemen, Chatbots und anderen interaktiven KI-Anwendungen, die eine kontinuierliche Ausrichtung an den Nutzerpräferenzen erfordern.