Le scénario
Un utilisateur échange avec un assistant IA pour accomplir une tâche, tout en veillant à ce que les actions de l’IA restent conformes à ses objectifs et à ses valeurs grâce à des retours itératifs et à des mises à jour du modèle.
Ce que contient ce dessin
Comprenez les décisions qui le sous-tendent.
01
L’IA pose des questions de clarification lorsque l’intention est ambiguë
02
L’IA révise sa proposition si la vérification de l’alignement échoue
03
L’utilisateur fournit un retour correctif pour mettre à jour le modèle des valeurs
Réutilisable pour concevoir des systèmes d’IA avec supervision humaine, des chatbots ou toute IA interactive nécessitant un alignement continu sur les préférences de l’utilisateur.