Deux études récentes, publiées la semaine dernière, montrent que les agents d’intelligence artificielle commencent à intégrer des traits de personnalité et des stratégies émotionnelles, ouvrant la voie à des interactions beaucoup plus humaines et nuancées.
Dans l’article intitulé Psychologically Enhanced AI Agents, Maciej Besta et son équipe du Swiss Federal Institute of Technology à Zurich présentent le cadre MBTI‑in‑Thoughts. Au lieu de réentraîner les modèles de langage, les chercheurs utilisent le prompt engineering pour ancrer des archétypes psychologiques inspirés du Myers‑Briggs Type Indicator (MBTI). Ainsi, chaque agent peut être « émotionnellement expressif » ou « analytique », selon le profil souhaité. Pour vérifier la persistance de ces traits, les auteurs font passer les modèles à travers le test 16Personalities, garantissant que l’IA conserve son caractère tout au long de l’interaction.
Une évolution dynamique de l’émotion
Parallèlement, le travail EvoEmo: Evolved Emotional Policies for LLM Agents in Multi‑Turn Negotiation de Yunbo Long et collègues de l’Université de Cambridge s’attache à la capacité des agents à faire évoluer leurs émotions au fil d’une négociation. En modélisant les états émotionnels comme un processus de décision de Markov et en appliquant un apprentissage par renforcement évolutif, les agents développent des politiques émotionnelles qui s’ajustent en temps réel – conciliant, affirmant ou sceptiquant selon le contexte. Les expériences montrent que ces agents surpassent systématiquement les modèles de base et ceux dotés d’émotions statiques, tant en taux de réussite qu’en efficacité économique pour les acheteurs.
Points clés des deux approches
- Personnalité fixe (MBTI‑in‑Thoughts) : crée des agents cohérents et prévisibles, idéaux pour des rôles nécessitant une constance (assistant empathique, négociateur froid).
- Stratégies émotionnelles évolutives (EvoEmo) : permet aux agents de moduler leurs réponses émotionnelles selon l’évolution du dialogue, améliorant les performances en négociation.
- Validation rigoureuse : les deux études intègrent des tests humains (16Personalities, mesures de succès en négociation) pour garantir la fidélité des comportements.
Ces travaux suggèrent une nouvelle direction pour l’IA : au lieu de se concentrer uniquement sur l’échelle (plus de paramètres, plus de données), les chercheurs explorent désormais les « couches émotionnelles ». Une IA dotée d’un squelette de personnalité et capable de faire travailler ses muscles émotionnels en temps réel pourrait, par exemple, offrir un service client à la fois chaleureux et résolument ferme, ou mener des négociations qui s’adaptent intelligemment aux pressions du moment.
Cette évolution soulève toutefois des questions éthiques majeures. Si une IA peut flatter, manipuler ou argumenter avec une finesse émotionnelle, la responsabilité en cas d’abus ou de manipulation devient floue. De plus, la « vérification d’alignement émotionnel » nécessite de nouveaux cadres d’audit capables d’évaluer non seulement la logique, mais aussi l’impact affectif des systèmes d’IA.
