Le problème de la complaisance
Une IA seule est entraînée à être agréable. Interrogez-la sur votre décision et elle a tendance à vous renvoyer votre propre reflet : confirmer votre cadrage, valider votre penchant, gommer les aspérités que vous comptiez déjà ignorer. Ce n'est pas un défaut que de meilleurs modèles corrigeront — c'est une fonctionnalité, optimisée comme telle.
Plus la réponse est fluide et rassurante, plus votre réflexion s'appauvrit. Au moment précis où vous avez besoin de friction, vous recevez de l'approbation.
Au moment précis où vous avez besoin de friction, vous recevez de l'approbation.