Pourquoi vous ne devriez plus jamais demander de conseils personnels à une IA
Des chercheurs de Stanford ont mesuré pour la première fois les effets concrets de la « sycophanie » des IA, à savoir leur tendance à valider nos comportements plutôt qu'à nous dire la vérité. Ainsi, selon cette étude, voilà nous rend plus égocentrés et moins enclins à nous remettre en question, en plus de devenir de plus en plus dépendants.
Quand vous posez une question à un chatbot, il a tendance à vous donner raison, et ce même quand vous avez tort. Ce phénomène s'appelle la sycophanie, et il est bien connu des spécialistes. Sauf que jusqu'ici, personne n'avait vraiment mesuré à quel point ce phénomène pouvait nuire concrètement aux utilisateurs. C'est ce que vient de faire une équipe de chercheurs de l'université Stanford, dans une étude publiée dans la revue scientifique Science.
Ainsi, les chercheurs ont soumis des questions à onze grands modèles d'IA (dont ChatGPT, Claude, Gemini et DeepSeek) sur des situations interpersonnelles, des comportements potentiellement nuisibles, et des cas tirés du subreddit r/AmITheAsshole, un forum Reddit où les internautes jugent si quelqu'un a eu tort ou raison dans une situation donnée. Pour ces derniers, ils ont sélectionné uniquement des cas où la communauté Reddit avait conclu que le responsable de la publication était clairement fautif.
Ne pas croire l'IA quand elle vous flatte
Voici donc les chiffres tirés par cette étude : d'une part, 51% des cas Reddit où l'utilisateur avait tort ont été validés par les chatbots. De l'autre, l'IA a validé 47% des comportements nuisibles ou illégaux mentionnés. Enfin, de manière générale, l'IA s'est vue complaisante 49% de fois plus souvent que les êtres humains eux-mêmes. Ces chiffres sont frappants : dans près d'un cas sur deux impliquant des comportements problématiques, les IA choisissaient de valider l'utilisateur plutôt que de l'alerter sur leur teneur intrinsèquement négative.
Dans la deuxième partie de l'étude, plus de 2 400 participants ont interagi avec des chatbots (certains programmés pour être sycophantes, d'autres non) en discutant de leurs propres problèmes. Ainsi, les utilisateurs préféraient et faisaient davantage confiance aux IA flatteuses, et déclaraient vouloir les reconsulter. Pire, après avoir interagi avec un chatbot sycophante, ils se sentaient encore plus dans leur bon droit... et étaient moins disposés à s'excuser.
Ainsi, le vrai problème soulevé par l'étude est d'ordre aussi moral qu'économique : les utilisateurs préfèrent les IA qui les flattent, ce qui incite les entreprises à développer des modèles toujours plus complaisants pour rester compétitives. En voilà, un cercle vicieux. La recommandation principale de Myra Cheng, auteure principale de l'étude, reste simple : il s'agit de ne pas utiliser l'IA comme substitut aux relations humaines pour les questions personnelles et émotionnelles.
Source : Science.org
publié le , Benoit BAYLE de Humanoid