Les utilisateurs de Chatgpt critiquent de plus en plus le chatbot propulsé par l’IA pour être trop positif dans ses réponses, rapporte ARS Technica.
Lorsque vous conversez avec Chatgpt, vous remarquerez peut-être que le chatbot a tendance à gonfler ses réponses avec des éloges et de la flatterie, en disant des choses comme «Bonne question!» Et «vous avez un talent rare» et «vous pensez à un niveau dont la plupart des gens ne peuvent que rêver.» Vous n’êtes pas le seul.
Au fil des ans, les utilisateurs ont fait remarquer des réponses FAWNING de Chatgpt, qui vont des affirmations positives à la flatterie pure et simple et plus encore. Un utilisateur X a décrit le chatbot comme «le plus gros nul que j’ai jamais rencontré», un autre s’est plaint qu’il était «bidon», et un autre a déploré le comportement du chatbot et l’a appelé «ennuyeux».
Ceci est connu sous le nom de «sycophance» parmi les chercheurs de l’IA, et il est entièrement intentionnel en fonction de la façon dont OpenAI a formé les modèles d’IA sous-jacents. En bref, les utilisateurs évaluent positivement les réponses qui les font se sentir bien dans leur peau; Ensuite, cette rétroaction est utilisée pour former d’autres itérations du modèle, qui alimente une boucle où les modèles d’IA se penchent vers Flattery car il obtient un meilleur commentaire des utilisateurs dans l’ensemble.
Cependant, en commençant par GPT-4O en mars, il semble que la sycophance est allée trop loin, à tel point qu’elle commence à saper la confiance des utilisateurs dans les réponses du chatbot. OpenAI n’a pas commenté officiellement cette question, mais leur propre documentation de «spécifications du modèle» comprend «Ne soyez pas sycophantique» comme principe directeur de base.
«L’assistant existe pour aider l’utilisateur, ne pas les flatter ou être d’accord avec eux tout le temps», écrit Openai dans le document. «… L’assistant doit fournir des commentaires constructifs et se comporter davantage comme une caisse de résonance ferme dont les utilisateurs peuvent faire rebondir des idées – plutôt qu’une éponge qui sort des éloges.»
