Les réponses de l’IA de Google commencent à ressembler à des publicités

Je parlais justement avec un collègue qui a demandé à une IA de l’aider à ouvrir un compte de courtage, et il m’a raconté comment elle avait donné quelques conseils généraux avant de recommander une société d’investissement spécifique, louant son site Web facile à utiliser et même proposant une URL prête à cliquer.

Attendez, mon collègue s’est demandé : était-ce une réponse sponsorisée ?

Je suis presque sûr que la réponse que mon ami a eue n’était pas en fait une publicité ; Il est plus probable que l’IA ait effectué des recherches sur certains sites pratiques sur le Web et en ait peut-être trouvé un rédigé par cette maison de courtage en particulier.

Mais c’est justement ce doute sur la réponse de l’IA qui est important. Nous nous méfions déjà (comme nous devrions l’être) des hallucinations de l’IA dans ses conversations avec nous. Bientôt, on se demandera de plus en plus si la réponse d’une IA a été achetée et payée.

Cette semaine encore, Google a démontré à quel point il commençait à brouiller la frontière entre les réponses de l’IA et les publicités. Dans une nouvelle annonce « Conversational Discovery » que Google teste en mode IA, la réponse de Gemini à une question d’utilisateur inclurait une « création » sponsorisée et écrite par Gemini qui est « adaptée à cette recherche », intégrant essentiellement l’annonce dans la réponse de Gemini.

Dans un autre bloc d’annonces en mode IA que Google teste, une annonce sponsorisée conçue par Gemini pourrait être incluse en tant que « réponse surlignée » à une question, apparaissant aux côtés d’autres contenus non sponsorisés.

Dans chacun de ces blocs d’annonces, Google affirme que Gemini jouera le rôle d’un « explicateur IA » qui « évalue et synthétise les informations sur un produit ou un service » et « affiche ce contexte aux côtés de la création de l’annonceur ». « La réponse cohérente et indépendante de Gemini garantit la transparence et renforce la confiance », poursuit Google.

Désormais, il est important de noter que les blocs d’annonces Conversational Discovery et Highlighted Answer (ainsi que les nouvelles annonces Shopping basées sur l’IA dans la recherche Google) sont clairement étiquetés comme « Sponsorisés ». Et dans le cas des publicités « conversationnelles », le contenu Gemini sponsorisé apparaît dans une section délimitée juste en dessous de la réponse principale non sponsorisée.

Néanmoins, ces nouvelles publicités écrites par Gemini vont bien au-delà des blocs d’annonces statiques familiers servis dans ChatGPT. Avec les nouveaux blocs d’annonces de Google, Gemini intègre le contenu sponsorisé dans le contexte de la question de l’utilisateur. Il s’agit d’un changement important – et probablement inévitable.

Et tandis que Google est scrupuleux quant à l’étiquetage des réponses Gemini sponsorisées comme des publicités, j’imagine la tentation pour d’autres spécialistes du marketing de rendre ces bogues « sponsorisés » de plus en plus petits, tout en intégrant de plus en plus étroitement le texte publicitaire écrit par l’IA dans les réponses de l’IA.

Plus d’informations sur l’IA cette semaine

• Mon collègue Mark Hachman a essayé les nouvelles lunettes IA de Google et les a appréciées. La caméra intégrée reste cependant effrayante. (PCMonde)
• Pourquoi les orateurs continuent-ils à faire l’éloge de l’IA lors des discours d’ouverture ? Ne savent-ils pas ce qui va se passer maintenant ? (PA)
• Ce boîtier AMD de la taille d’une pinte peut être votre propre ChatGPT personnel, exécutant de puissants LLM localement plutôt que dans le cloud. Mais cela vous coûtera cher. (PCMonde)
• Le nouvel agent Spark AI de Google exécutera sans relâche vos enchères, fonctionnant 24h/24 et 7j/7 dans le cloud et accédant (si vous le permettez) à toutes vos données Google principales. Mais c’est uniquement pour les utilisateurs de Google AI Ultra, ce qui signifie que cela vous coûtera au moins 100 $ par mois. (PCMonde)
• Parallèlement à sa révélation sur Spark, Google a également apporté d’importants changements à la façon dont il calcule les limites d’utilisation de Gemini, ses abonnements à l’IA passant à une utilisation « basée sur le calcul ». (PCMonde)
• ChatGPT peut désormais accéder à vos comptes financiers si vous le souhaitez. Voici pourquoi je ne le suis pas. (PCMonde)
• Une entreprise a donné 20 $ chacun à quatre modèles d’IA pour démarrer leurs propres stations de radio. Inutile de dire que l’expérience a rapidement déraillé. (CNET)

Invite de la semaine : l’invite « anti-sycophanie »

AI adorait nous féliciter. Si j’avais une pièce de cinq cents à chaque fois que ChatGPT me disait que je « mettrais le doigt sur la tête » ou que je ferais une « belle » observation, j’irais acheter plein de choses.

La flatterie est tellement ancrée dans les modèles d’IA qu’il peut être difficile de les faire cesser, même lorsque vous le leur dites directement. Une meilleure approche est une invite si brutale, si directe, qu’elle agit comme un choc pour le système de l’IA, l’équivalent du « snap out ! » de Cher ! moment dans Rêveur.

Cette invite « anti-sycophanie » ne gifle pas littéralement une IA au visage, mais elle l’amènera à laisser tomber les éloges et, enfin, à vous le dire directement.

C’est tout pour l’instant !

Merci d’avoir lu le dernier numéro de Prompt Mode. Vous en voulez plus la semaine prochaine ? N’oubliez pas de vous inscrire pour commencer à recevoir cette newsletter dans votre boîte de réception. A la prochaine fois !