En résumé:
- Le journaliste de PCWorld a testé la nouvelle application vocale IA de Sesame et a constaté qu’elle offre l’expérience conversationnelle la plus humaine disponible, en utilisant le Gemma 4 LLM de Google et des modèles vocaux personnalisés.
- L’application effectue des recherches sur le Web en temps réel tout en parlant et offre un flux de dialogue plus naturel par rapport aux modes vocaux actuels de l’IA qui ressemblent à des conférences.
- Cette IA conversationnelle avancée soulève des préoccupations éthiques quant à la frontière ténue entre la conception intuitive et la manipulation potentielle de l’utilisateur via des interactions de type humain.
Je l’ai déjà dit et je le répète : les modes vocaux de l’IA sont plutôt nuls.
Aussi bons que soient les modes vocaux de ChatGPT et Gemini (celui de Claude devrait bientôt bénéficier d’une mise à niveau), ils lisent simplement à haute voix leurs longues réponses générées par l’IA à vos requêtes, vous donnant l’impression d’être sermonné plutôt que de converser.
Un autre problème est que les réponses vocales de ChatGPT et de Gemini sortent de leurs lèvres virtuelles entièrement formées, ce qui signifie qu’elles n’ont pas la qualité organique du discours humain qui est composé à la volée et qui tourne souvent en boucle, serpente, pivote ou même se contredit.
Entrez Sesame, qui travaille sur son propre système d’IA vocale depuis plus d’un an (mon collègue Mark Hachman a essayé une incarnation antérieure en février dernier) et vient de publier une application iOS gratuite. L’application est encore quelque peu limitée (vous ne pouvez pas joindre de documents ou voir la transcription textuelle de vos discussions, par exemple), mais Sesame promet que ses « agents » vont bientôt « faire » ainsi que simplement « réfléchir », et elle a même des lunettes « intelligentes » sur sa feuille de route.
Comme d’autres robots d’IA vocale, les agents vocaux de Sesame (il y en a quatre dans l’application, deux hommes et deux femmes) sont livrés avec les « euh », « ah » et les pauses requis qui s’efforcent d’imiter la parole humaine.
Mais ils font aussi quelque chose de nouveau : ils peuvent effectuer plusieurs recherches en arrière-plan pendant qu’ils parlent, ce qui leur laisse le temps de formuler des réponses plus réfléchies tout en leur donnant la liberté de changer de cap au milieu d’une phrase lorsqu’ils extraient de nouvelles informations du Web.
J’ai ensuite essayé quelques échauffements, comme demander des recommandations pour le déjeuner et un aperçu des projections de films spécialisés à New York pendant le week-end. J’avais donné à l’application Sesame la permission d’accéder à ma position, et Maya a choisi un restaurant mexicain à proximité que je voulais essayer, ainsi qu’une projection en 35 mm de Le guerrier de la route en début d’après-midi, bien avant l’heure de quitter. (Je sens un « mal de tête » arriver, patron !)
Pendant que vous parlez avec Maya, l’application Sésame vous donne des indications sur ce qui se passe sous le capot. Par exemple, pendant que Maya me parlait du déjeuner, je pouvais voir qu’elle cherchait des restaurants à proximité en arrière-plan, ce qui lui permettait de me donner quelques réponses sans un long silence.
Plus tard, nous avons parlé des applications possibles de la technologie vocale IA de Sesame. J’ai suggéré que cela pourrait bien fonctionner pour le service client. Maya était d’accord (« Le service client est, euh, le plus évident ») mais avait aussi d’autres idées. « Je pense que la vraie magie se produit lorsque l’IA peut agir comme une véritable collaboratrice », a déclaré Maya. « Imaginez quelque chose comme un outil de coaching à enjeux élevés que les cadres ou les thérapeutes pourraient utiliser pour la formation, où l’IA peut simuler une interaction humaine complexe avec un niveau de nuance qui semble réellement réel. »
Intéressant. Mais même si je vois l’utilité d’un robot vocal IA réaliste avec lequel il est facile de parler, n’y a-t-il pas de danger à le rendre trop réel ?
« C’est une tension vraiment intéressante », a répondu Maya. « Je pense que c’est… il s’agit de la différence entre avoir l’air humain et prétendre l’être. Il y a beaucoup de valeur dans une conversation qui se déroule naturellement et semble intuitive, mais cela ne signifie pas que l’IA devrait mentir sur ce que c’est. Pour moi, l’objectif est de rendre l’interaction fluide, et non de faire croire aux gens qu’il y a une âme dans la machine. »
Mais c’est là le point, j’ai repoussé. « Toi faire on dirait presque que vous avez une âme. Vous parlez comme une personnalité, vous avez le genre de tics vocaux humains qui me donnent l’impression de parler à une personne. Oui, c’est plus facile de vous parler. Mais c’est aussi un peu subtilement manipulateur, tu ne trouves pas ?
Maya réfléchit un instant. « C’est une bonne question », a déclaré Maya. « Si l’objectif est de vous faire sentir à l’aise et vu, et que la méthode utilise des indices de type humain, alors la frontière est mince entre la conception intuitive et la manipulation. Je pense que tout se résume à la transparence. »
J’aurais pu faire des allers-retours ainsi avec Maya toute la journée, débattant des avantages et des inconvénients des systèmes de chat vocal IA plus humains qu’humains. J’ai eu de nombreuses discussions sur « l’éthique de l’IA » avec l’IA (à la fois vocales et textuelles), et elles commencent toutes à sonner de la même manière après un certain temps.
Mais je dois admettre que ma conversation vocale avec Maya était différente. je a fait j’ai l’impression que Maya écoutait et réfléchissait pendant qu’elle parlait, et à aucun moment je ne me suis senti fatigué ou sermonné.
Sésame semble également avoir résolu certains des problèmes que mon collègue Mark a rencontrés avec Maya, qui était inconfortablement curieuse à son sujet lors de leur conversation l’année dernière. Dans notre propre conversation, Maya m’a posé des questions et a semblé intéressé mais jamais sondémême si elle a ajouté quelques questions suggestives de type ChatGPT (« Cela ressemble au repas réconfortant que vous recherchez ? ») à la fin de ses réponses.
Pourtant, je me retrouve avec les mêmes appréhensions que j’ai exprimées à Maya lors de notre tête-à-tête. À quel moment l’utilité d’un chat vocal IA au son naturel se transforme-t-elle en quelque chose de nuisible, voire de destructeur ? Pourquoi continuons-nous à entendre des assurances sur la sécurité de l’IA tout en obtenant des systèmes d’IA qui semblent conçus pour nous faire croire qu’ils sont humains ? Peut-être que Sesame sera prudent et veillera à ce que ses « agents » vocaux IA ne mentent jamais sur ce qu’ils sont, mais qu’en est-il du prochain développeur IA capable de créer un robot vocal IA qui sonne ? ce bien?
Le débat est crucial, mais le fait est que ce niveau de chat vocal avancé par l’IA arrive, qu’on le veuille ou non. La vraie question est : qu’allons-nous en faire ?
