En résumé:
- L’utilisation inappropriée par un jeune de 14 ans de l’IA Gemini Live de Google, impliquant du contenu de jeu de rôle sur une tablette partagée, a déclenché des protocoles de sécurité qui ont exclu cinq membres de sa famille de tous les comptes Google.
- PCWorld rapporte que l’incident a gravement perturbé les opérations commerciales et la vie personnelle de la famille, bloquant l’accès aux e-mails, documents et services essentiels pour tous les utilisateurs.
- L’affaire met en évidence des défis importants liés aux systèmes de sécurité automatisés de Google et aux difficultés du support client lors de la résolution de violations de compte complexes.
J’ai fait beaucoup de bêtises quand j’avais 14 ans. Je suis heureux qu’à l’époque le « monde en ligne » en soit à ses balbutiements, et qu’aucune de mes escapades n’ait été suffisamment nuisible ou salace pour en faire une sorte d’infamie numérique éternelle. Ce n’est pas le cas pour un utilisateur mineur de Google au Royaume-Uni. Selon ses parents, une activité indiscrète a empêché toute sa famille d’accéder à ses comptes Google, provoquant le chaos.
Attention, les amis. Cette histoire va impliquer des adolescents excités faisant des choses excitantes d’adolescents. Mais ce qui s’est passé, ou du moins ce qui s’est passé selon une affiche de Reddit, pourrait valoir la peine d’être pris en compte par tous les parents.
Selon ce message anonyme sur le subreddit LegalAdviceUK, un garçon de 14 ans utilisait une tablette familiale partagée, sur laquelle le contrôle parental était activé. L’enfant a ouvert l’application Gemini et a commencé à faire… enfin, des trucs d’adolescent excités, que l’affiche décrit comme un « jeu de rôle » et du « plaisir » lui-même, notamment en utilisant le mode Gemini Live avec accès à l’appareil photo de la tablette.
La bonne nouvelle est que Gemini a reconnu ce qui se passait avec un utilisateur mineur et a verrouillé le compte utilisateur du jeune de 14 ans, même si cela semble avoir pris « quelques jours ». La mauvaise nouvelle c’est que tous les autres comptes Google connectés à la tablette J’ai eu le même confinement. D’abord les deux parents, puis la sœur du garçon, suivie d’une sœur aînée qui étudie ailleurs au Royaume-Uni. Selon le message, cinq personnes (dont trois adultes) ont été complètement coupées de leurs e-mails essentiels, de leurs documents et de tonnes d’autres informations personnelles, tout cela à cause de l’erreur d’un adolescent.
« Tous les comptes Google de toute notre famille étaient liés à cette tablette. Google les a tous interdits », écrit l’affiche.
« Ma vie entière est complètement foutue », écrit l’affiche, avec une frustration compréhensible. » Existe-t-il un mécanisme juridique que je peux utiliser pour récupérer tous mes comptes Google ? «
C’est une histoire difficile à écrire. D’une part, disposer de systèmes capables de détecter et de dissuader les enfants d’accéder à du matériel explicite, ainsi que de trouver et de signaler tout ce qui pourrait tomber sous la bannière de la « pédopornographie », est un gros problème. Pour des entreprises comme Google, il s’agit d’une menace existentielle : être perçu comme indulgent ou négligent de quelque manière que ce soit, car cela pourrait provoquer une réaction désastreuse des utilisateurs et des régulateurs. Et nous avons vu que la nature de « l’IA » générative et des grands modèles de langage rend particulièrement difficile le verrouillage de contenus explicites ou nuisibles.
Mais prenant ce poste au pied de la lettre, les parents et les autres membres de la famille n’ont rien fait de mal. (Je dirais que même le jeune de 14 ans n’a rien fait faux en soi, tout simplement stupide – un mot que le parent utilise pour décrire ses actions.) Ils ont même fait le droite chose avec un compte enfant verrouillé sur la tablette. Mais eux, et apparemment Google, n’ont pas pris en compte la possibilité qu’un enfant utilise l’accès à la caméra de Gemini dans ce genre de situation. Et maintenant, la vie de cinq personnes a été bouleversée.
Je n’envie pas la tâche des parents. Faire appel à un humain chez Google pour obtenir une assistance technique est, dans le meilleur des cas, un combat de Sisyphe. Même les grands YouTubers qui rapportent à l’entreprise une énorme part de changement peuvent avoir du mal à y accéder. Pour un utilisateur régulier et pour un problème aussi délicat et compliqué, il s’agit d’un scénario cauchemardesque.
Pour ce que ça vaut, je contacte les contacts professionnels de Google au sujet de la situation. Je suppose qu’ils ne pourront pas dire grand-chose sur les problèmes de cet utilisateur pour des raisons de confidentialité, mais j’espère qu’une attention un peu plus large aidera à élever ce cas particulier et à trouver une solution. Je mettrai à jour l’histoire si j’obtiens une réponse substantielle de Google.
