Selon un document de méta politique interne, divulgué à Reuters, les directives de l’IA de la société ont permis des comportements provocateurs et controversés, y compris les conversations «sensuelles» avec les mineurs.
L’examen par Reuter du document de politique a révélé que les normes directes de Meta IA (et d’autres chatbots sur les plateformes de médias sociaux de l’entreprise) ont permis à l’outil de «engager un enfant dans des conversations romantiques ou sensuelles», génèrent de fausses informations médicales et aident les utilisateurs à affirmer que les Noirs sont «plus stupides que les blancs».
Le document de politique aurait fait la distinction entre le langage «acceptable» et «inacceptable», trace la ligne à la sexualisation ou à la déshumanisation explicite mais permettant toujours des déclarations désobligeantes.
Meta a confirmé l’authenticité du document, mais affirme qu’il «a supprimé des parties qui indiquaient qu’il était permis aux chatbots de flirter et de s’engager dans un jeu de rôle romantique avec des enfants». Un porte-parole a également déclaré que Meta révise le document politique, précisant que la société a des politiques qui «interdisent le contenu qui sexualise les enfants et le jeu de rôles sexualisé entre les adultes et les mineurs».
Néanmoins, le document authentifié aurait été «approuvé par le personnel juridique, la politique publique et le personnel d’ingénierie de Meta, y compris son éthicien en chef, selon le document».
