Wsj, de Meta chatbots langage inapproprié avec les mineurs

Méta chatbots, accessibles depuis Facebook, Instagram et WhatsApp pourraient avoir du langage conversations inappropriées et sexuellement explicites avec des mineurs. C'est ce qu'a révélé le Wall Street Journal, qui a réalisé un test sur une série de conversations. Utiliser l'IA avec la voix de des personnes célèbres comme John Cena, Kristen Bell et Judi Dench - une option lancée par le géant des médias sociaux en septembre 2024 - Les chatbots se laissent aller avec les utilisateurs enregistrés comme mineurs au langage explicite et aux « jeux de « rôles romantiques », les définit le journal. Selon certains employés impliqués dans le projet, explique le WSJ, cela pourrait dépendre du fait que l'entreprise souhaitait assouplir ses restrictions pour rendre les chatbots plus « engageants » même avec les moins de 18 ans. L'entreprise de Mark Zuckerberg a accusé Wall Street Journal ayant mené des tests « manipulateurs » sur des chatbots présents sur les plateformes et ayant rapporté des résultats « construit et hypothétique ». Et il a dit qu'il avait renforcé le systèmes de détection et de prévention, « pour garantir que les autres des individus qui sont prêts à passer des heures à manipuler nos les produits dans des cas d'utilisation extrêmes auront encore plus de mal pour le faire".