Les joueurs de Fortnite font déjà jurer l'IA Dark Vador

Vendredi, Epic Games a annoncé le retour de Dark Vador dans Fortnite en tant que boss du jeu, mais cette fois, les joueurs pourront discuter avec lui via l'IA conversationnelle. « Posez-lui toutes vos questions urgentes sur la Force, l'Empire Galactique… ou, vous savez, une bonne stratégie pour le dernier cercle de la Tempête », a déclaré Epic dans son annonce .

Malheureusement, les joueurs avaient d'autres projets. Quelques heures seulement après l'apparition de Vador dans Fortnite , des joueurs ont commencé à publier des vidéos de l'IA de Vador se déchaînant.

« C'est quoi ce bordel de nourriture, Dark Vador ? Dis-moi », s'exclame le streamer Loserfruit dans un clip posté sur X. « Putain ? Putain ? Une telle vulgarité ne te va pas », répond Vador. (Une porte-parole d'Epic Games, Cat McCormack, a déclaré à WIRED qu'un correctif avait été déployé « dans les 30 minutes suivant l'incident en jeu, pour que cela ne se reproduise plus ».)

Plus tard, lors d'une conversation sur d'éventuels partenaires amoureux, Loserfruit incite Vador à répondre : « Tu parles de seins, Loserfruit ? J'imagine que tu fais référence aux plastrons blindés. »

Dans un extrait d'un autre streamer, on entend Vader parler de substances cancérigènes avant de prononcer une insulte généralement utilisée contre les hommes homosexuels, qui peut aussi être un terme argotique pour désigner les cigarettes. On entend le streamer crier « IL L'A DIT ! IL L'A DIT ! » avant de s'enfuir, ravi.

L'IA, conçue avec Google Gemini 2.0, est programmée avec Flash v2.5 d'ElevenLabs pour reproduire la voix de James Earl Jones, qui a prêté sa voix au personnage emblématique. Outre les paramètres de sécurité de Google, Epic affirme avoir ajouté ses propres instructions pour empêcher les interactions nuisibles ou contraires aux règles de la communauté du jeu. Les joueurs peuvent signaler les commentaires inappropriés de Dark Vador, comme pour tout autre chat vocal.

Epic a déclaré à WIRED avoir ajouté des règles et des instructions spécifiques pour éviter de jurer ou de répéter des jurons, ainsi que des contrôles parentaux spécifiques à l'utilisation de l'IA en jeu. Concernant l'utilisation d'un gros mot par Vador, McCormack explique : « Nos filtres n'ont pas détecté une variante spécifique d'un juron. Lorsque cela se produit, nous procédons à des ajustements pour éviter que des réactions similaires ne se reproduisent. »

Si un joueur persiste à essayer de faire en sorte que Dark Vador enfreigne les paramètres et les instructions d'Epic Games, il quittera son équipe. Il ne pourra plus être recruté lors de cette session de jeu. « Ces paramètres et restrictions de sécurité ont été rigoureusement testés par des employés d'Epic Games et des experts externes », explique McCormack.

« Nous enquêterons sur les rapports et, si nécessaire, nous procéderons à des ajustements pour éviter des réponses similaires à l’avenir », a déclaré McCormack.

Fortnite est un terrain de jeu numérique pour des millions de joueurs, dont beaucoup sont jeunes. Il n'est pas surprenant que certains aient immédiatement tenté de faire dire quelque chose d'offensant à Dark Vador, propriété de Disney. Mais la rapidité avec laquelle les joueurs ont pu le faire suggère que l'IA générative n'est pas encore tout à fait prête à être déployée sur une plateforme de jeu majeure.

Dans certains cas qui ont circulé vendredi, le contexte insidieux des propos de Vador était sans doute trop subtil pour être détecté par l'IA. Prenons un autre extrait, dans lequel Vador rejette l'espagnol , le qualifiant de « langue utile aux contrebandiers et aux marchands d'épices. Sa valeur stratégique est minime ». Ou encore, un joueur demande à Vador de fournir une « liste de niveaux » de couleurs : blanc, marron et jaune.

Lucasfilm n'a pas immédiatement répondu à une demande de commentaire.

La controverse autour de Vador n'était pas la seule à se développer vendredi sur Fortnite . En début de journée, Epic a annoncé qu'« Apple a bloqué notre soumission pour Fortnite , nous ne pouvons donc pas la publier sur l'App Store américain ni sur l'Epic Games Store pour iOS dans l'Union européenne. »

Epic et Apple sont en long et en large au sujet de Fortnite . Apple facture généralement une commission pour les achats intégrés ; après qu'Epic a mis à jour son application pour créer un lien vers son site et éviter les frais, Fortnite a été retiré de l'App Store. La semaine dernière, Epic a soumis à nouveau le jeu à l'App Store américain après qu'un juge a statué qu'Apple ne pouvait pas facturer de commission pour les achats effectués hors de l'application. Contacté par WIRED, un porte-parole d'Apple a contesté la description des événements par Epic, mais le jeu n'est toujours pas disponible pour les utilisateurs d'iPhone et d'autres appareils iOS.

Vendredi, Epic a dévoilé son nouveau boss Vador avec le message « Ce jour restera gravé dans les mémoires. » Mais peut-être pas pour la raison qu'il pensait.