Aloy, propulsé par l’IA, d’ Horizon Zero Dawn, présente notre terrifiant futur chatbot

Horizon Interdit OuestAloy est un clone dans un futur post-apocalyptique qui utilise un arc et une lance pour combattre des animaux robots géants et des programmes d’IA corrompus. C’est une prémisse intéressante pour ce qui s’avère être une série de RPG d’action de science-fiction très cool. Mais que se passerait-il si Aloy était également contrôlée par un programme d’IA et pouvait discuter patiemment avec vous au cours de ses aventures, répondant à toutes vos questions insensées du type « Où puis-je trouver des arêtes de saumon pour améliorer mes étuis ? » C’est le type de chose que Sony semble expérimenter dans une démo GPT récemment fuite qui évoque l’une des possibilités les plus horrifiantes pour l’avenir du jeu.

Comme indiqué pour la première fois par Le Verge, la technologie a été brièvement démontrée dans une vidéo interne fuite qui est apparue sur YouTube et montrait Sharwin Raghoebardajal, directeur de l’ingénierie logicielle chez Sony, ayant une conversation avec le personnage de PlayStation en utilisant diverses couches d’IA, notamment le modèle d’apprentissage machine Whisper d’OpenAI, GPT-4 et Llama 3. Elle fonctionnait sur PC mais apparemment peut également fonctionner sur PS5.

Le système interne de synthèse vocale émotionnelle (EVS) de Sony est apparemment utilisé pour générer les réponses vocales d’Aloy, et sa technologie Mockingbird est utilisée pour animer grossièrement ses lèvres. Le résultat semble froid et robotique et les mouvements des lèvres se situent quelque part entre un mauvais doublage et Will Smith mange des spaghettis. En ce qui concerne une démonstration technique approximative, c’est à la fois idiot et profondément effrayant. « Ce n’est qu’un aperçu de ce qui est possible », a déclaré Raghoebardajal pendant la vidéo qui a depuis été supprimée par une société de grève des droits d’auteur représentant Sony.

L’expérience de Sony a déjà suscité de vives critiques de la part de certains fans et développeurs de jeux sur les réseaux sociaux. « J’étais convaincue que Sony ne ferait rien de tel mdr », a écrit Alanah Pearce, qui a déjà travaillé sur la narration chez Sony Santa Monica. « J’ai enfin vu le PNJ d’Aloy et j’ai tellement de problèmes avec lui que je ne sais pas par où commencer », a écrit Anna Megill, scénariste sur le suivi de Cyberpunk 2077 chez CD Projekt Red. « Je préfère parler au tas de membres tordus que Miyazaki appelait une insulte à la vie elle-même. »

Les entreprises explorent depuis des années les applications de l’IA générative et du modèle de langage à grande échelle (LLM) dans le domaine des jeux. Jusqu’à présent, cela a abouti à des discussions bavardes mais PNJ sans âme, scripts guindés, et séquences de gameplay hallucinées, dont les utilisations ne sont pas immédiatement évidentes. Aussi beaucoup d’escrocs apparents en ligne demandent à ChatGPT de coder rapidement des jeux vidéo très basiques pour eux. On a l’impression que nous sommes encore loin de ces technologies qui bouleverseront consciemment le jeu et tout le reste, comme certains de leurs plus ardents défenseurs le prétendent, mais il n’est pas difficile de voir comment cela pourrait arriver à un moment et à quel point ce risquerait d’être néfaste.

De nombreux interprètes de jeux vidéo, notamment Ashly Burch, qui prête sa voix à Aloy dans Horizon jeux, ont été en grève pour de meilleures protections de l’IA depuis plus d’un an maintenant. La peur est que les entreprises écrasent les talents avec de mauvais contrats qui leur permettraient de faire ce qu’elles veulent avec les performances capturées, y compris en les introduisant dans des algorithmes pour alimenter gratuitement des performances supplémentaires générées par l’IA. Les acteurs perdraient non seulement leur paiement mais le contrôle créatif sur les performances utilisées et comment.

Cela peut sembler être une peur théorique jusqu’à ce que vous regardiez quelque chose comme l’expérimentation de Sony avec un chatbot Aloy. Il n’est pas difficile d’imaginer un avenir dans lequel, au lieu d’une Aloy robotique qui tâtonne pour répondre à des questions de base sur le jeu, il s’agit d’un personnage presque parfaitement animé qui improvise des réponses avec une voix impossible à distinguer de celle de Burch. Au lieu d’être un avatar pour une histoire écrite par d’autres personnes, Aloy devient simplement un autre vaisseau qui maintient l’intérêt des joueurs à travers des conversations infiniment convaincantes mais complètement vides.

Dans cette version du futur du jeu, la version ultimement convaincante du personnage est celle qui vise exclusivement à améliorer les statistiques des joueurs PlayStation, comme le nombre d’utilisateurs actifs quotidiens et la durée des sessions. Ce n’est peut-être pas le type de jeu qui remporte des prix, mais il pourrait s’agir de celui, comme les flux algorithmiques sur Instagram et TikTok, qui maintient les gens connectés sans fin. Vous savez, le noyau de tout ce qui a dérapé et a ruiné la planète en 2015. Horizon jeux, et pour lesquels Aloy a passé des centaines d’heures à se battre pour réparer.

.