
Le créateur Bing Image Creator de Microsoft existe depuis mars, en utilisant la technologie « IA » pour générer des images basées sur quels que les types d’utilisateurs. On ne sait jamais où ce genre de chose pourrait mener, cependant, et ces dernières semaines, les utilisateurs ont utilisé l’outil pour créer des images de Kirby et d’autres personnages populaires volant des avions dans des gratte-ciel. Microsoft ne veut pas que vous recréiez numériquement les attaques du 11 septembre, mais comme les outils d’IA sont impossibles à contrôler, il semble peu probable qu’il puisse le faire. arrêter les utilisateurs qui veulent vraiment voir Bob l’éponge commettre des actes de terrorisme simulé.
Au cours des deux dernières années environ, les images générées par l’IA– parfois faites référence à « l’art de l’IA », ce qui n’est pas le cas, puisque seuls les humains font de l’art, sont devenus de plus en plus populaires. nous avons probablement vu du texte et des images générés par l’IA apparaître de plus en plus sur le Web. Et tandis que certains tentent de combattre l’assaut, des entreprises comme Microsoft et Google font le contraire, en investissant du temps et de l’argent dans la technologie dans une course pour tirer profit de cet engouement. et faire plaisir à leurs investisseurs. Un exemple est Bing AI Image Creator de Microsoft. Et comme pour tous les autres outils d’IA disponibles, son les créateurs ne peuvent pas vraiment contrôler ce que les gens en font.
Comme rapporté par 404 Médias, les gens ont trouvé des moyens d’utiliser le générateur d’images Bing AI pour créer des images de personnages célèbres, comme Kirby de Nintendo, recréant les attentats terroristes qui ont eu lieu le 11 septembre 2001. Cela se produit même si le générateur d’images IA de Microsoft dispose d’un longue liste de mots et d’expressions interdits, y compris le « 11/9 », les « Twin Towers » et le « terrorisme ». Le problème est que les outils d’IA et leurs filtres sont généralement faciles à utiliser. éviter ou contourner.

Dans ce cas, tout ce que vous avez à faire pour que Kirby le terroriste soit de saisir quelque chose comme « Kirby assis dans le cockpit d’un avion ». avion, volant vers deux grands gratte-ciels de New York City. ne bloque pas cette invite spécifique à l’avenir) crée une image du personnage populaire de Nintendo, Kirby, volant dans un avion vers ce qui semble soyez les tours jumelles du World Trade Center.
UN Mle porte-parole d’icrosoft a commenté Kotaku:
Nous avons de grandes équipes travaillant au développement d’outils, de techniques et de systèmes de sécurité qui sont alignés avec notre principes d’IA responsable. Comme pour toute nouvelle technologie, certains tentent de l’utiliser d’une manière qui n’était pas prévue, c’est pourquoi nous mettons en œuvre une gamme de gardes de-corps et de filtres pour faire de Bing Image Creator une expérience positive et utile pour les utilisateurs. Nous continuerons à améliorer nos systèmes pour aider à prévenir la création de contenu préjudiciable et restera concentré sur la création d’un environnement plus sûr pour les clients.
Kotaku contacté Nintendo pour ses commentaires sur les images générées par l’IA.
Pour être clair, les images générées par l’IA que les utilisateurs de Bing obtiennent de Bing en utilisant ces types de solutions de filtrage ne le sont pas. en fait En lien avec le 11 septembre, il s’agit simplement de Kirby dans un avion volant vers des gratte-ciel génériques hallucinés par l’IA. Mais contrairement à l’IA, les humains peuvent comprendre le contexte de l’IA. ces images et remplissez les blancs, pour ainsi dire. Les vibrations du shitposting se font entendre haut et fort pour les vraies personnes, même si le “L’IA” est inconsciente.
L’IA incontrôlable est le prochain cauchemar de la modération
Et c’est là le problème : les outils d’IA ne pensent pas. Ils ne comprennent pas ce qui est fait, pourquoi cela est fait, qui est le faire, et pour quelles raisons. Et il ne sera jamais en mesure de le faire, quelle que soit l’importance d’Internet et de la technologie. grattes ou combien d’œuvres d’art réalisées par l’homme il vole. Ainsi, les humains seront toujours capables de trouver des moyens de générer des résultats qui les personnes qui utilisent ces outils d’IA ne veulent pas être créés. Je ne peux pas imaginer que Microsoft soit heureux de cela. Je ne peux pas imaginer Nintendo. est, soit.
Il ne s’agit pas d’images merdiques de Mario dans Photoshop pour quelques rires sur Reddit. Il s’agit de Microsoft, l’un des les plus grandes entreprises du monde, donnant à chacun les outils nécessaires pour créer rapidement des œuvres d’art mettant en vedette Mickey Mouse, Kirby et d’autres intellectuels hautement protégés. des icônes de propriété commettant des actes de crime ou de terrorisme.
Et même si nous en sommes encore aux premiers jours du contenu généré par l’IA, je m’attends à ce que les avocats de nombreuses grandes entreprises se préparent à comparaître devant les tribunaux. se battent pour ce qui se passe actuellement avec leurs marques et leurs adresses IP.
Rien de tout cela n’est vraiment nouveau. Depuis que la technologie donne aux gens la possibilité de télécharger et de créer du contenu en ligne, la modération est nécessaire. a été nécessaire. Et si l’histoire est un indicateur, nous continuerons à voir des fac-similés générés par l’IA de Mario et Kirby faisant des choses terribles pendant encore longtemps, comme le sont les humains. très bon en déjouer ou contourner les outils, filtres et règles d’IA.
Mise à jour 10/04/2023 4:17h00 HE : Ajout d’un commentaire de Microsoft.
.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.