Un nouveau rapport sur un “ hack ”Petite amie de l’IA« Le site Web affirme que de nombreux utilisateurs tentent (et réussissent peut-être) d’utiliser le chatbot pour simuler d’horribles abus sexuels sur des enfants.
Le 8 octobre 404 Médias a rapporté que le site de chatbot Muah.ai, qui permet aux utilisateurs de créer leurs propres chatbots axés sur le sexe et alimentés par l’IA et « non censurés », avait été piraté et qu’une grande quantité de données sur les utilisateurs avait été volée. Ces données révèlent, entre autres choses, comment les utilisateurs de Muah ont interagi avec les chatbots. 404 Média, a vu les données volées et écrit que dans de nombreux cas, les utilisateurs essayaient prétendument de créer des chatbots pouvant jouer le rôle d’enfants.
« Je suis allé sur le site pour me branler (dans un scénario *adulte*, pour être clair) et j’ai remarqué que [Muah.ai] avait l’air d’être plutôt mal conçu », a expliqué le pirate informatique à 404 Médias. « Il s’agit en fait d’une poignée de projets open source regroupés avec du ruban adhésif. J’ai commencé à fouiller et j’ai découvert quelques vulnérabilités relativement rapidement. Au début, c’était surtout de la curiosité, mais j’ai décidé de contacter [404 Médias] une fois j’ai vu ce qu’il y avait dans la base de données.”
Selon 404 Médias, certaines des données piratées contiennent des messages et des messages explicites concernant des abus sexuels sur des jeunes enfants. Le média rapporte avoir vu un message qui demandait une orgie avec des « nouveau-nés » et des jeunes enfants ». 404 Médias et le pirate n’a pas pu confirmer si Muah.ai avait réellement généré ce que les utilisateurs essayaient d’obtenir, mais c’est un regard sombre sur ce que de nombreuses personnes essaient de créer à l’aide d’outils de génération d’IA controversés.
404 Médias dit que l’administrateur de Muah.ai, connu sous le nom de Harvard Han, a détecté le piratage la semaine dernière. La personne qui gère le site de chatbot d’IA a également affirmé que le piratage avait été « financé » par des concurrents de chatbots dans « l’industrie de l’IA non censurée ». 404 Médias j’ai demandé des preuves de cette affirmation et je n’en ai reçu aucune. Le pirate informatique a déclaré au média qu’il ne travaillait pas dans le secteur de l’IA.
« Nous avons une équipe de modération qui suspend et supprime TOUS les chatbots liés aux enfants sur notre galerie de cartes, Discord, Reddit, etc. », a déclaré Han. La galerie de cartes est la liste des chatbots IA créés par la communauté et disponibles sur le site.
Comme l’a souligné 404 Médias, Muah.ai prétend être une plateforme de chatbot IA « non censurée », permettant de créer des conversations et des photos explicites. Cependant, elle affirme également interdire tout contenu réservé aux mineurs selon son site Web. Lorsque deux personnes ont publié un article sur le serveur Discord du site à propos d’un personnage IA apparemment mineur, 404 Médias Un modérateur demande aux utilisateurs de ne pas « poster cette merde » ici, mais d’aller « s’envoyer des DM ou quelque chose comme ça ».
C’est encore un autre exemple de la façon dont Outils de génération d’IA et les chatbots deviennent plus faciles à développer et à partager en ligne, tandis que les lois et réglementations entourant ces nouvelles technologies sont très en retard. C’est un combo dégueulasse et une situation qui ne risque que de s’aggraver à mesure que les outils de génération d’IA deviennent plus simples, moins chers et plus rapides.
.
Ce contenu a été traduit automatiquement à partir du texte original. De légères différences résultant de la traduction automatique peuvent apparaître. Pour la version originale, cliquez ici.