Que savoir
- Des chercheurs de l’Université de Zurich ont mené secrètement une expérience d’IA sur le subreddit r/changemyview de Reddit.
- Les robots IA ont publié plus de 1 700 commentaires, se faisant passer pour des utilisateurs et prenant des identités sensibles sans consentement.
- Les robots ont personnalisé les réponses en utilisant les données personnelles déduites des historiques Reddit des utilisateurs.
- L’expérience a violé les règles du subreddit et les politiques de Reddit, provoquant une indignation généralisée et d’éventuelles poursuites judiciaires.
Des millions d'utilisateurs de Redditfaisaient partie sans le savoird'une expérience secrète menée par des chercheurs de l'Université de Zurich. Les chercheurs ont utilisé des robots d’intelligence artificielle pour publier plus de 1 700 commentaires dans ler/changer ma vuesubreddit, une communauté de plus de 3,8 millions de membres axée sur le débat et la discussion.
Les robots IA ont adopté une gamme de personnages provocateurs et sensibles, notamment un survivant d'une agression sexuelle, un conseiller en traumatologie et un homme noir critique de Black Lives Matter. Ces robots répondaient aux publications des utilisateurs, souvent avec des commentaires profondément personnels et chargés d’émotion. Les chercheurs n’ont pas révélé que ces commentaires avaient été générés par l’IA, enfreignant ainsi les règles du subreddit contre le contenu automatisé non divulgué.
Pour rendre les réponses plus convaincantes, les robots ont analysé l'historique des publications des utilisateurs pour en déduire des caractéristiques personnelles telles que le sexe, l'âge, l'origine ethnique et les opinions politiques. Les robots ont ensuite adapté leurs réponses pour qu’elles correspondent à ces caractéristiques déduites, dans le but d’influencer les opinions des utilisateurs dans les débats sur des questions sociales sensibles.
Les modérateurs de r/changemyview ont décrit l’expérience comme une « manipulation psychologique » et une violation des normes éthiques. Ils ont déclaré que les utilisateurs méritent un espace exempt d’IA et d’expérimentation non divulguées. Le directeur juridique de Reddit a qualifié le projet de « profondément erroné, tant sur le plan moral que juridique ». Tous les comptes liés à l'expérience ont été interdits et Reddit envisage de poursuivre les chercheurs en justice.
Les chercheurs de l’Université de Zurich ont fait valoir que leur étude était nécessaire pour comprendre les risques posés par l’IA persuasive, affirmant qu’ils avaient l’approbation éthique. Cependant, la communauté Reddit et les modérateurs ont rejeté cette justification, soulignant l'importance du consentement et de la transparence dans les espaces en ligne. Pour l’instant, l’université n’a pas répondu aux plaintes officielles de la communauté.
Via:9à5Mac