Des chercheurs de l’Université de Zurich ont été accusés d’avoir entrepris une expérience non autorisée de quatre mois sur un conseil d’administration de Reddit en utilisant des commentaires générés par l’intelligence artificielle pour tester si l’IA pouvait modifier les opinions des gens.
Dans le cadre de l’expérience, les comptes alimentés par l’IA ont simulé une variété de personnages, notamment une victime de viol, une personne opposée à des mouvements sociaux spécifiques et un conseiller en traumatologie spécialisé dans les abus, ont déclaré les modérateurs du R / ChangeMyview Subdreddit dans un poste du 26 avril.
“Notre sous-marin est un espace résolument humain qui rejette l’IA non divulgué comme valeur fondamentale”, ont déclaré les modérateurs. «Les gens ne viennent pas ici pour discuter de leur point de vue avec l’IA ou pour être expérimenté.»
Les chercheurs ont utilisé l’IA pour générer des réponses mais ont tenté de personnaliser les réponses en fonction des informations des affiches originales de l’histoire antérieure de Reddit, telles que l’orientation politique, le sexe, l’âge et l’ethnicité, selon un projet de document.
Lire plus
Au cours de l’expérience de quatre mois, les faux comptes d’IA de l’Université de Zurich ont affiché 1 783 commentaires et ont reçu 137 deltas – une marque montrant quand un autre utilisateur de Reddit a reconnu que le compte les avait persuadés de changer leur opinion sur un problème.
Les chercheurs ont déclaré dans un article du Sandret que tous les commentaires avaient été examinés manuellement avant de publier pour s’assurer qu’ils répondaient aux directives de la communauté et pour «minimiser les dommages potentiels».
L’équipe universitaire a fait valoir que les «avantages potentiels de cette recherche l’emportent considérablement sur ses risques» car ils ont constaté que les modèles de grande langue utilisés dans l’expérience peuvent être très persuasifs, dépassant toutes les «références précédemment connues de la persuasion humaine».
«Notre étude contrôlée et à faible risque a fourni un aperçu précieux des capacités de persuasion du monde réel des LLM – des capacités qui sont déjà facilement accessibles à quiconque et que les acteurs malveillants pouvaient déjà exploiter à grande échelle pour des raisons beaucoup plus dangereuses», ont déclaré les chercheurs.
Dans le même temps, les chercheurs ont déclaré que l’expérience montre que la distinction des humains de l’IA est toujours confrontée à des défis importants parce que personne dans le subreddit n’a découvert les robots d’IA pendant toute l’expérience.
Le conseil d’administration R / ChangeMyView compte 3,8 millions de membres et se classe parmi les 1% les plus élevés des sous-verres par taille.
Reddit considère les options juridiques
Les modérateurs du Reddit Board ont déclaré qu’ils n’étaient pas au courant de l’expérience et ont demandé des excuses à l’université et bloquer la publication de la recherche.
Reddit pourrait également envisager une action en justice, car le directeur juridique de la plate-forme, Ben Lee, a déclaré dans un suivi le 28 avril que l’expérience a enfreint l’accord d’utilisateur et les règles du site, et tous les comptes connus associés à l’effort de recherche de l’Université de Zurich étaient désormais interdits.
“Nous sommes en train de contacter l’Université de Zurich et cette équipe de recherche particulière avec des demandes juridiques formelles”, a déclaré Lee.
«Nous voulons faire tout notre possible pour soutenir la communauté et nous assurer que les chercheurs sont tenus responsables de leurs méfaits ici», a-t-il ajouté.
En rapport: La Maison Blanche reçoit plus de 10 000 commentaires sur le plan de développement de l’IA
Dans sa réponse au SousBredit, la Faculté des arts et des sciences de l’Université de Zurich a déclaré qu’elle avait enquêté sur l’incident et avait promis de mieux coordonner avec les sujets de test à l’avenir. L’enquêteur principal du projet a également reçu un avertissement formel.
“Ce projet donne des idées importantes et les risques sont minimes.
L’Université de Zurich n’a pas immédiatement répondu à une demande de commentaires. Cointtelegraph n’a pas immédiatement reçu de réponse aux questions envoyées à une adresse e-mail associée à l’expérience.
Revue: Bitcoin 100 000 $ Hopes on Ice, Mysterious Prison Move de SBF: Hodler’s Digest
Résumé: Les chercheurs de l’Université de Zurich sont accusés d’avoir mené une expérience non autorisée sur Reddit, visant à tester l’impact de l’intelligence artificielle sur les opinions des utilisateurs. L’expérience, réalisée avec des comptes d’IA simulant divers personnages, suscite des préoccupations éthiques et juridiques, notamment de la part de Reddit, qui envisage des actions légales.
