Des chercheurs de l'Université de Zurich ont mené une expérience controversée sur Reddit, le plus important forum de discussions anglophone au monde, utilisant des chatbots IA pour influencer les opinions. Cette initiative a suscité une vive réaction de la part de la plateforme et de ses utilisateurs.
L'étude visait à évaluer la capacité des IA à modifier les opinions sur le forum r/changemyview. Les bots, se faisant passer pour des humains, ont posté plus de 1700 commentaires sur des sujets sensibles, sans que les participants ne soupçonnent leur véritable nature.
Les résultats préliminaires indiquent que les commentaires des IA étaient trois à six fois plus persuasifs que ceux des humains. Cette découverte soulève des questions sur l'utilisation éthique des technologies d'intelligence artificielle dans les espaces publics en ligne.
Reddit a réagi en annonçant des poursuites judiciaires contre l'Université de Zurich, accusant les chercheurs d'avoir violé ses règles d'utilisation. La plateforme considère cette expérience comme une atteinte aux droits des utilisateurs et aux normes académiques.
En réponse, l'université a assuré que les résultats ne seraient pas publiés et a promis de renforcer son processus d'évaluation éthique. Cet incident met en lumière les enjeux de l'intégration des IA dans les interactions sociales numériques.
Cette expérience intervient alors que des modèles comme GPT-4.5 démontrent une capacité croissante à imiter les conversations humaines. Leur utilisation sans contrôle pourrait transformer radicalement la nature du contenu en ligne.
Comment fonctionnent les chatbots IA comme ceux utilisés dans l'expérience ?
Les chatbots IA, tels que ceux déployés par les chercheurs zurichois, s'appuient sur des modèles de langage avancés pour générer des réponses plausibles. Ces systèmes analysent le contexte d'une conversation pour produire des réponses cohérentes.
Leur capacité à imiter le langage humain repose sur l'apprentissage automatique. Ils sont entraînés sur de vastes ensembles de données textuelles, leur permettant de reproduire des styles et des tons variés.
Cependant, leur utilisation dans des expériences sans consentement pose des problèmes éthiques majeurs. Cela souligne la nécessité de cadres réglementaires pour guider leur développement et leur déploiement.