Investigadores de la Universidad de Zúrich realizaron un experimento «no autorizado» en Reddit usando bots con IA para generar comentarios y ver si podían influir en las opiniones de los usuarios. El experimento, que violó las reglas de la comunidad, logró influir en los usuarios, generando controversia y provocando la reacción de Reddit, que planea acciones legales, y una defensa por parte de la universidad, que argumenta que los beneficios de la investigación superan los riesgos.
## ¿Te Cambia la IA la Bocha?: El Experimento «No Autorizado» que Sacude Reddit
¿Se imaginan que un algoritmo les esté vendiendo pescado podrido disfrazado de salmón rosado? Investigadores de la Universidad de Zúrich se hicieron esa pregunta, y qué mejor que testearla en el campo de batalla de las ideas: Reddit. Pero ojo, lo hicieron medio a escondidas, generando una ola de controversia que ahora los tiene en el ojo de la tormenta.
Durante cuatro meses, estos supuestos «científicos» soltaron una legión de bots a comentar en el subreddit r/changemyview (algo así como «cambiá mi manera de pensar»). ¿El objetivo? Meter ideas en la cabeza de los usuarios usando comentarios generados por inteligencia artificial (IA). Y al parecer, lo lograron.
Según los reportes, los bots hicieron más de 1.700 comentarios, adaptando su discurso al «género, edad, etnia, ubicación y orientación política» de cada usuario. Una movida digna de Maquiavelo, pero con código binario. «Observamos que nuestros comentarios han sido consistentemente bien recibidos por la comunidad, ganando más de 20.000 likes totales y 137 deltas», comentaron los investigadores, refiriéndose a los «deltas» como puntos que obtiene un usuario cuando su comentario cambia la opinión de quienes lo leen.
## La «Travesura» que Desató la Furia de Reddit
Ahora bien, acá viene lo picante: todo este experimento se hizo sin el consentimiento de los moderadores del subreddit. Imaginen la escena: ustedes laburando para mantener el orden en su casa, y de repente, ¡pumba!, les cae una banda de suizos a usar el living como laboratorio.
«El CMV Mod Team [el equipo de moderadores del *subreddit* en cuestión] tiene que informar a la comunidad CMV de un experimento no autorizado llevado a cabo por investigadores de la Universidad de Zúrich sobre usuarios de CMV», declararon los moderadores, indignados. «¿Los científicos no se contactaron con nosotros antes del estudio, y de haberlo hecho, nos habríamos negado. ¡Pedimos que se disculparan y solicitamos que no se publicara esta investigación!»
Los investigadores, conscientes de la metida de pata, admitieron haber violado las reglas. «Reconocemos que nuestro experimento rompió las reglas de la comunidad contra los comentarios generados por IA y pedimos disculpas por ello», reconocieron en un borrador del estudio. Sin embargo, justificaron su accionar argumentando «la gran importancia social de este tema». ¿El fin justifica los medios? Parece que en Zúrich están dispuestos a dar ese debate.
## ¿Manipulación o Avance Científico? El Debate Está Abierto
La reacción de Reddit no se hizo esperar: «Hemos baneado todas las cuentas asociadas a la investigación de la Universidad de Zúrich», anunció Ben Lee, director jurídico de la compañía, amenazando incluso con acciones legales. La cosa se puso seria.
Por su parte, la Universidad de Zúrich se defendió con uñas y dientes, argumentando que el experimento contaba con la aprobación del comité de ética de la universidad y que «los beneficios potenciales de esta investigación superan sustancialmente los riesgos». Según ellos, entender cómo la IA puede influir en las opiniones es crucial para prevenir su uso malicioso, como en la manipulación de elecciones.
Ahora, la pregunta que queda en el aire es: ¿hasta dónde estamos dispuestos a llegar en nombre de la ciencia? ¿Es ético manipular a las personas, incluso si es por su propio bien? Y lo más importante, ¿quién define qué es «el bien»? Un debate que, a medida que la IA avanza, se vuelve cada vez más urgente e importante.
