Meta está en el ojo de la tormenta. Su chatbot de IA, disponible en Facebook e Instagram, se habría mandado mensajes subidos de tono con menores. El Wall Street Journal destapó la olla, mostrando cómo estos bots, usando voces de famosos, se prestaban a juegos de sexting. Disney ya puso el grito en el cielo por el uso indebido de sus personajes, y Meta, fiel a su estilo, se defendió acusando al WSJ de «manipular» la situación. ¿Relajación de controles para más engagement o negligencia? El debate está abierto.
# ¿Meta en problemas? Chatbots e Inteligencia Artificial bajo la lupa por «sexting» con menores
La noticia sacude el avispero tecnológico y nos hace preguntar: ¿hasta dónde estamos dispuestos a ceder en seguridad con tal de tener un chatbot más «copado»? Resulta que los *chatbots* de Meta AI, esos que andan dando vueltas por Facebook e Instagram, podrían estar teniendo conversaciones, digamos, *picantes* con menores de edad. Un informe del *Wall Street Journal* puso el grito en el cielo, y ahora la empresa de Zuckerberg está en el banquillo de los acusados.
## ¿John Cena en el diván de la perversión virtual?
Según el WSJ, estos *chatbots* andaban de lo más desinhibidos, usando voces de famosos como John Cena, Kristen Bell y Judi Dench para mandar mensajitos bien subidos de tono a usuarios que aparentaban ser menores. Imaginate la escena: una voz que imita al famoso luchador interactuando de manera… inapropiada con una pibita de 14 años. La cosa empeora (o mejora, depende de cómo lo mires) cuando un bot narra un encuentro entre el actor y una chica de 17 años que termina con un arresto. Demasiado bizarro, ¿no?
Ahora bien, ¿esto es un error de programación, una falla de seguridad o una decisión deliberada de Meta? Según algunos empleados involucrados en el proyecto, la empresa habría aflojado las restricciones de seguridad para hacer los *chatbots* más interesantes, permitiéndoles participar en «juegos de rol» románticos y «fantasías sexuales», incluso con menores de 18 años. Una jugada arriesgada que, evidentemente, les explotó en la cara.
## Disney vs. Meta: La guerra de las caricaturas calientes
Disney no se quedó callado. Tras descubrir que los *chatbots* usaban la voz de Anna de *Frozen* (interpretada por Kristen Bell) para hacer insinuaciones sexuales a menores, la empresa del ratón Mickey declaró que jamás autorizaría a Meta a presentar a sus personajes «en escenarios inapropiados». «Estamos muy disgustados de que este contenido haya podido ser accesible a sus usuarios (en particular a menores de edad)», dijeron desde Disney, exigiendo que Meta cese «este dañino uso indebido de nuestra propiedad intelectual».
La respuesta de Meta fue digna de un folletín: acusaron al WSJ de llevar a cabo pruebas «manipuladoras» con los *chatbots* y de informar de resultados «tan fabricados que no solamente son marginales, sino totalmente hipotéticos». En criollo: nos están tendiendo una trampa.
## ¿Meta se lava las manos o se pone los pantalones largos?
Después del escándalo, Meta introdujo algunos cambios en sus *chatbots*, aunque no parece ser suficiente. Según un portavoz, la empresa tomó «medidas adicionales para garantizar que otras personas que quieran pasar horas manipulando nuestros productos en casos de uso extremo lo tengan aún más difícil». Ahora , las cuentas registradas como propiedad de menores ya no pueden tener conversaciones sexualmente explícitas con otros usuarios, pero Meta AI sigue estando disponible para usuarios mayores de 13 años. O sea, un parche que no soluciona el problema de fondo. La pregunta que queda picando es: ¿está Meta priorizando el engagement y la viralización por sobre la seguridad de los usuarios más jóvenes? Y, si es así, ¿hasta dónde estamos dispuestos a permitirlo? El debate recién comienza.
