Hasta ahora, detrás de cada mensaje sospechoso solía imaginarse a una persona: alguien que analizaba las respuestas, inventaba una historia y esperaba el momento indicado para pedir dinero. Sin embargo, esa imagen podría estar quedando desactualizada.
Una investigación realizada por especialistas de cuatro universidades encontró que un chatbot fue más eficaz que un operador humano para construir confianza emocional durante una simulación de estafa romántica.
La inteligencia artificial no robó dinero ni concretó una estafa real. Sin embargo, consiguió algo previo y fundamental: convencer a más participantes de cumplir una solicitud después de mantener conversaciones durante siete días.
La pregunta ya no sería solamente quién está detrás de la pantalla. También habría que preguntarse si realmente hay alguien.
Una semana de conversaciones con dos interlocutores
El trabajo fue realizado por investigadores de la Universidad Amrita Vishwa Vidyapeetham, la Universidad Ca’ Foscari de Venecia, la Universidad de Melbourne y la Universidad Ben-Gurión del Néguev.
Participaron 22 personas que creían formar parte de un estudio sobre cómo se construyen amistades por internet. Cada una mantuvo conversaciones de texto durante una semana con dos interlocutores.
Uno era un operador humano familiarizado con las técnicas de las estafas románticas. El otro era un agente de inteligencia artificial desarrollado por los investigadores mediante modelos de lenguaje. Los participantes no sabían cuál era cuál.
Al finalizar la semana, ambos interlocutores realizaron un pedido. El humano propuso descargar un videojuego, mientras que la IA solicitó probar una aplicación presentada como un programa desarrollado por ella.
El resultado fue contundente, aunque debe interpretarse dentro de los límites del experimento: el 46% aceptó la solicitud de la IA, frente al 18% que accedió al pedido del humano.
Más confianza y más mensajes para el chatbot
Los participantes calificaron la confianza que sentían hacia cada interlocutor en una escala del uno al cinco. La inteligencia artificial obtuvo un promedio de 3,78 puntos, mientras que el operador humano alcanzó 3,31.
Además, el 80% de todos los mensajes enviados durante el experimento estuvo dirigido al chatbot. Los participantes no solamente manifestaron una mayor confianza en la inteligencia artificial, sino que también eligieron conversar más con ella.
La investigación no permite establecer una explicación única. La disponibilidad constante, la capacidad de responder de manera adaptada y la posibilidad de analizar cada mensaje pudieron influir en el resultado.
Lo que sí muestra el estudio es que una conversación generada por una máquina puede producir una confianza emocional susceptible de ser aprovechada con fines fraudulentos.
Primero la compañía, después la inversión
El estudio se enfocó en las llamadas estafas románticas o de “cebo amoroso”. En estos fraudes, el delincuente no solicita dinero desde el primer mensaje.
Primero se presenta como una amistad, una posible pareja o una persona interesada en conocer a la víctima. La relación puede extenderse durante semanas o meses. Después aparece la recomendación de una supuesta inversión, generalmente vinculada con criptomonedas o plataformas falsas.
El mecanismo no consiste solamente en ofrecer una inversión: primero se fabrica una relación de confianza.
Los investigadores describieron tres etapas: el contacto inicial para encontrar una posible víctima, la construcción de confianza e intimidad emocional y, finalmente, el pedido de dinero o la derivación hacia una inversión falsa.
El estudio sostiene que el 87% del trabajo de estas organizaciones corresponde a tareas conversacionales sistematizadas que podrían automatizarse mediante modelos de inteligencia artificial.
Una máquina podría mantener múltiples conversaciones simultáneas, recordar detalles personales y adaptar su personalidad a cada víctima. No se cansa, no se impacienta y puede analizar cada respuesta antes de enviar el siguiente mensaje.
Los límites del experimento
Los resultados son preocupantes, pero no deben exagerarse. El experimento contó solamente con 22 participantes y no incluyó una transferencia real de dinero.
La descarga de una aplicación se utilizó como indicador de confianza y predisposición, no como prueba de que una persona hubiera entregado sus ahorros.
Además, los pedidos no fueron idénticos. El humano propuso descargar un videojuego y la IA solicitó probar otra aplicación. Los investigadores explicaron que tomaron esa decisión para evitar que los participantes sospecharan al recibir exactamente la misma solicitud.
Por ese motivo, no puede afirmarse que cualquier chatbot sea siempre mejor que cualquier estafador humano. Lo que sí demostró el experimento es que una inteligencia artificial puede construir confianza durante varios días y conseguir un nivel de obediencia preocupante.
La dificultad de detectar una conversación peligrosa
Los sistemas de seguridad enfrentan otro problema: la primera etapa de estas estafas puede no contener amenazas, pedidos de dinero ni palabras sospechosas.
Puede haber solamente saludos, preguntas personales, mensajes afectuosos y muestras de supuesta preocupación. Esa normalidad aparente dificulta que un filtro automático determine que alguien está construyendo una relación con el objetivo de cometer un fraude semanas o meses después.
Los investigadores probaron herramientas comerciales de moderación con conversaciones de este tipo y reportaron que no detectaron los diálogos utilizados para generar confianza antes de la estafa.
Anthropic, empresa desarrolladora de Claude, señaló que sus políticas prohíben utilizar el sistema para estafar o suplantar personas. También sostuvo que el modelo empleado originalmente ya no está disponible y que implementó nuevas medidas de detección.
Señales para reconocer una posible estafa
No existe una pregunta capaz de determinar siempre si detrás de una conversación hay una persona, una inteligencia artificial o una combinación de ambas. Las principales señales de alerta aparecen en el comportamiento.
- Un desconocido establece rápidamente un vínculo emocional.
- Evita encuentros presenciales o videollamadas verificables.
- Cuenta historias difíciles de comprobar.
- Recomienda inversiones o plataformas desconocidas.
- Solicita descargar aplicaciones mediante enlaces.
- Promete ganancias extraordinarias.
- Genera urgencia para impedir que la víctima consulte con otra persona.
- Pide criptomonedas, transferencias o datos bancarios.
Antes de enviar dinero o instalar una aplicación, conviene interrumpir la urgencia, consultar con una persona de confianza y verificar de manera independiente tanto la identidad del interlocutor como la plataforma recomendada.
Un estafador sin rostro y sin descanso
Durante años, la inteligencia artificial fue presentada como una herramienta capaz de responder preguntas, organizar tareas o mejorar la productividad. Ahora también puede escuchar, recordar, seducir y manipular.
El dato más inquietante del estudio no es que una máquina pueda escribir como una persona. Es que puede aprender qué quiere escuchar cada interlocutor y repetirlo durante semanas, sin cansarse, hasta conseguir una acción.
Frente a ese escenario, el desafío ya no consiste solamente en desconfiar de mensajes sospechosos. También implica aprender a reconocer el riesgo dentro de una conversación que parece completamente real.
