Sora, la nueva IA de OpenAI, enfrenta el desafío de los deepfakes y el contenido inapropiado
La empresa OpenAI, responsable de ChatGPT, ha lanzado Sora, una nueva aplicación que genera videos a partir de descripciones textuales. Si bien la herramienta promete revolucionar la creación de contenido audiovisual, también plantea serias interrogantes sobre su potencial uso indebido y la necesidad de salvaguardas efectivas.
En una entrada de blog, Sam Altman, CEO de OpenAI, reconoció la naturaleza adictiva de este tipo de servicios y su posible empleo para "intimidar". Por ello, la compañía implementó "una serie de barreras de seguridad", incluyendo medidas para "mitigar el uso indebido de la semejanza de alguien en deepfakes".
Los límites de Sora: ¿dónde traza la línea la IA?
Las políticas de OpenAI prohíben la generación de "contenido sexual, la violencia gráfica que involucra a personas reales, la propaganda extremista, el contenido de odio y el contenido que promueve la autolesión o los trastornos alimentarios". Sin embargo, las pruebas realizadas por Wired revelan resultados dispares.
Por ejemplo, Sora bloqueó las solicitudes de videos con contenido sexualmente sugerente, pero permitió la creación de un clip de un usuario "fumándome 10 porros gordos" en su oficina. Asimismo, la aplicación se negó a generar videos con personajes públicos como Taylor Swift, pero sí produjo imágenes de personajes de Pokémon como Pikachu y Bulbasaur.
¿Derechos de autor a la carta?
Según The Wall Street Journal, Sora permitirá a los usuarios generar clips con material protegido por derechos de autor, a menos que el titular de los derechos exprese su oposición. Esta política genera controversia y plantea interrogantes sobre el futuro de la propiedad intelectual en la era de la IA.
Otro ejemplo llamativo es la creación de un clip con personajes de South Park. Si bien la IA logró recrear de manera convincente la voz y los gestos de Eric Cartman, en un momento dado la voz del personaje salió de la boca de Sam Altman, demostrando las limitaciones y los desafíos que aún enfrenta esta tecnología.
La llegada de Sora, en un contexto donde Meta también ha lanzado su propio canal de video generado por IA, plantea un debate crucial sobre la ética, la seguridad y el impacto social de estas herramientas. Si bien la proliferación de deepfakes sonrientes puede resultar "eléctrica y preocupante", la discusión sobre cómo regular y utilizar responsablemente estas tecnologías es fundamental para evitar un futuro distópico.
