La compañía Midjourney ha anunciado el fin de las pruebas gratuitas de su generador de imágenes de inteligencia artificial debido al abuso de la herramienta por parte de los usuarios, que la han utilizado para crear deepfakes de alto perfil, entre ellos, del ex presidente Donald Trump y el Papa Francisco.
El CEO de Midjourney, David Holz, ha comunicado en Discord que la compañía termina las pruebas gratuitas debido a una “demanda extraordinaria y abuso de las pruebas”.
A pesar de haber implementado nuevas medidas de seguridad, estas no han sido “suficientes” para prevenir el mal uso durante el periodo de prueba, según Holz. Por lo tanto, a partir de ahora, se deberá pagar al menos $10 al mes para utilizar esta tecnología.
Según informa The Washington Post, Midjourney ha sido objeto de una atención no deseada en las últimas semanas.
Los usuarios han utilizado el generador de imágenes de la compañía para crear deepfakes del ex presidente Trump siendo arrestado y del Papa Francisco con una chaqueta de moda.
Aunque estas imágenes fueron rápidamente identificadas como falsas, existe la preocupación de que actores malintencionados utilicen Midjourney, DALL-E de OpenAI y otros generadores similares para difundir información errónea.
Midjourney ha reconocido tener dificultades para establecer políticas de contenido. En 2022, Holz justificó la prohibición de imágenes del líder chino Xi Jinping diciendo a los usuarios de Discord que su equipo solo quería “minimizar el drama” y que tener acceso en China era más importante que permitir contenido satírico.
Durante una charla con usuarios el miércoles, Holz dijo que tenía dificultades para establecer políticas de contenido a medida que la IA permitía imágenes cada vez más realistas. Midjourney espera mejorar la moderación de la IA que filtra el abuso, agregó el fundador.
Algunos desarrolladores han implementado reglas estrictas para evitar incidentes. Por ejemplo, OpenAI prohíbe cualquier imagen de eventos políticos en curso, teorías conspirativas y políticos.
También prohíbe el odio, la sexualidad y la violencia. Sin embargo, otros tienen directrices relativamente laxas. Stability AI no permite que los usuarios de Stable Diffusion copien estilos o hagan imágenes no aptas para el trabajo, pero en general no dicta qué pueden hacer las personas.
Si se desea utilizar herramientas de inteligencia artificial, es importante hacerlo de manera responsable y ética.
