Escrito por Zoe Sottile, CNN
Todo se debe a Lensa, una aplicación que utiliza inteligencia artificial para representar retratos digitales basados en las fotos que envían los usuarios.
Los retratos muy estilizados y llamativos de Lensa se han apoderado de Internet, pero también han sido objeto de preocupación por parte de expertos en privacidad, artistas digitales y usuarios que han notado que la aplicación hace que su piel sea más pálida o sus cuerpos más delgados.
Aquí está todo lo que necesita saber sobre Lensa:
Zoe Sottile de CNN generó esta imagen al enviar selfies a la función «Avatares mágicos» de Lensa. Crédito: lentesa
Cómo conseguir tu propio ‘avatar mágico’
Las imágenes que circulan en línea son productos de la función «Avatares mágicos» de Lensa. Para probarlo, primero deberá descargar la aplicación Lensa en su teléfono.
Una suscripción de un año a la aplicación, que también brinda servicios de edición de fotos, cuesta $35.99. Pero puede usar la aplicación para una prueba gratuita de una semana si desea probarla antes de comprometerse.
La generación de los avatares mágicos requiere una tarifa adicional. Siempre que tenga una suscripción o una prueba gratuita, puede obtener 50 avatares por $ 3.99, 100 por $ 5.99 o 200 por $ 7.99.
Lensa recomienda a los usuarios enviar de 10 a 20 selfies para obtener los mejores resultados. Las imágenes deben ser primeros planos de su cara con una variedad de diferentes fondos, expresiones faciales y ángulos. Lensa también estipula que solo debe ser utilizado por personas mayores de 13 años.
La aplicación explica en su política de privacidad que usan la tecnología API TrueDepth, y las fotos proporcionadas por el usuario, o «datos faciales», se usan «para entrenar a nuestros algoritmos para que funcionen mejor y le muestren mejores resultados».
Probamos la aplicación para ver cómo es
Para probar la aplicación, seleccioné 20 selfies que pensé que mostraban una variedad de expresiones y ángulos y elegí la opción de 100 avatares. Lensa tardó unos 20 minutos en devolverme mis avatares, que se dividían en 10 categorías: fantasía, hada princesa, enfoque, pop, elegante, animé, ligero, kawaii, iridiscente y cósmico.
En general, sentí que la aplicación hizo un trabajo decente al producir imágenes artísticas basadas en mis selfies. No podía reconocerme del todo en la mayoría de los retratos, pero podía ver de dónde venían.
Parecía reconocer y repetir ciertas características, como mi piel pálida o mi nariz redonda, más que otras. Algunas de ellas tenían un estilo más realista y estaban lo suficientemente cerca como para pensar que en realidad eran fotos mías si las viera desde lejos. Otros eran significativamente más estilizados y artísticos, por lo que me parecían menos específicos.
Para algunas mujeres, la aplicación produce imágenes sexualizadas.
Uno de los desafíos que encontré en la aplicación ha sido descrito por otras mujeres en línea. Aunque todas las imágenes que subí estaban completamente vestidas y en su mayoría eran primeros planos de mi rostro, la aplicación devolvió varias imágenes con desnudez implícita o real.
En una de las imágenes más desorientadoras, parecía que una versión de mi cara estaba sobre un cuerpo desnudo. En varias fotos aparecía desnuda pero con una cobija colocada estratégicamente, o la imagen cortada para ocultar algo explícito. Y muchas de las imágenes, incluso cuando estaba completamente vestida, presentaban una expresión facial sensual, un escote significativo y ropa diminuta que no coincidía con las fotos que había enviado.
Snow dijo que la tecnología de inteligencia artificial como la que usa Lensa podría usarse para generar «pornografía de venganza», es decir, tomar imágenes de alguien desnudo sin su consentimiento.
Para Snow, el resultado fue una señal de la «completa falta de moderación del contenido» en la aplicación. También pidió una mayor regulación de las aplicaciones de IA como Lensa.
Lensa no respondió a una solicitud de CNN para comentar sobre la aplicación que produce imágenes de desnudos o sexualizadas.
«Lensa realmente está trabajando horas extras para convertir a AI en una persona delgada», escribió en el pie de foto.
Zoe Sottile de CNN generó esta imagen al enviar selfies a la función «Avatares mágicos» de Lensa. Crédito: lentesa
Los artistas digitales dicen que la aplicación se apropia de su trabajo
La tecnología de Lensa se basa en un modelo de aprendizaje profundo llamado Stable Diffusion, según su política de privacidad. Stable Diffusion utiliza una red masiva de arte digital extraído de Internet, de una base de datos llamada LAION-5B, para entrenar su inteligencia artificial. Actualmente, los artistas no pueden aceptar o rechazar que su arte se incluya en el conjunto de datos y, por lo tanto, se use para entrenar el algoritmo.
Varios de los artistas expresaron su preocupación de que las aplicaciones también pudieran amenazar sus medios de subsistencia. Los artistas digitales no pueden competir con los precios bajos y la inteligencia artificial de respuesta rápida permite un retrato digital, dijeron en ese momento.
El propietario de Lensa, Prisma, ha tratado de disipar las preocupaciones sobre su tecnología que elimina el trabajo de los artistas digitales.
Y «los resultados no pueden describirse como réplicas exactas de ninguna obra de arte en particular».
