“The 360” le muestra diversas perspectivas sobre las principales historias y debates del día.
Lo que está sucediendo
El Papa Francisco recibió una ola de elogios en línea por su sentido de la moda el fin de semana pasado gracias a una foto del pontífice de 86 años vestido con un abrigo blanco ultraelegante.
El único problema es que la imagen es falsa. Fue creado utilizando un programa de inteligencia artificial llamado , una de las pocas herramientas de rápido desarrollo que permiten a los usuarios, entre otras cosas, usar nada más que un mensaje de texto bien redactado.
Midjourney y otros creadores de imágenes de IA han existido por un tiempo, pero hasta hace poco, incluso sus resultados más convincentes han sido relativamente fáciles de detectar como falsos. Sin embargo, las últimas versiones de estas herramientas han mejorado en la resolución de problemas que históricamente han sido signos reveladores de que una imagen no es real, en particular, el desafío de que no se vea deformada o tenga la cantidad incorrecta de dedos.
El «papa con estilo» no fue la única imagen generada por IA que ganó una tracción significativa en línea recientemente. Una serie de fotos artificiales que muestran el arresto se compartió ampliamente después de que a principios de este mes se conociera la noticia de que era probable que un gran jurado de Nueva York lo acusara. Lo mismo sucedió con las imágenes falsas de ser abordado por manifestantes.
Las imágenes de Trump y Macron tenían suficientes fallas para que cualquiera que mirara de cerca las identificara fácilmente como no auténticas. Pero su existencia, junto con el hecho de que la foto del Papa pudo engañar a mucha gente, ha generado mucha preocupación sobre lo que significará si la IA pronto se vuelve lo suficientemente poderosa como para crear imágenes de noticias falsas que no se pueden distinguir de la realidad.
por qué hay debate
A pesar de lo inofensiva que es la imagen falsa de un Papa con estilo, se la ha llamado “la primera verdadera a nivel de masas”. ” mostrando el poder de la inteligencia artificial para crear representaciones convincentes de eventos que nunca sucedieron.
Muchos expertos dicen que es fácil ver cómo el poder creciente de la IA podría causar un daño social grave cuando se aplica a temas más serios. Argumentan que con la desinformación ya tan extendida en línea, la IA pronto se convertirá en una herramienta poderosa para aquellos que buscan manipular la comprensión de la realidad por parte del público, con imágenes falsas potencialmente capaces de crear, provocar inestabilidad política e incluso amenazar el . Algunos también dicen que el conocimiento de que cualquier foto puede ser artificial socavará la confianza del público en las fuentes de noticias reales y dará a los malos actores la oportunidad de afirmar que las imágenes que muestran sus fechorías reales son inventadas.
Pero no todos están tan preocupados. Dicen que la frivolidad de la imagen del Papa es una parte importante de lo que permitió que se volviera viral, ya que quienes la compartían no sentían la necesidad de examinarla como lo harían si representara algo importante. Otros argumentan que el público se ha acostumbrado tanto a la existencia de noticias falsas que la mayoría de la gente sabe verificar las historias que ven en línea, independientemente del medio del que provengan. También existe la esperanza de que la creciente preocupación por la IA lleve a las empresas detrás de los creadores de imágenes y las empresas de redes sociales a establecer barandillas para proteger al público, o incluso inspirar al Congreso a aprobar nuevas leyes.
Que sigue
La desinformación está lejos de ser la única área de preocupación sobre los rápidos desarrollos de la IA. También existen grandes temores sobre cómo puede llegar a ser demasiado sofisticado para controlarlo, cómo el arte generado por IA podría amenazar el sustento de , y los peligros de permitir que alguien superponga la cara y la voz de alguien en cualquier video.
Perspectivas
Incluso si la mayoría de las imágenes de IA son inofensivas o fáciles de detectar, solo se necesita una para causar un daño real
“A medida que los generadores de imágenes de IA ampliamente disponibles se vuelvan rápidamente más sofisticados, sus creaciones podrían superar nuestra capacidad para adaptarnos a una avalancha de imágenes creíbles pero completamente falsas. … Si bien muchas de estas creaciones son inofensivas, no es difícil imaginar cómo las imágenes sintéticas podrían manipular el conocimiento público de eventos actuales o históricos”. —Amanda Silberling,
La gente pone más atención a las noticias que importan
“La parka radical del Papa Francisco engañó a los espectadores inteligentes porque representaba lo que habría sido un evento noticioso de bajo riesgo. … Las imágenes del arresto de Trump, por el contrario, mostraban un evento noticioso anticipado que, de haber ocurrido, habría tenido graves repercusiones políticas y culturales. Uno no sigue simplemente desplazándose después de ver al expresidente ser derribado al suelo”. —Charlie Warzel,
AI también nos hará a todos más escépticos de las noticias reales
“Ya me encuentro mirando fotos reales de políticos en las redes sociales, medio preguntándome si son falsas. Las herramientas de IA harán que muchos de nosotros seamos escépticos. Para aquellos que son más fáciles de persuadir, podrían encabezar una nueva crisis de desinformación”. —Parmy Olson,
Las imágenes de IA son parte de un experimento masivo que las empresas de tecnología están realizando en el público sin reglas establecidas
“Creo que este es un ejemplo de un problema más amplio de tecnologías que se introducen en nuestras sociedades sin supervisión, regulación o estándares. … La mayor parte de nuestra sociedad se ha quedado atrás, sin entender cómo funcionan estas tecnologías, con qué fines y cuáles son las consecuencias
de eso.» — Elinor Carmi, investigadora de alfabetización de datos, para
El público ya está preparado para tratar todo lo que ve en línea con escepticismo.
“¿Deberíamos tener miedo de una nueva avalancha de información errónea de IA que haga imposible separar los hechos de la ficción en línea? No precisamente. … Todavía estamos a un tiempo de un evento de desinformación de IA dañino a gran escala. Algo que interrumpe perceptiblemente la vida real. Los verificadores de hechos y los periodistas, en mi opinión, están listos para tal escenario”. — Alex Mahadevan,
Ha sido posible hacer fotos falsas durante años, pero la eficiencia de la IA cambia las reglas del juego
“Ahora hay incentivos y beneficios muy claros para engañar a las personas con imágenes generadas por IA. … Lo cual ha sido cierto para la información errónea que no es de IA durante años, por supuesto. Publicar un photoshop de un tiburón en una carretera durante un huracán puede lograr el mismo tipo de caos monetizable. Pero ahora puedes generar una cantidad infinita de variaciones del tiburón nadando en una cantidad infinita de carreteras. Y puedes hacerlo en un par de segundos”. — , escritor de la industria tecnológica
Las imágenes de IA permiten a los conspiradores rechazar la verdad
“Los avances en la IA generativa pronto significarán que el contenido falso pero visualmente convincente proliferará en línea, lo que conducirá a un ecosistema de información aún más complicado. Una consecuencia secundaria es que los detractores podrán descartar fácilmente como pruebas de vídeo reales falsas de todo, desde la violencia policial y las violaciones de los derechos humanos hasta un líder mundial que quema documentos ultrasecretos”. — Hany Farid,
No hay una forma real de responsabilizar a los malos actores
“¿Quién es el responsable final de las consecuencias de imágenes falsas como estas? A medida que la tecnología de inteligencia artificial supera rápidamente la regulación, la culpabilidad de las imágenes falsas sigue siendo un área gris y se deja en gran medida a discreción de las empresas privadas”. —Diego Lasarte,
Todo depende de si se desarrollan salvaguardas antes de que la IA se vuelva verdaderamente indistinguible de la realidad.
“La carrera está en marcha para encontrar algún tipo de solución a este problema antes de que las imágenes generadas por IA sean lo suficientemente buenas como para que sea una. Todavía no sabemos quién ganará, pero tenemos una idea bastante clara de lo que podemos perder». —Sara Morrison,
Con las reglas y la preparación adecuadas, las imágenes de IA pueden hacer un enorme bien a la sociedad
“Si, junto con la educación y la legislación de IA, buscamos resolver los problemas locales con la mirada puesta en los mundiales, el surgimiento de este tipo de tecnología puede ocurrir sin convertir a la sociedad en una especie de papilla. Demonios, tal vez los generadores de IA de todo tipo podrían usarse para actividades divertidas e inofensivas. Pero si permitimos que esta tecnología nos arrastre a la hiperrealidad total sin tomar las precauciones adecuadas, entonces quién sabe qué podría pasar, pero no tengo grandes esperanzas de que sea bueno”. — Cabina de Callum,
La IA sigue siendo mucho mejor para crear alegría que para difundir información errónea
“Sí, de repente parece demasiado obvio cómo la inteligencia artificial podría usarse fácilmente para crear propaganda, cómo podría convertirse fácilmente en un arma como herramienta de desestabilización. Pero, dicho esto: el incidente de Pope Coat deja en claro que la IA puede y también será utilizada para el equivalente de hacer dibujos animados hiperrealistas”. —Ashley Fetters Maloy y Anne Branigin,
¿Hay algún tema que le gustaría ver cubierto en «The 360»? Envíe sus sugerencias a the360@yahoonews.com.
Ilustración fotográfica: Jack Forbes/Yahoo News; fotos: @SaffhoArtSht/Midjourney vía Twitter (2), Pablo Xavier/Midjourney vía Reddit