Un científico que escribió un importante libro de texto sobre inteligencia artificial ha dicho que los expertos están «asustados» por su propio éxito en el campo, comparando el avance de la IA con el desarrollo de la bomba atómica.
El profesor Stuart Russell, fundador del Centro de Inteligencia Artificial Compatible con los Humanos de la Universidad de California, Berkeley, dijo que la mayoría de los expertos creían que este siglo se desarrollarían máquinas más inteligentes que los humanos, y pidió tratados internacionales para regular el desarrollo de La tecnología.
«La comunidad de IA aún no se ha adaptado al hecho de que ahora estamos empezando a tener un impacto realmente grande en el mundo real», dijo a The Guardian. “Ese simplemente no fue el caso durante la mayor parte de la historia del campo – simplemente estábamos en el laboratorio, desarrollando cosas, tratando de hacer que las cosas funcionen, en su mayoría fallando en hacer que las cosas funcionen. Así que la cuestión del impacto en el mundo real simplemente no tenía nada que ver. Y tenemos que crecer muy rápido para ponernos al día «.
La inteligencia artificial sustenta muchos aspectos de la vida moderna, desde los motores de búsqueda hasta la banca, y los avances en el reconocimiento de imágenes y la traducción automática se encuentran entre los desarrollos clave en los últimos años.
Russell, quien en 1995 fue coautor del libro seminal Inteligencia artificial: un enfoque moderno, y que dará las conferencias de la BBC Reith de este año tituladas «Vivir con inteligencia artificial», que comienzan el lunes, dice que se necesita un trabajo urgente para asegurarnos de que los humanos mantener el control a medida que se desarrolla la IA superinteligente.
“La IA ha sido diseñada con una metodología particular y una especie de enfoque general. Y no somos lo suficientemente cuidadosos para usar ese tipo de sistema en entornos complicados del mundo real ”, dijo.
Por ejemplo, pedirle a la IA que cure el cáncer lo más rápido posible podría ser peligroso. «Probablemente encontraría formas de inducir tumores en toda la población humana, de modo que podría realizar millones de experimentos en paralelo, usándonos a todos como conejillos de indias», dijo Russell. “Y eso es porque esa es la solución al objetivo que le dimos; simplemente nos olvidamos de especificar que no se puede usar a los humanos como conejillos de indias y que no se puede usar todo el PIB del mundo para realizar sus experimentos y no se puede hacer esto y no se puede hacer aquello «.
Russell dijo que todavía hay una gran brecha entre la IA de hoy y la que se muestra en películas como Ex Machina, pero que se vislumbra un futuro con máquinas más inteligentes que los humanos.
«Creo que las cifras oscilan entre los 10 años para los más optimistas y algunos cientos de años», dijo Russell. «Pero casi todos los investigadores de IA dirían que sucederá en este siglo».
Una preocupación es que una máquina no necesitaría ser más inteligente que los humanos en todas las cosas para representar un riesgo grave. “Es algo que se está desarrollando ahora”, dijo. «Si nos fijamos en las redes sociales y los algoritmos que eligen lo que la gente lee y ve, tienen un gran control sobre nuestra información cognitiva».
El resultado, dijo, es que los algoritmos manipulan al usuario, lavándoles el cerebro para que su comportamiento se vuelva más predecible cuando se trata de lo que eligieron para interactuar, aumentando los ingresos basados en los clics.
¿Los investigadores de IA se han asustado por su propio éxito? «Sí, creo que estamos cada vez más asustados», dijo Russell.
“Me recuerda un poco a lo que sucedió en física, donde los físicos sabían que existía la energía atómica, podían medir las masas de diferentes átomos y podían averiguar cuánta energía podría liberarse si pudieras hacer la conversión entre diferentes tipos. de átomos ”, dijo, y señaló que los expertos siempre enfatizaron que la idea era teórica. «Y luego sucedió y no estaban preparados».
El uso de IA en aplicaciones militares, como pequeñas armas antipersonal, es de particular preocupación, dijo. “Esos son los que se pueden escalar muy fácilmente, lo que significa que podría poner un millón de ellos en un solo camión y podría abrir la parte de atrás y acabar con toda una ciudad”, dijo Russell.
Russell cree que el futuro de la IA radica en el desarrollo de máquinas que saben que el verdadero objetivo es incierto, al igual que nuestras preferencias, lo que significa que deben comunicarse con los humanos, como un mayordomo, sobre cualquier decisión. Pero la idea es compleja, sobre todo porque diferentes personas tienen preferencias diferentes, y a veces en conflicto, y esas preferencias no son fijas.
Russell pidió medidas que incluyan un código de conducta para investigadores, legislación y tratados para garantizar la seguridad de los sistemas de inteligencia artificial en uso, y capacitación de investigadores para garantizar que la inteligencia artificial no sea susceptible a problemas como los prejuicios raciales. Dijo que la legislación de la UE que prohibiría la suplantación de seres humanos por máquinas debería adoptarse en todo el mundo.
Russell dijo que esperaba que las conferencias de Reith enfatizaran que hay una opción sobre lo que depara el futuro. “Es realmente importante que el público participe en esas elecciones, porque es el público quien se beneficiará o no”, dijo.
Pero también había otro mensaje. “El progreso en la IA es algo que tardará un tiempo en suceder, pero no lo convierte en ciencia ficción”, dijo.
