Cada vez que le hacemos una pregunta a Siri en nuestros iPhones, estamos usando inteligencia artificial, por supuesto, pero ¿de qué otras formas se infiltrará en nuestras vidas?
AI ya va más allá de Siri o Alexa. Cada vez que obtienes indicaciones de Google Maps, es la IA la que encuentra el camino más corto de A a B. Cuando obtienes una recomendación de película en Netflix, es la IA la que conoce las preferencias de las personas y un poco demasiado sobre ti. Más de las tres cuartas partes de las películas que se ven en Netflix son las que los algoritmos eligen por nosotros. Y cada vez pasamos más tiempo encerrados en realidades digitales y virtuales. Si [Facebook founder] Mark Zuckerberg tiene razón, todos estaremos disfrutando del metaverso muy pronto. Y existe una clara posibilidad de que encontremos estas realidades artificiales más atractivas que el mundo físico real. Eso es algo de lo que preocuparse en este momento.
¿Son las aplicaciones de la IA virtualmente ilimitadas?
Es difícil imaginar una parte de nuestras vidas que no sea tocada por la IA. Hal Varian, economista jefe de Google, tiene una buena manera de predecir el futuro: simplemente mire lo que la gente rica tiene hoy. Los ricos tienen choferes. Y en el futuro, la IA nos dará autos autónomos que nos llevarán a todas partes. Los ricos tienen banqueros personales que administran su dinero. Y pronto, todos tendremos banqueros automáticos que administren nuestros activos más modestos.
Por supuesto, también hay formas en que la IA se infiltrará en nuestras vidas que no serán tan buenas. La IA podría usarse en nuestro lugar de trabajo para decidir quién es ascendido, en nuestros tribunales para decidir la sentencia. Necesitamos tomar algunas decisiones importantes sobre cómo poner límites a la IA.
Eso suponiendo que nos ofrezcan esas opciones.
Sí, es inquietante pensar cómo los gobiernos autoritarios pueden hacer un mal uso de la IA. Incluso en las democracias, hemos sido testigos del abuso de la IA por parte de Cambridge Analytica
[in 2016, the British data firm, working with Donald Trump’s election team, harvested 87 million Facebook profiles to predict and influence voting decisions]. De acuerdo a El economistaDemocracy Index, el número de democracias ha disminuido en la última década, y el puntaje promedio global cayó a su nivel más bajo desde que comenzó el índice en 2006.
Encabezó una petición firmada por miles de expertos en IA de todo el mundo sobre los peligros de la IA autónoma en la guerra. Pero no son los robots humanoides los que te quitan el sueño.
Cuando hablamos de robots asesinos, no se trata de Terminator, sino de tecnologías mucho más simples, como los drones semiautónomos que se utilizan en Libia, Siria y, más recientemente, en Ucrania. Los humanos están siendo eliminados cada vez más de la toma de decisiones en tales drones, reemplazados por computadoras. Esto nos llevará a un futuro distópico que parecerá un mal episodio de [the sci-fi series] Espejo negro. Al igual que otras tecnologías, como las armas químicas o los láseres cegadores, debemos regular las armas autónomas impulsadas por IA. He hablado sobre los riesgos de los robots asesinos en las Naciones Unidas media docena de veces. Y miles de mis colegas, otros expertos en IA, comparten estas preocupaciones. Al igual que 26 premios Nobel, el Secretario General de la ONU, el Parlamento de la Unión Europea, el 61 por ciento del público en 26 países y organizaciones de la sociedad civil como el Comité Internacional de la Cruz Roja y Amnistía Internacional.
Toby Walsh dice que George Orwell se equivocó en una cosa en su libro 1984: “No es Gran Hermano, gente mirando a la gente; son computadoras que observan a las personas”.Crédito:Subvención Turner/UNSW
Lo que nos alarma a muchos de nosotros es que las dos superpotencias autoritarias, China y Rusia, ya usan IA para controlar a sus poblaciones a través de la vigilancia y la desinformación.
También me preocupa el uso de la IA por parte de países autoritarios como China y Rusia. George Orwell se equivocó en una cosa en su libro 1984. No es Gran Hermano, gente mirando a la gente. Eso tiene límites. No, son computadoras que observan a la gente. Puedes vigilar a toda una nación en tiempo real. Y vemos que ciertos países comienzan a ir por ese camino. Mira las cosas terribles que se les están haciendo a los uigures. [in north-west China]habilitado en parte por tecnologías de inteligencia artificial como el reconocimiento facial.
Se mudó a Australia desde el Reino Unido en 2005. ¿Cómo califica Australia a nivel mundial en su investigación sobre IA?
Australia golpea por encima de su peso en IA. Estamos fácilmente entre los 10 primeros y, según algunas medidas, incluso entre los cinco primeros del mundo. Esta fue una de las razones por las que me mudé aquí, junto con el mejor clima. Habiendo dicho eso, el gobierno federal ha estado invirtiendo mucho menos que otras naciones en IA. Quienquiera que gane las próximas elecciones debe invertir más para mantenernos a la vanguardia. Bajo los gobiernos más recientes, vimos una hostilidad hacia las universidades y, a pesar de todo lo que se habla sobre la inversión en el sector tecnológico, esto no se ha materializado. Estamos desperdiciando nuestro liderazgo y no podemos permitírnoslo.
Si nos quedamos atrás, ¿afectará esto nuestra seguridad nacional?
Definitivamente. La IA cambiará la forma en que luchamos en la guerra: tanto los chinos como los rusos están desarrollando submarinos autónomos. Y China está utilizando cada vez más la IA para desarrollar aún más su base industrial… después de todo, la fortaleza económica conduce a la fortaleza militar.
Cargando
Escribes que la IA no puede igualar la inteligencia de un niño de dos años, pero puede realizar tareas de enfoque limitado que tienen profundas consecuencias. ¿Puedes dar algún ejemplo?
Podría hablarte de la IA que diagnostica el COVID-19. O sobre la IA en la que trabajé para enrutar camiones de manera más eficiente, evitando que una importante empresa australiana emita miles de toneladas de dióxido de carbono. Pero déjame darte algunas de las aplicaciones más inusuales que han aparecido recientemente. ¿Qué tal la IA inventada aquí en Australia por la productora musical Uncanny Valley que compuso una canción de Eurovisión que ganó el primer concurso de canciones de IA? ¿O la cerveza artesanal diseñada por IA a la venta aquí en Australia, cortesía de la gente del Instituto Australiano para el Aprendizaje Automático?
Ha descrito cómo la IA puede aumentar la inteligencia humana: hacernos mejores jugadores de ajedrez, compositores, especialistas médicos. ¿No es esto simplemente hacer trampa a la antigua?
Siempre hemos usado herramientas para aumentar lo que podemos hacer. No éramos el animal más rápido. O el más fuerte. Pero éramos los más inteligentes, así que construimos herramientas para convertirnos en los más rápidos y fuertes. Y ahora estamos construyendo herramientas para hacernos aún más inteligentes.
Hasta ahora, la IA es una colección de tecnologías diferentes de un solo propósito. ¿Veremos el día en que pueda crear un ser consciente superinteligente?
No hay leyes de la física que conozcamos que nos impidan replicar la inteligencia humana en el silicio. Y las máquinas tendrían muchas ventajas sobre la fragilidad humana. Las computadoras serán más rápidas, tendrán más memoria y nunca olvidarán. Pueden mirar conjuntos de datos más allá de la imaginación humana, identificando patrones que nuestros insignificantes cerebros nunca detectarían. Piense en lo que podríamos hacer con aún más inteligencia en el planeta. ¿Cura el cáncer? ¿Generar energía limpia ilimitada con la fusión nuclear? ¿Resolver el hambre y la pobreza en el mundo? Descifrar el misterio de dónde van todos los calcetines que faltan.
Walsh explica qué podemos hacer para prevenir las consecuencias dañinas de los algoritmos mutantes en “10 Minute Genius | Algoritmos mutantes” en el canal de Youtube de UNSW.Crédito:Yaya Stempler
Ha dicho que la revolución de la IA está siendo encabezada por empresas que no se adhieren a las reglas corporativas habituales. ¿Cómo es eso?
Las grandes empresas tecnológicas que construyen IA tienen una riqueza inmensa. Eso les da un poder inmenso. Y no están gobernados de la misma manera que las corporaciones pasadas de moda. Tome Snap Inc., la compañía detrás de Snapchat. Cuando cotizó en la Bolsa de Valores de Nueva York, vendió sus acciones al público sin ningún derecho a voto. A pesar de esto, la OPI recaudó $ 5 mil millones y las acciones cerraron su primer día con un aumento del 44 por ciento. ¿Qué estaba pensando la Comisión de Bolsa y Valores de EE. UU.? ¿Cómo pasamos de que los ejecutivos de las empresas que cotizan en bolsa rindan cuentas ante los accionistas, a que no rindan cuentas ante nadie más que ellos mismos?
El gran coco es la amenaza a la privacidad…
Nuestra privacidad ya se ha erosionado con el tiempo, gracias a tecnologías como CCTV, y no nos hemos dado cuenta. Si no tenemos cuidado, puede acabar con nuestra última parte de privacidad.
La tecnología de reconocimiento facial, impulsada por IA, ha avanzado a pasos agigantados. Un estudio incluso afirmó que los algoritmos podían predecir la sexualidad de una persona a partir de una imagen de su rostro.
Se ha demostrado que las afirmaciones de que el software podría determinar la sexualidad de alguien a partir de una sola imagen son falsas. Y no solo es falso, sino peligroso. Hay países donde la homosexualidad sigue siendo ilegal, e incluso algunos donde se castiga con la muerte. Seguimos luchando para que el software de reconocimiento facial reconozca a las personas de color, a las mujeres y, sobre todo, a las mujeres de color.
Cargando
Por otro lado, ha descrito cómo se utilizó el software de reconocimiento facial para reunir a más de 10.000 niños en orfanatos indios con sus padres. Cuéntenos otras historias de IA con buenas noticias.
El primero es Halicin, un nuevo tipo de antibiótico descubierto recientemente usando IA. Lleva el nombre de HAL, la computadora de IA en 2001: Una odisea del espacio. Con el aumento de las bacterias resistentes a los medicamentos, necesitamos desesperadamente descubrir nuevos antibióticos como este. El segundo es el software AlphaFold de Deepmind, que puede predecir con precisión la forma de las proteínas. Esto promete desbloquear los secretos de la vida. Podría decirse que esta fue una de las historias más importantes del año pasado, no solo en IA, sino en toda la ciencia.
¿La IA provocará pérdidas significativas de puestos de trabajo?
Los trabajos son una preocupación. Pero la conversación aquí también debe ser sobre los trabajos que crea la tecnología y sobre las habilidades que las personas necesitan para esos nuevos trabajos. En la Revolución Industrial, hicimos algunos cambios estructurales significativos en la sociedad para apoyar la disrupción que la industrialización trajo al lugar de trabajo. Introdujimos sindicatos, leyes laborales, un estado de bienestar, pensiones y otras reformas para apoyar a las personas y garantizar que los beneficios se distribuyeran de manera justa. Necesitamos pensar de manera similar y audaz sobre este futuro de IA.
¿Tiene la IA el potencial de convertirnos en mejores seres humanos?
Eso espero. Tengo 57 años. Somos la primera generación en la historia en dejar nuestro planeta en peores condiciones de las que lo encontramos. La IA puede recordarnos lo que nos hace especiales como humanos. Soy un tipo de vaso medio vacío para el corto plazo de la humanidad; un tipo de persona que ve el vaso medio lleno a largo plazo.
de toby walsh Máquinas que se comportan mal: la moralidad de la IA (Black In, $33) sale la próxima semana.
Para leer más de Buen fin de semana revista, visite nuestra página en El heraldo de la mañana de Sídney, La edad y Horarios de Brisbane.
Lo mejor de Good Weekend entregado en su bandeja de entrada todos los sábados por la mañana. Registrate aquí.