Stephen Cave tiene una experiencia considerable en acciones bien intencionadas que tienen consecuencias infelices. Exdiplomático de alto rango en la oficina de relaciones exteriores durante la era del Nuevo Laborismo, estuvo involucrado en negociaciones de tratados que luego, e inesperadamente, se desmoronaron para desencadenar varios eventos internacionales que incluyeron el Brexit. “Conozco el impacto de eventos globales bien intencionados que han salido mal”, admite.
Sin embargo, su experiencia podría resultar valiosa. El ex diplomático, ahora un académico de alto nivel, está a punto de dirigir un nuevo instituto de la Universidad de Cambridge que investigará todos los aspectos de la inteligencia artificial en un intento por identificar los peligros intelectuales que enfrentamos debido a la creciente destreza de las computadoras y resaltar sus usos positivos. Una apreciación de los peligros de las consecuencias no deseadas debería ser útil. “Ha habido mucho énfasis en los medios de comunicación sobre la IA que conduce a la extinción humana o al colapso de la civilización”, dice Cave. “Estos temores son exagerados, pero eso no significa que la IA no cause daño a la sociedad si no tenemos cuidado”.
Los posibles peligros incluyen el desempleo generalizado, ya que las máquinas se hacen cargo de los trabajos en la educación, el periodismo, el derecho y la academia; la difusión de la desinformación; el acaparamiento ilícito de datos personales; el uso de software de reconocimiento facial para rastrear a los manifestantes; y la influencia perniciosa de las líneas de chat de IA. Un ejemplo de este último peligro se ilustró la semana pasada cuando se le dijo a un tribunal del Reino Unido que un chatbot de IA estaba involucrado en alentar a Jaswant Singh Chail en un intento de matar a la difunta Reina con una ballesta.
Puede que la IA no tenga resultados apocalípticos, pero su potencial disruptivo es claramente considerable. “El poder se está concentrando en manos de unas pocas corporaciones importantes que tienen el monopolio sobre la forma en que se construye la IA”, dice Eleanor Drage, quien liderará un equipo de investigadores dentro del nuevo instituto. “Ese es el tipo de cosas que debemos temer, porque eso podría resultar en el mal uso de la IA”.
El Instituto de Tecnología y Humanidad de Cambridge fusionará tres establecimientos universitarios: el Centro Leverhulme para el Futuro de la Inteligencia; el Centro para el Estudio del Riesgo Existencial, que se dedica a estudiar todas las amenazas que podrían conducir a la extinción humana o al colapso civilizatorio; y el recién creado Centro de Inteligencia Artificial Inspirada en Humanos, que se centrará en encontrar formas de hacer avanzar la IA en beneficio de la humanidad.
El instituto resultante, que se inaugurará a finales de este año, abordará las amenazas de la IA y también se centrará en sus perspectivas de aportar beneficios al mundo. Esto se hará combinando una amplia gama de talentos, desde escritores hasta informáticos y desde filósofos hasta artistas, agrega Cave. “El instituto tendrá un enfoque muy interdisciplinario y con proyección al exterior”, insiste. Un punto crucial enfatizado por Cave y Drage ha sido el impacto de las transformaciones tecnológicas pasadas en las sociedades. “La energía de vapor y la revolución agrícola fueron increíblemente perturbadoras. A algunas personas les fue bien, pero muchas otras perdieron sus trabajos y hogares.
“La IA tiene el potencial de hacer eso, y tendremos que ser muy cuidadosos para garantizar que los últimos efectos se mantengan al mínimo. Sin embargo, los cambios que está trayendo están llegando a un ritmo mucho más rápido que los de las revoluciones tecnológicas anteriores”.
Un problema importante señalado por Drage es la gran preponderancia de hombres en la industria de la IA. “Solo el 22% de los profesionales de IA son mujeres”, dijo a la Observador. “Tampoco hay ningún estímulo mediático para que esto mejore. En los medios, en las películas, solo el 8% de los científicos de IA son retratados como mujeres. Se considera que las mujeres no tienen lugar en la industria”.
En cambio, las representaciones están dominadas por personajes como Tony Stark, el alter ego de Iron Man en las películas de Marvel. Supuestamente graduado del Instituto Tecnológico de Massachusetts a la edad de 17 años, Stark afianza la construcción cultural del ingeniero de IA como un visionario masculino, dice Drage. Él, en lugar de la imagen de Terminator de Arnold Schwarzenegger que normalmente se usa para ilustrar las amenazas de la IA, es la personificación real de sus peligros.
“No es un punto trivial. Si se representa a las mujeres como si no tuvieran un papel efectivo que desempeñar en la IA en ningún nivel, entonces los productos y servicios que produce la industria fácilmente podrían terminar discriminando activamente a las mujeres”.
data-spacefinder-role=»inline» data-spacefinder-type=»model.dotcomrendering.pageElements.NewsletterSignupBlockElement» class=» dcr-173mewl» wp_automatic_readability=»2.5787476280835″>saltar promoción del boletín anterior
después de la promoción del boletín
Tanto Cave como Drage enfatizan que el nuevo instituto de Cambridge no solo emitirá advertencias sobre la IA, sino que también trabajará para buscar sus beneficios.
“La IA nos permite ver patrones en los datos que los humanos no pueden comprender y que tendrán beneficios para todo tipo de campos: desde el descubrimiento de fármacos hasta el uso mejorado de la energía, y desde la medicina personalizada hasta el aumento de la eficiencia en los cultivos acuáticos”, agrega Cave. “Tenemos mucho que ganar y mucho que perder a menos que tengamos cuidado”.
