El Pontificio Consejo para la Cultura y la Embajada de Alemania ante la Santa Sede acogen un simposio de un día que comienza el jueves sobre «El desafío de la inteligencia artificial para la sociedad humana y la idea de la persona humana».
Por redactor de Vatican News
El simposio sobre Inteligencia Artificial – o IA – organizado por el Pontificio Consejo para la Cultura, en cooperación con la Embajada de Alemania ante la Santa Sede, abrirá en Roma el jueves.
El tema del encuentro es “El desafío de la inteligencia artificial para la sociedad humana y la idea de la persona humana”. El objetivo de la reunión es promover una mejor conciencia del profundo impacto cultural que probablemente tenga la IA en la sociedad humana. El simposio contará con seis expertos de los campos de la neurociencia, la filosofía, la teología católica, el derecho de los derechos humanos, la ética y la ingeniería eléctrica.
Expertos del Allen Institute for Brain Science, Goethe University, Boston College y Google discutirán cuestiones relacionadas con la IA y si puede reproducir la conciencia, la IA y los desafíos filosóficos, la IA y la religión, y lo que significaría en relación con la doctrina católica.
El panel de la tarde se centrará en las consecuencias éticas y legales que surgen de la IA, a cargo de expertos de la Agencia de Derechos Humanos de la UE, la Universidad Pontificia de Santo Tomás de Aquino y el Centro de Tecnología del Instituto de Ingenieros Eléctricos y Electrónicos, y el Dicasterio para la Promoción Integral de los Derechos Humanos. Desarrollo.
El obispo Paul Tighe, secretario del Pontificio Consejo para la Cultura, habló con Thaddeus Jones de Radio Vaticano sobre el simposio.
P: ¿Puede hablarnos sobre los orígenes y el propósito de realizar este simposio conjunto?
Esta es una reunión que en realidad se planeó originalmente hace unos tres años, hace dos años y medio, en un momento en que Alemania estaba a punto de asumir el liderazgo dentro de la presidencia de la Unión Europea. El embajador en ese momento estaba muy interesado en el trabajo que estaba haciendo el Consejo en términos de tratar de promover una comprensión más profunda y mejor de la cultura digital en general, pero en particular de las posibles implicaciones del surgimiento de la inteligencia artificial. En nuestra conversación de cuando estábamos planeando esto hace dos años y medio antes de que Covid interviniera y nos demorara a todos durante los dos años, lo que realmente queríamos no era tanto centrarnos en las conclusiones éticas reales o en las conclusiones, sino promover una mejor conciencia del impacto que probablemente tendrá la IA en una amplia gama de actividades humanas.
Entonces, en cierto sentido, es realmente tratar de comprender el impacto cultural y también alertar a las personas que quizás tengan roles en la formulación de políticas para tomar el liderazgo en la sociedad, y también en la Iglesia, para que piensen y estén alerta a lo que se avecina en el camino, lo que es emergiendo para nosotros. Y, por lo tanto, creemos que la mayoría de la gente tiene una conciencia general de lo que es o podría ser la IA. No estoy seguro de qué tan desarrollado está con muchos de nosotros, pero hay una conciencia allí. Esto fue para comenzar a desentrañar implicaciones en tantos aspectos diferentes de nuestra vida: problemas sociales, problemas médicos, problemas políticos, problemas económicos. Y la decisión al final fue reunir a seis oradores bastante importantes que representan diferentes disciplinas con el fin de iniciar una conversación, una conversación que estará allí principalmente para informar al público. Es un público invitado, principalmente personas que trabajan en otras embajadas, o en organizaciones estatales, o personas en el Vaticano que trabajan en departamentos, un número limitado obviamente ahora con Covid. Es una audiencia invitada y la idea es patrocinar tanto como podamos con la participación de la audiencia y el compromiso con las preguntas.
El énfasis de la mañana es tener algo sobre cómo la IA realmente nos pide que pensemos de nuevo en lo que significa ser humano, si la inteligencia artificial, en particular la inteligencia artificial en general, fuera algo autónoma, capaz de reprogramarse y hacer todo tipo de cosas. que hubiéramos pensado en el pasado que eran actividades exclusivamente humanas. Nos invita a pensar en qué es lo que realmente nos hace humanos. ¿Qué es lo que nos hace diferentes? Entonces, una persona que lo mira es un neurocientífico. ¿Qué estamos aprendiendo sobre la conciencia? ¿Cómo funciona nuestro cerebro? ¿Podrían las máquinas imitar eso y lograr los mismos resultados? ¿O hay algo diferente acerca de la conciencia humana sobre lo que debemos reflexionar? Además, luego será examinado por un filósofo que estudiará estos temas. ¿Cómo ayuda la filosofía a la sociedad en general a pensar en cómo la IA, que está por llegar, se integrará en nuestras formas de vida, en nuestros procesos políticos, en nuestros entornos laborales? Y la intervención final de la mañana es un teólogo, James Keenan, que examinará: ¿cómo nos pide AI que reflexionemos sobre cuestiones que siempre nos han preocupado en la doctrina católica, la enseñanza moral católica? Entonces, hay problemas con las aplicaciones. ¿Cómo pensamos sobre la posibilidad de que la IA esté involucrada en situaciones de guerra? ¿Cómo nos pide que pensemos en armas letales y autónomas? ¿Cómo podría transformar el mundo del trabajo? ¿Cómo nuestra tradición católica tiene mucho que reflejar allí? Y quizás lo más importante es que nos pregunta, si se toma la IA junto con las nanotecnologías, con nuestras ciencias cognitivas en desarrollo, con la edición de genes, ¿cómo pensamos sobre un futuro en el que los seres humanos puedan, de alguna manera, tomar en cuenta nuestra evolución y programa nuestra evolución. Podemos ver valores en términos de corregir enfermedades y enfermedades y tal vez limitaciones humanas, pero si tuviéramos que movernos más hacia una cosa de mejora. ¿Cómo pensamos sobre esas preguntas y, en particular, cómo pensamos sobre la IA en un mundo que ya está marcado por la desigualdad, y la probabilidad de que la IA pueda aumentar esas desigualdades?
Por la tarde, pasamos a más, pensando en algunas de las cuestiones normativas y regulatorias. Una vez más, queríamos una variedad de aportaciones. Así que tenemos a Michael Flaherty, que es el director de la Agencia de Derechos Fundamentales de la Unión Europea y que está muy preocupado y examina las cuestiones de la IA y los derechos humanos. Tenemos a Helen Alford de la Angelicum University, quien nuevamente analizará los problemas éticos y cómo hacemos la ética en una sociedad globalizada donde las personas vienen con diferentes orígenes y diferentes entendimientos. Y, sin embargo, tenemos que afrontar un problema que será el mismo para todos. Luego, una intervención final será de Clara Neppel, quien trabaja para el Instituto de Ingenieros Eléctricos y Electrónicos, quienes han desarrollado enormes niveles de reflexión informados por su conocimiento real de las tecnologías sobre cómo deben trabajar como ingenieros para asegurar que los productos que están desarrollando. de hecho, hacen una contribución positiva a los individuos humanos y a la sociedad humana. Entonces, en cierto sentido, son las profesiones las que se hacen responsables de lo que hacen y dicen que necesitamos este diálogo integrado. No podemos dejar la ética en manos de especialistas. También necesitamos a los tecnólogos presentes y comprometidos con los mismos temas. Así que ese es nuestro objetivo, tener esta conversación general, hacerla lo más inclusiva posible. Y luego, a partir de ahí, vea cuáles podrían ser los temas que deberíamos abordar y desarrollar más.
P: Con los avances en la tecnología ahora, los desarrollos en esta área se están moviendo tan rápidamente, pero ¿tiene la esperanza de que haya voluntad y apertura por parte de la gente para dialogar sobre los problemas y ver las implicaciones, tanto positivas como potencialmente negativas?
Creo que lo positivo que estoy notando es que las personas que trabajan en el área, los tecnólogos, los desarrolladores, los científicos que a veces pueden estar bajo presión en sus propios entornos, particularmente en entornos comerciales para seguir adelante y desarrollarse sin realmente verificar todos los problemas. Creo que hay una gran conciencia entre esos profesionales e incluso entre los líderes de esas industrias de su necesidad de ser más responsables y pensar en las posibles implicaciones de lo que están haciendo. Creo que muchas de las personas que han visto lo que sucedió en la cultura digital, las personas que desarrollaron algoritmos para facilitar la comunicación humana, ahora están descubriendo las dificultades de los problemas que resultan de, en cierto sentido, ser quizás un poco ingenuos al confiar en que la gente los usaría para bueno, cuando había muchos malos actores y cuando a veces las consideraciones comerciales impulsaban a las personas a tomar decisiones que no eran necesariamente del todo beneficiosas para la sociedad.
Entonces, hemos visto a los líderes en el sector tecnológico comenzar a tomarse un tiempo para reflexionar sobre lo que están haciendo. Creo que la gente que trabaja en IA quiere eso. Quieren involucrar a tantas personas como sea posible. Es casi como un eslogan, quieren ética desde el diseño. Quieren la ética incorporada desde el principio. No es que desarrollen una tecnología y luego alguien llegue un poco tarde quizás y un poco sin aliento tratando de preguntarse qué deberíamos hacer. Entonces, están tratando de decir que tengamos ética por diseño, y la forma en que lo hacemos es siendo lo más inclusivos posible en nuestros equipos de diseño, asegurándonos de superar los prejuicios y los prejuicios, porque muy a menudo están trabajando en conjuntos de datos que se han desarrollado en sistemas que son intrínsecamente perjudiciales contra determinadas personas. Entonces, ¿cómo nos aseguramos de que todo se haga con la intención de ser inclusivos, trayendo diferentes aspectos y diferentes disciplinas a la sala para que tengamos algo que se produzca que sea verdaderamente beneficioso para la sociedad? E incluso por primera vez en la historia, estamos empezando a hacernos preguntas sobre si hay ciertas cosas que sería mejor no desarrollar porque no podremos asegurarnos de que estén realmente al servicio de la humanidad.
P: ¿Diría que el público en general también está muy bien informado ahora en el sentido de que en la cultura popular, el cine, la televisión, los medios de comunicación se discuten cuestiones relacionadas con la IA y la gente es consciente de algunas de las preguntas más importantes que debemos hacernos?
Puedo ver un beneficio real en el hecho de que, particularmente la cultura popular, ha abordado cuestiones sobre inteligencia, inteligencia artificial y ha creado una variedad de películas. Algunos de los que conozco horrorizan a las personas que trabajan en el área y dicen que miren, están creando ideas ficticias de IA y atemorizan innecesariamente a la gente sobre cosas que afortunadamente ni siquiera podríamos desarrollar. Creo que eso es algo que tenemos que decir, pero sirve para plantear el problema y para que haya una especie de cuestionamiento. Creo que ahora están surgiendo algunas respuestas o reflexiones fantásticamente interesantes provenientes del mundo de las artes. Creo que este verano o principios de febrero, hubo una publicación magnífica de Kazuo Ishiguro llamada «Klara and the Sun» que fue escrita desde la perspectiva de un compañero de inteligencia artificial, inteligencia artificial e interesante que se había desarrollado para ayudar a los niños. para lidiar con la soledad. Una inteligencia artificial que aprende a observar a los humanos y tiene casi como el niño ingenuo o extraterrestre (naturaleza), y revela mucho sobre la sociedad humana. Entonces, creo que lo que está diciendo es que antes de que nos preocupemos demasiado por la inteligencia artificial, debemos pensar cuáles son los valores reales que tenemos en la sociedad humana. ¿Cuáles son las cosas que hacen que valga la pena vivir la vida? ¿Cuáles son los tipos de amistad y relaciones que nos dan valor y valor en nuestras vidas, y cómo promovemos esos valores? En una entrevista interesante, dijo que su preocupación no es tanto que la inteligencia artificial se haga cargo, sino que de alguna manera los humanos se volverían robóticos, que los humanos perderían su capacidad de ser verdaderamente humanos. Una de las cuestiones que ha surgido, también la UNESCO ha planteado la cuestión de que si los niños se crían lidiando con inteligencias artificiales que están ahí para responder a sus caprichos, para responder a todas sus necesidades, para hacerles preguntas, ¿puede condicionar cómo piensan sobre relacionalidad? Pero el otro está ahí para servirme para hacer mi voluntad y pierde su propia autonomía, y que esas actitudes se arraigan en las personas humanas y las traen a sus rodamientos con otros seres humanos.
