IEn sus conferencias Reith de 2021, el tercer episodio de las cuales se transmite esta noche, el investigador de inteligencia artificial Stuart Russell retoma la idea de una IA del futuro cercano que es tan despiadadamente inteligente que podría representar una amenaza existencial para la humanidad. Una máquina que creamos que podría destruirnos a todos.
Este ha sido durante mucho tiempo un tema popular entre los investigadores y la prensa. Pero creemos que una amenaza existencial de la IA es poco probable y, en cualquier caso, lejana, dado el estado actual de la tecnología. Sin embargo, el reciente desarrollo de sistemas de inteligencia artificial poderosos, pero a una escala mucho más pequeña, ya ha tenido un efecto significativo en el mundo, y el uso de la inteligencia artificial existente plantea serios desafíos económicos y sociales. Estos no son distantes, sino inmediatos, y deben abordarse.
Estos incluyen la perspectiva de un desempleo a gran escala debido a la automatización, con la consiguiente dislocación política y social, así como el uso de datos personales con fines de manipulación comercial y política. La incorporación de sesgos étnicos y de género en los conjuntos de datos utilizados por los programas de inteligencia artificial que determinan la selección de candidatos para el puesto, la solvencia y otras decisiones importantes es un problema bien conocido.
Pero, con mucho, el peligro más inmediato es el papel que desempeña el análisis y la generación de datos de IA en la difusión de desinformación y extremismo en las redes sociales. Esta tecnología impulsa los robots y los algoritmos de amplificación. Estos han jugado un papel directo en el fomento de conflictos en muchos países. Están ayudando a intensificar el racismo, las teorías de la conspiración, el extremismo político y una plétora de movimientos violentos e irracionalistas.
Estos movimientos amenazan los cimientos de la democracia en todo el mundo. Las redes sociales impulsadas por la IA fueron fundamentales para movilizar la insurrección de enero en el Capitolio de los EE. UU. Y han impulsado el movimiento anti-vacunas desde antes de la pandemia.
Detrás de todo esto está el poder de las grandes empresas de tecnología, que desarrollan la tecnología de procesamiento de datos relevante y alojan las plataformas de redes sociales en las que se implementa. Con sus vastas reservas de datos personales, utilizan sofisticados procedimientos de focalización para identificar audiencias de publicaciones y sitios extremistas. Promueven este contenido para aumentar los ingresos publicitarios y, al hacerlo, ayudan activamente al aumento de estas tendencias destructivas.
Ejercen un control casi monopólico sobre el mercado de las redes sociales y una variedad de otros servicios digitales. Meta, a través de su propiedad de Facebook, WhatsApp e Instagram, y Google, que controla YouTube, dominan gran parte de la industria de las redes sociales. Esta concentración de poder otorga a un puñado de empresas una influencia de gran alcance en la toma de decisiones políticas.
Dada la importancia de los servicios digitales en la vida pública, es razonable esperar que las grandes tecnologías estén sujetas al mismo tipo de regulación que se aplica a las corporaciones que controlan los mercados en otras partes de la economía. De hecho, este no es el caso en general.
Las agencias de redes sociales no se han visto restringidas por las regulaciones antimonopolio, la veracidad en la legislación publicitaria o las leyes contra la incitación al racismo que se aplican a las redes tradicionales de impresión y transmisión. Tal regulación no garantiza un comportamiento responsable (como ilustran las redes de cable de derecha y los tabloides rabiosos), pero sí proporciona un instrumento de restricción.
Se han presentado tres argumentos principales contra una mayor regulación gubernamental de la gran tecnología. El primero sostiene que inhibiría la libertad de expresión. El segundo sostiene que degradaría la innovación en ciencia e ingeniería. El tercero sostiene que las empresas socialmente responsables pueden regularse mejor a sí mismas. Estos argumentos son completamente engañosos.
Algunas restricciones a la libertad de expresión están bien motivadas por la necesidad de defender el bien público. La verdad en la publicidad es un buen ejemplo. Las prohibiciones legales contra la incitación racista y la difamación grupal son otra. Estas limitaciones son generalmente aceptadas en la mayoría de las democracias liberales (con la excepción de Estados Unidos) como parte integral del enfoque legal para proteger a las personas de los delitos de odio.
Las plataformas de redes sociales a menudo niegan la responsabilidad por el contenido del material que alojan, con el argumento de que es creado por usuarios individuales. De hecho, este contenido se publica en el dominio público, por lo que no puede interpretarse como una comunicación puramente privada.
Cuando se trata de seguridad, Las regulaciones impuestas por el gobierno no han impedido avances dramáticos en bioingeniería, como las recientes vacunas Covid basadas en ARNm. Tampoco impidieron que las empresas de automóviles construyeran vehículos eléctricos eficientes. ¿Por qué tendrían el efecto único de reducir la innovación en IA y tecnología de la información?
Por último, la opinión de que se puede confiar en que las empresas privadas se regulen a sí mismas por un sentido de responsabilidad social carece totalmente de fundamento. Las empresas existen con el propósito de ganar dinero. Los grupos de presión empresariales a menudo se atribuyen a sí mismos la imagen de una industria socialmente responsable que actúa con un sentido de preocupación por el bienestar público. En la mayoría de los casos, se trata de una maniobra de relaciones públicas destinada a evitar la regulación.
Cualquier empresa que priorice el beneficio social sobre el beneficio pronto dejará de existir. Esto se mostró en el reciente testimonio ante el Congreso de la denunciante de Facebook Frances Haugen, que indica que los ejecutivos de la compañía optaron por ignorar el daño que estaban causando algunos de sus «algoritmos» para mantener las ganancias que proporcionaban.
La presión del consumidor puede, en ocasiones, actuar como palanca para restringir los excesos corporativos. Pero esos casos son raros. De hecho, la legislación y las agencias reguladoras son los únicos medios efectivos que las sociedades democráticas tienen a su disposición para proteger al público de los efectos indeseables del poder corporativo.
Encontrar la mejor manera de regular una industria poderosa y compleja como la gran tecnología es un problema difícil. Pero se ha avanzado en propuestas constructivas. Lina Khan, la comisionada de comercio federal de EE. UU. Presentó propuestas antimonopolio para hacer frente a las prácticas monopolísticas en los mercados. La Comisión Europea ha asumido un papel de liderazgo en la implementación de leyes de privacidad y protección de datos.
Los académicos MacKenzie Common y Rasmus Kleis Nielsen ofrecen una discusión equilibrada sobre las formas en que el gobierno puede restringir la desinformación y el discurso de odio en las redes sociales, al tiempo que mantiene la libertad de expresión. Este es el más complejo y urgente de los problemas relacionados con el control de las empresas de tecnología.
El caso para regular las grandes tecnologías es claro. El daño que está causando en una variedad de dominios está poniendo en duda los beneficios de sus considerables logros en ciencia e ingeniería. La naturaleza global del poder corporativo hace que la capacidad de los gobiernos nacionales de los países democráticos para restringir las grandes tecnologías sea cada vez más limitada.
Existe una necesidad imperiosa de que los grandes bloques comerciales y las agencias internacionales actúen de forma concertada para imponer una regulación eficaz a las empresas de tecnología digital. Sin estas limitaciones, la gran tecnología seguirá albergando los instrumentos del extremismo, la intolerancia y la sinrazón que están generando caos social, socavando la salud pública y amenazando la democracia.
-
Devdatt Dubhashi es profesor de ciencia de datos e inteligencia artificial en la Universidad Tecnológica de Chalmers en Gotemburgo, Suecia. Shalom Lappin es profesor de procesamiento del lenguaje natural en la Universidad Queen Mary de Londres, director del Centro de Teoría Lingüística y Estudios de Probabilidad de la Universidad de Gotemburgo y profesor emérito de lingüística computacional en el King’s College de Londres.