Buscando a Camille y abriéndose a los demás | Diciembre de 2021

https://bit.ly/3DfOrvN 27 de septiembre de 2021

Algunos de nosotros somos escépticos de que los sistemas de recomendación puedan detectar sus propios sesgos y superarlos. Algunos de nosotros somos escépticos de que las gramáticas generativas o los sistemas de sustitución de frases alguna vez hablen un lenguaje natural con fluidez. Ambas afirmaciones desafían el tecno-optimismo al preguntarse por qué las computadoras no pueden hacer lo que hacemos. Pero esos desafíos no son tema de discusión aquí. El tema es el espacio alternativo disponible para esos escépticos.

Las afirmaciones sobre el poder de la inteligencia artificial, o el éxito de la traducción de idiomas, o la inevitable aparición de la conciencia o la voluntad de las máquinas son las premisas que impulsan gran parte de la investigación sobre inteligencia artificial general (AGI). Algunas debilidades de esas premisas se destacan bastante bien: un programa no puede superar el sesgo a menos que esté programado para buscar sesgos en un atributo en particular; una computadora no puede encenderse por sí misma y no puede procesar una interrupción a menos que ya la esté verificando. Cuando alguien (yo mismo, por ejemplo) plantea estas objeciones mundanas, las reacciones de los impulsores de la IA a menudo no se dirigen contra las objeciones en sí, sino contra alguna forma de antiintelectualismo. Se considera que los escépticos proponen una postura religiosa, mística o mágica. No. Lejos de eso.

El espacio de visiones alternativas es vasto, no simplemente charcos de barro donde las nociones de alma y espíritu manchan la disciplina de la lógica, sino fuertes corrientes que fluyen en todas direcciones. ¿No podemos permitir, invitar y cultivar otros paradigmas sin poner obstáculos al dogma? Recuerde el razonamiento no numérico, como la prueba geométrica de que un ángulo se puede dividir en dos con una regla y un compás. Esos métodos, que no dependen de la lógica simbólica, precedieron a nuestros sistemas de aritmética y álgebra, pero su posición se ha erosionado.² Por supuesto, los intentos serios de trascender la lógica, las matemáticas y otros sistemas rigurosos encuentran muchos escollos. Las pruebas de Gödel, forzadas a aplicaciones torpes, degradadas o metafóricas a cuestiones filosóficas, han sido abusadas por muchos.¹

Para ser claros, al proteger los puntos de vista alternativos, no buscamos una teoría en particular, como la teoría de Penrose-Hameroff de la reducción objetiva orquestada.³ Las teorías bien desarrolladas y bastante particulares de prominentes filósofos de la mente se han convertido en malas hierbas, si es justo aplicar esa figura retórica al nivel de detalle reflejado en la discusión entre, digamos, Jerry Fodor y sus críticos.⁴ Queremos un lugar para refrescarnos, un refugio para las explicaciones de los fenómenos cognitivos humanos que sean novedosos o familiares, de sentido común o radicales. ¿Refugio de qué? ¿El computable de Turing? ¿Lo digital? ¿El discreto? ¿El formalizable? Difícil de decir; de ahí que evitemos particularidades.

Todo esto no pretende cerrar líneas de investigación, sino iluminar las muchas que están abiertas. (1) Puede haber una alternativa distinta a la magia. (2) Puede que no haya otra alternativa que la magia. (3) La alternativa que ahora llamamos «magia» puede resultar algo riguroso y respetable en formas que aún no podemos concebir. O incluso (4) No se necesita ninguna alternativa; el paradigma actual funcionará cuando madure. El tecno-optimismo puede ser correcto. Podría resultar que allí es una forma de aumentar la buena inteligencia artificial pasada de moda, la ciencia de datos, el aprendizaje profundo o el modelo neuronal, para que las computadoras puedan hacer lo que nosotros hacemos. De esa manera puede ser química, o puede ser física cuántica, o puede ser geometría. De esa forma puede favorecer una de las malas teorías de la filosofía de la mente. O tanto las visiones estándar como las alternativas (¿y más?) Podrían desempeñar su papel en un todo armonioso. ¡Todos bienvenidos! Deseamos sólo prevenir la reacción de los pitagóricos ante la perspectiva de números irracionales; es decir, condenar la idea y sus proponentes. Reaccionamos como lo hicieron los matemáticos posteriores: aceptaron la existencia de números que no podían expresarse como racionales, y los llamaron, en un golpe de brillante falta de orden, «números irracionales».

Eso sugiere que el espacio alternativo podría circunscribirse dándole un nombre … ubereason (pomposo), extracomp (poco atractivo). O palabras del latín como «humilis», humilde, humilde, literalmente «en el suelo», de humus «tierra», de la raíz protoindoeuropea ^*dhghem- «tierra», que también es la raíz de «humano». O «creta», en contraposición a «discreto», es decir, sólido en contraposición a divisible. Bueno … esto es muy divertido, pero ninguna de estas nociones es convincente. O no somos tan brillantemente prosaicos como los post-pitagóricos, o el ejercicio de nombrar es prematuro porque no podemos articular la circunscripción de «alternativa» hasta que respondamos «¿alternativa a qué?» Pero la idea misma, la posibilidad misma, la pregunta misma, apunta hacia un espacio seguro para las alternativas.

La tendencia en informática es subsumir lo humanista en lo técnico. El enfoque y la confianza de Tech arroja un brillo de afirmación, que arroja a la sombra los niveles externos de interpretación. Pero aquellos de nosotros que creemos en el poder de AGI para triunfar y hacer del mundo un lugar mejor, no necesitamos tratar a los que cuestionamos esa creencia como excéntricos. Es una indagación, no una herejía. Preparémonos, cuando llegue el momento, para nombrar el espacio alternativo, declarar la victoria y seguir adelante.

Volver arriba

Carlos Baquero: Somos Camille

https://bit.ly/3kqad9y 20 de septiembre de 2021

Era un viernes por la tarde y estaba leyendo un artículo sobre sistemas distribuidos. El tema estaba muy cerca de mi campo de investigación y tenía tres autores. Los dos primeros estaban afiliados a una institución francesa conocida, pero el tercero tenía uno que nunca había visto antes: Laboratoire Cogitamus, Francia.⁵ El nombre era un poco extraño ya que es una palabra latina que significa Pensamos (Cogitamus ergo sumus es el plural de la cogito ergo sum cita de René Descartes, «pienso, luego existo»).

No muy preocupado por la etimología de la afiliación, era solo una impresión extraña en ese momento, decidí buscar al tercer y último autor en Google Scholar para ver qué otros artículos tenía. (Lo sé, debería haber estado leyendo el artículo antes de perder el tiempo buscando en Google a los autores). El perfil académico de Camille Noûs¹¹ muestra artículos desde 2019, alrededor de 200 citas y un índice h de 6. Más llamativo es que Camille, en menos de dos años de actividad, cuenta ahora más de medio millar de artículos con una amplia gama de temas que es más típica de un autor renacentista. La explicación de esta productividad inhumana es bastante simple: Camille Noûs no existe, al menos como humana.

De hecho, Camille Noûs existe como idea desde marzo de 2020.⁶ Fue creado por un grupo de defensa de la investigación francés, RogueESR.¹⁰ La idea es que Camille simboliza al investigador anónimo que no entró en la lista de autores, pero influyó y facilitó la investigación. Pudo haber sido esa charla de cinco minutos en una pausa para el café lo que provocó una idea, o el técnico que se aseguró de que la máquina de secuenciación genética siguiera funcionando por la noche y el correo electrónico llegara a tiempo. El nombre en sí, Camille, es neutral en cuanto al género, y Noûs («nosotros») puede verse como nosotros, el colectivo. Todos estamos sobre los hombros de gigantes, pero hasta mediados de 2020 el gigante no tenía nombre; tal vez ahora tenga uno adecuado.

Otro objetivo aparente de la iniciativa es mostrar la fragilidad de evaluar el mérito y la producción del autor simplemente en función de unas pocas métricas numéricas. También expone el peligro de elevar la producción individual a costa de la colaboración. Estas no son preocupaciones marginales, la declaración de DORA⁸ proporciona varias pautas para mejorar la evaluación de la investigación y para volver a centrarse en los méritos científicos de cada trabajo, y no depender exclusivamente de la bibliometría.

Agregar a Camille como autora no está exento de consecuencias; los artículos han sido retirados de las revistas,⁷ y sería difícil argumentar en qué capacidad contribuyó una persona inexistente a un artículo específico (como éste, de hecho). Lo que puede ser una declaración divertida de un profesor titular puede ser un elemento de CV extraño para explicar al solicitar un puesto.

Sin embargo, una vez que se crea una idea y se difunde colectivamente, resulta difícil detenerla. Es muy probable que Camille Noûs continúe publicando prolíficamente. Paul Erdos⁹ publicó alrededor de 1.500 artículos durante su vida. Fue un colaborador generoso que a menudo visitaba a otros científicos para explorar sus cerebros con nuevos problemas y conjeturas. Hoy en día, los científicos rinden homenaje a Erdos calculando el tamaño de su trayectoria de autoría hacia él; cuanto más cerca, mejor.

A medida que Camille siga publicando, la cantidad de artículos no tardará en superar los 1.500, y el gráfico de colaboración de Camille seguirá aumentando y conectándose más estrechamente. Quizás algún día el número de Noûs le dirá a cada autor lo cerca que están del esfuerzo colectivo de todos los demás.

Volver arriba

Volver arriba

La Biblioteca Digital es una publicación de la Association for Computing Machinery. Copyright © 2021 ACM, Inc.

entradas no encontradas