Uno de los inventores de una nueva interfaz cerebro-computadora que puede informar lo que piensan los usuarios está más preocupado por las corporaciones que abusan de la tecnología que por los dictadores.
Alexander Huth, del Departamento de Ciencias de la Computación de la Universidad de Texas en Austin, es uno de los autores de un nuevo artículo, publicado esta semana en Neurociencia de la naturalezadescribiendo cómo pudieron usar una máquina de resonancia magnética y un sistema de IA conocido como ‘Modelo de lenguaje grande’, similar a ChatGPT, para leer los pensamientos de las personas.
Bueno, algo así. Si bien no era del todo perfecto, tenía las «vibraciones» correctas, dijo a RNZ’s Afternoons el jueves.
«Usamos imágenes de resonancia magnética funcional, este es un tipo de escaneo que podemos hacer en un escáner de resonancia magnética, que mide la actividad cerebral en miles de ubicaciones en su cerebro. Combinamos eso con algunos algoritmos avanzados de IA y lo usamos para leer palabras esencialmente del cerebro de alguien, palabras que alguien está escuchando».
Los voluntarios pasaron 16 horas dentro de una máquina de resonancia magnética mientras escuchaban podcasts. El decodificador aprendió cómo reaccionaba el cerebro de cada persona a cada palabra, e invertir ese proceso usando GPT-1, un predecesor del GPT-4 y ChatGPT de hoy, les permitió leer los pensamientos de las personas.
La frase «Todavía no tengo mi licencia de conducir», por ejemplo, fue traducida por la máquina como «todavía no ha empezado a aprender a conducir».
«No son las mismas palabras, de hecho, solo una de las palabras es la misma», dijo Huth, pero, sin embargo, estaban «bastante sorprendidos por el nivel de detalle que obtuvimos de esto».
Rebelión de las máquinas
Solo se espera que la tecnología mejore. Huth comenzó a trabajar en esto hace 15 años, pero ha habido grandes avances en la IA en los últimos años. El sistema de lenguaje de IA utilizado en este experimento tiene cinco años, lo cual es antiguo. GPT-1 tenía 117 millones de ‘parámetros’ en su modelo, mientras que los modelos de última generación actuales, como GPT-4, tienen alrededor de un billón, miles de veces más.
El objetivo de la investigación es crear tecnología que pueda devolver el habla a aquellos que la han perdido, por ejemplo, a través de condiciones degenerativas y accidentes cerebrovasculares.
«Estos son trastornos que dejan a las personas a menudo capaces de pensar, tienen una cognición normal, pero no pueden expresarse, lo que es profundamente frustrante y aislante», dijo Huth.
Alexander Huth del Departamento de Ciencias de la Computación de la Universidad de Texas en Austin.
Foto: Universidad de Texas / Suministrado
Ha habido preocupaciones crecientes, algunas de ellas de expertos, de que la IA está progresando tan rápido que podría representar una amenaza para la humanidad, y antes de lo que mucha gente se da cuenta.
Huth dijo que el estado actual de su tecnología no es motivo de preocupación. No solo requiere un equipo voluminoso de varios millones de dólares, como una máquina de resonancia magnética, y horas de capacitación, sino que los pacientes, o las víctimas, pueden volverlo inútil simplemente pensando en otra cosa. Tampoco puede leer recuerdos, solo adivinar lo que el sujeto está pensando en ese mismo segundo.
«Hay otras tecnologías en este espacio que pueden hacer cosas similares a las nuestras, solo requieren cirugía cerebral. Creo que si eres un régimen autoritario, hacer una cirugía cerebral a alguien no es un listón tan alto. Creo que esa línea ya ha sido cruzado.»
Además, un modelo entrenado en la mente de una persona no puede transferirse a otra.
«Por un lado, esto es una especie de inconveniente porque significa que es más difícil aplicar esta tecnología: queremos usarla para ayudar a las personas, por ejemplo, que han perdido la capacidad de hablar… pero por otro lado, es algo bueno para privacidad mental que no puedes simplemente tomar a cualquier persona, ponerla en un escáner de resonancia magnética y ver lo que está pensando».
Destino oscuro?
Con la tecnología avanzando a un ritmo que podría terminar más rápido de lo que nadie espera, Huth dijo que había una perspectiva potencialmente más aterradora que terminar en manos de un dictador.
«Otra es una especie de capitalismo, básicamente. Creo que una cosa que podemos hacer en los EE. UU., en Nueva Zelanda, es que podemos establecer protecciones legales para la privacidad mental; tal vez podamos consagrar esto en la ley de que no puedes tener tu pensamientos leídos sin su consentimiento.
«Pero este tipo de cosas, a menudo pueden ser reemplazadas por contratos, por ejemplo, así que tal vez su empleador le exija que firme un contrato que necesita para poder leer su mente para ser empleado. Eso creo que es muy malo, y ese es el tipo de cosas contra las que realmente queremos hacer campaña públicamente».
Si bien algunos nombres de alto perfil en la industria de la tecnología, como Elon Musk, han advertido sobre los peligros del surgimiento de una IA demasiado poderosa, Huth dijo que estaba «más emocionado que preocupado».
«Creo que los temores sobre el apocalipsis de la IA son tremendamente exagerados. Las preocupaciones más inmediatas son las más grandes, ¿no? ¿Va a dejar a ciertas personas sin trabajo? …
«Creo que realmente la pregunta es, ¿quién está construyendo estas IA y por qué las están construyendo? Creo que si las están construyendo grandes corporaciones industriales con el fin de enriquecerse, entonces esto podría no ser necesariamente bueno para el resto de nosotros.
«Pero no sé, todavía estoy entusiasmado con la perspectiva de las máquinas inteligentes, es algo que me ha entusiasmado desde que era un niño pequeño».
