El cofundador de Siri, Tom Gruber, ayudó a llevar la IA a la corriente principal. He aquí por qué está preocupado por la rapidez con la que crece la IA
20 de mayo de 2023
Tom Gruber habla con un acento americano suave y profundo. Apasionado y metódico, reflexiona sobre el momento en que él y dos colegas crearon Siri, el asistente virtual de Apple, el punto culminante de su carrera de 40 años en la búsqueda de inteligencia artificial en Silicon Valley.
«Alrededor de 2007-2008, teníamos todo listo para llevar la inteligencia artificial real al alcance de todos, y eso fue emocionante.
«Siri era muy juguetona. Y eso fue por diseño», declara con una amplia sonrisa y una risa casi como un padre orgulloso.
«Ahora se usa aproximadamente mil millones de veces al día. Eso es mucho uso. Está en 2 mil millones de dispositivos. Está absolutamente integrado en la vida cotidiana».
El co-inventor de Siri, Tom Gruber, cree firmemente en la IA humanista: fabricar máquinas inteligentes que sirvan a los humanos en lugar de a las corporaciones.(ABC Noticias)
Pero lo que Gruber y sus colegas de toda la vida que trabajan en inteligencia artificial (IA) han visto en los últimos 18 meses los ha asustado.
«Hay algo diferente esta vez», dice.
«Y ese algo diferente es que la cantidad de capacidades que se descubrieron en el último año o dos sorprendió a las personas que las estaban construyendo y superó todas nuestras expectativas al ritmo al que se descubrieron estas cosas».
‘Un ensayo humano sin consentimiento’
ChatGPT, producido por la empresa OpenAI financiada por Microsoft, es el más conocido de todos los nuevos chatbots de IA «generativos» que se han lanzado.
Entrenada en el conocimiento de Internet y luego lanzada para ser probada en público, esta nueva IA se ha extendido a un ritmo récord.
ChatGPT es el más conocido de todos los nuevos chatbots de IA «generativos» que se han lanzado.(Foto AP: Michael Dwyer)
En Australia, ya está causando interrupciones. Las escuelas y las universidades lo han aceptado y lo han prohibido. Los lugares de trabajo lo están utilizando para atajos y eficiencias, lo que genera dudas sobre si abolirá algunos trabajos. El CEO de IBM ya ha dicho que alrededor de 8.000 puestos de trabajo podrían ser reemplazados por IA y automatización.
Microsoft dijo a las 7.30 esta semana que «la experiencia y los comentarios del mundo real son fundamentales y no se pueden replicar completamente en un laboratorio».
Pero Gruber y miles de científicos, codificadores e investigadores de la industria de la IA quieren que se detengan las pruebas en el público hasta que se establezca un marco para, en sus palabras, «mantener esta tecnología segura y del lado de los humanos».
«Lo que están haciendo al liberarlo [to the world] es que están obteniendo datos de los humanos sobre el tipo de cosas que los humanos normales harían cuando tuvieran en sus manos un modelo de este tipo. Y están aprendiendo por prueba y error», dice Gruber a las 7.30.
«Hay un problema con ese modelo: se llama ensayo en humanos sin consentimiento.
Toby Walsh es el científico jefe del nuevo Instituto de IA de la UNSW. Él dice que otra parte de la preocupación es la velocidad a la que se está adoptando ChatGPT.
Toby Walsh, científico jefe del nuevo Instituto de IA de la UNSW.(ABC Noticias)
«Incluso los daños pequeños, multiplicados por mil millones de personas, podrían ser motivo de gran preocupación», dice.
«ChatGPT fue utilizado por un millón de personas en cinco días, [and] 100 millones de personas al final del primer mes.
«Ahora, seis meses después, está en manos de mil millones de personas. Nunca antes habíamos tenido tecnologías que pudieran implementarse tan rápido».
Borrando las líneas entre lo que es real y lo que no lo es
Aquí está el problema: los nuevos modelos de IA son realmente buenos para ser humanos falsos en el texto. También son muy buenos para crear imágenes falsas e incluso las voces de personas reales.
Si no desea pagarle a una modelo por una sesión de fotos, o si desea redactar un contrato rápidamente sin un abogado, la IA es una herramienta que está a su disposición.
Pero las nuevas aplicaciones de IA también son excelentes para los estafadores y aquellos que quieren manipular las percepciones del público.
En un solo día, Toby Walsh fingió su propia voz e imagen usando IA.(Suministrado: UNSW)
La emisora pública de CBC Canadá informó que la policía está investigando casos en los que se usaron voces falsas entrenadas por IA para estafar dinero a padres que creían que estaban hablando con sus hijos.
«Solo para aclarar, ahora solo toma unos segundos clonar la voz de alguien… Podría llamar a su contestador automático, grabar su voz y hablar como usted», dice Walsh.
Gruber está asustado por cómo la nueva IA puede «pretender ser humana realmente bien».
«Los humanos ya son bastante crédulos», dice.
«Quiero decir, mucha gente hablaría con Siri por un tiempo, principalmente con fines de entretenimiento.
«Pero hay muchas personas que se dejan atrapar por algo así. Y ese es uno de los riesgos realmente grandes».
