Poco después del lanzamiento de GPT-4, el CEO de OpenAI, Sam Altman, apareció en el Congreso para «educar» a los reguladores sobre los posibles daños de la IA. Desde quitar trabajos hasta afirmar que la seguridad es ‘vital’ para el trabajo de OpenAI, Altman desempeñó perfectamente el papel de un doomer de IA medido para llevar a los reguladores a un frenesí para reducir el mercado de IA de rápido crecimiento. Si bien muchos criticaron este movimiento como una forma de aumentar el liderazgo de OpenAI en el ecosistema, ahora parece que ha fracasado.
Según los informes, la FTC (comisión federal de comercio) ha abierto una amplia investigación sobre las actividades de OpenAI, principalmente por preocupaciones sobre la reputación personal y los riesgos de filtración de datos personales. A principios de esta semana, el regulador envió a OpenAI un documento que detalla sus preocupaciones sobre los productos de la empresa. Esto no solo subraya la hipocresía de la empresa de IA, sino que también representa una fuerte amenaza regulatoria en su contra, lo que posiblemente ponga fin a la rienda suelta que ha estado disfrutando en el mercado emergente de IA.
Salva de apertura de la FTC
Echando un vistazo al documento publicado por el Washington Post, la FTC ha solicitado una variedad de información de la empresa, incluida la base de datos completa de terceros que utilizan sus API. Además, el regulador incluso le ha pedido a OpenAI que abra el telón de sus mejores modelos, pidiéndole al gigante tecnológico que describa en detalle la investigación sobre sus productos.
La FTC también solicitó los datos de capacitación que usó OpenAI, así como información sobre el aprendizaje de refuerzo a partir del proceso de retroalimentación humana. También solicitó a OpenAI que arroje algo de luz sobre el problema de seguridad de ChatGPT que ocurrió en marzo de este año, lo que permitió que se filtrara cierta información personal.
Otra información solicitada incluye detalles sobre el proceso de readiestramiento y abstención de LLM, evaluaciones de riesgo y seguridad, protección de información personal. Este es el meollo de la solicitud, ya que las preocupaciones de la FTC se aclaran en la Sección 24 de la sección de interrogatorios.
El regulador también quiere saber la capacidad de los LLM de OpenAI para generar declaraciones sobre individuos, especialmente declaraciones que contienen información personal. Si bien el regulador también ha expresado su preocupación por la capacidad de los LLM para hacer ‘declaraciones engañosas, despectivas o dañinas’, el quid de la cuestión reside en cómo OpenAI maneja la información personal.
Esto también va en línea con el compromiso de la FTC de apegarse a las leyes actuales de derechos civiles sobre discriminación. La presidenta de la FTC, Lina Khan, ha declarado específicamente que «no existe una exención de IA para las leyes en los libros», lo que sugiere que la FTC se ceñirá al marco regulatorio actual hasta que la administración Biden cree uno nuevo.
Los movimientos de la FTC han hecho retroceder a Altman, como lo demuestra su hilo de tweet sobre el asunto. Aunque denunció el hecho de que la solicitud de la FTC se filtró a la prensa, fijado,
“Es muy importante para nosotros que nuestra tecnología sea segura y pro-consumidor, y estamos seguros de que cumplimos con la ley. Por supuesto que trabajaremos con la FTC”.
Este comentario está en línea con los otros mensajes que Altman ha estado enviando a los reguladores, hablando sobre cómo la IA es riesgosa mientras que los productos de OpenAI se construyen «sobre años de investigación de seguridad». Esta es una narrativa que hemos visto antes, respaldada en este caso por una reiteración de que OpenAI no está ‘incentivado para obtener ganancias ilimitadas’ debido a su estructura de ganancias limitadas.
¿Ya no se engaña a los reguladores?
Sam Altman ha estado en una ofensiva de encanto global para convencer a los reguladores del impacto potencial de los algoritmos de IA. Llamándolo una ‘misión diplomática’, el CEO se ha encargado de ser el campeón de la IA ante los reguladores del mundo. Esta estrategia parece ser una hoja sacada de los libros de los cabilderos, restringiendo la regulación para una empresa mientras restringe el mercado con leyes de mano dura.
Oculta detrás de sus reuniones con los reguladores globales hay una agenda siniestra para expandir los productos de OpenAI en todo el mundo con la menor supervisión regulatoria posible. Han surgido informes de que Altman ha presionado a la UE para que diluya su estricta Ley de IA para permitir que OpenAI tenga más libertad en el EEE centrado en la privacidad de datos. Lo que es peor, la estrategia realmente funcionó, ya que el último borrador de la Ley no clasifica a GPT como un sistema de alto riesgo, en línea con las solicitudes de OpenAI para lo mismo.
Según la nueva ley, los proveedores de modelos fundamentales solo deben cumplir con un pequeño puñado de requisitos, no con la estricta regulación que enfrentaron como sistemas de alto riesgo. Sarah Chander, asesora principal de políticas de European Digital Rights, declaró en movimiento,
«Obtuvieron lo que pidieron… OpenAI, como muchas empresas de Big Tech, han usado el argumento de la utilidad y el beneficio público de la IA para enmascarar su interés financiero en diluir la regulación».
Si bien Altman externamente ha pedido que el campo de la IA se regule en su totalidad, parece que se está asegurando de que se puedan hacer excepciones para el beneficio financiero de OpenAI. Esto significa que OpenAI podrá ‘autorregularse’ mientras que otras empresas se inclinan ante las necesidades de los reguladores. Ahora, parece que la FTC se ha dado cuenta de este juego, persiguiendo al pez más grande del mar para su primera captura.
Con la investigación sobre OpenAI, la FTC ha revelado indirectamente que han visto a través del disfraz de Altman, ya que están atacando directamente el meollo del asunto. Actualmente, la compañía está bajo fuego por múltiples violaciones de derechos de autor, que la FTC ha utilizado como una incursión para plantear preocupaciones sobre el manejo de información personal por parte de OpenAI. En general, parece que se avecina una tormenta en el horizonte para OpenAI, y Altman está en el centro de todo.
