Imagen: Jack Guez/Colaborador
Hackear. Desinformación. Vigilancia. CYBER es el podcast de Motherboard e informa sobre la parte más oscura de Internet.
Las personas en Discord para el subreddit r/ChatGPT están anunciando tokens API de OpenAI robados que han sido extraídos del código de otras personas, según registros de chat, capturas de pantalla y entrevistas. Las personas que usan las claves de API robadas pueden implementar GPT-4 mientras acumulan cargos de uso en la cuenta de OpenAI robada.
En un caso, alguien robó el acceso a una valiosa cuenta de OpenAI con un límite superior de $150,000 de uso y ahora ofrece ese acceso de forma gratuita a otros miembros, incluso a través de un sitio web y un segundo servidor Discord dedicado. Ese servidor tiene más de 500 miembros.
Las personas que deseen utilizar los modelos de lenguaje grande de OpenAI, como GPT-4, deben crear una cuenta con la empresa y asociar una tarjeta de crédito a la cuenta. OpenAI luego les da una clave API única que les permite acceder a las herramientas de OpenAI. Por ejemplo, un desarrollador de aplicaciones puede usar código para implementar ChatGPT u otros modelos de lenguaje en su aplicación. La clave API les da acceso a esas herramientas y OpenAI cobra una tarifa según el uso: “¡Recuerde que su clave API es un secreto! No lo comparta con otros ni lo exponga en ningún código del lado del cliente (navegadores, aplicaciones)”, OpenAI advierte a los usuarios. Si la clave es robada o expuesta, cualquiera puede comenzar a acumular cargos en la cuenta de esa persona.
El método por el cual el pirata obtuvo acceso destaca una consideración de seguridad que los usuarios de pago de OpenAI deben tener en cuenta. La persona dice que crearon un sitio web que permite a las personas colaborar en proyectos de codificación, según las capturas de pantalla. En muchos casos, parece probable que los autores del código alojado en el sitio, llamado Replit, no se dieron cuenta de que habían incluido sus claves API de OpenAI en su código de acceso público, exponiéndolos a terceros.
“Mi cuenta [account] todavía no está prohibido después de hacer locuras como esta”, escribió el miércoles el pirata, que se hace llamar Discodtehe, en el servidor r/ChatGPT Discord.
¿Sabes algo más sobre cómo las personas usan la IA de manera maliciosa? Nos encantaría saber de usted. Con un teléfono o una computadora que no sea del trabajo, puede comunicarse con Joseph Cox de manera segura en Signal al +44 20 8133 5190, Wickr en josephcox o enviar un correo electrónico a joseph.cox@vice.com.
En los últimos días, el uso de Discodtehe de al menos una clave API de OpenAI robada parece haber aumentado. Compartieron varias capturas de pantalla del aumento del uso de la cuenta con el tiempo. Una captura de pantalla reciente muestra el uso este mes de $1,039.37 de $150,000.
“Si tenemos suficientes personas, es posible que no nos prohíban a todos”, escribió Discodtehe el miércoles.
Sin embargo, Discodtehe parece haber estado extrayendo claves API expuestas durante más tiempo. En un mensaje de Discord de marzo, escribieron «el otro día raspé repl.it y encontré más de 1000 claves openai api en funcionamiento».
“Ni siquiera hice un raspado completo, solo miré aproximadamente la mitad de los resultados”, agregaron.
Replit es una herramienta en línea para escribir código de forma colaborativa. Los usuarios pueden hacer proyectos, lo que Replit llama «Repls», que son públicos de forma predeterminada, dijo Cecilia Ziniti, consejera general y directora de desarrollo comercial de Replit, a Motherboard en un correo electrónico. Replit ofrece un mecanismo para manejar claves API llamado Secrets, agregó Ziniti.
“Algunas personas introducen accidentalmente tokens de código duro en el código de su Repl, en lugar de almacenarlos en Secrets. En última instancia, los usuarios son responsables de salvaguardar sus propios tokens y no deberían almacenarlos en código público”, dijo Ziniti.
Ziniti dijo que la compañía escanea proyectos en busca de tipos de claves de API populares, como las de Github. Después de que Motherboard le alertara sobre este nuevo problema de clave de API, Ziniti dijo: «En el futuro, Replit revisará nuestro sistema de escaneo de tokens para garantizar que los usuarios sean advertidos sobre la exposición accidental de tokens ChatGPT».
“Si tenemos suficientes personas, es posible que no nos prohíban a todos”.
Un miembro de la comunidad de ChatGPT le dijo a Motherboard que Discodtehe «definitivamente debería detenerse».
“Esta es una industria en constante crecimiento y, por supuesto, habrá delincuencia tarde o temprano, pero me sorprende lo rápido que se ha convertido en un problema. El robo de cuentas corporativas es malo, sin duda, pero personalmente me preocupa más la forma en que estos tipos están dispuestos a robar a las personas comunes que publicaron sus claves por error”, agregaron. Motherboard otorgó a la persona el anonimato para que no enfrentara represalias de otros miembros de la comunidad.
Una captura de pantalla del sitio que ofrece acceso gratuito a GPT-4. Imagen: Placa base.
Discodtehe fue un paso más allá de solo raspar tokens. Otro servidor de Discord, llamado ChimeraGPT, ofrece “¡acceso gratuito a GPT-4 y GPT-3.5-turbo!”, según los registros de chat vistos por Motherboard. Discodtehe dijo en otro mensaje que ChimeraGPT está utilizando la misma organización que la clave API robada discutida en el servidor r/ChatGPT Discord. Motherboard encontró un repositorio de Github que recomienda usar ChimeraGPT para obtener una clave de API gratuita. Al momento de escribir este servidor tiene 531 miembros.
Discodtehe dijo en otro mensaje que también crearon un sitio web donde las personas pueden solicitar acceso gratuito a la API de OpenAI. (Irónicamente, este sitio también está alojado en Replit; poco antes de la publicación, el sitio se volvió inaccesible).
El sitio les dice a los usuarios que ingresen su dirección de correo electrónico, hagan clic en un enlace enviado por OpenAI y acepten la invitación, establezcan su dirección de facturación predeterminada en la organización «weeeeee» que parece estar usando Discodtehe.
“Disfrute del acceso gratuito a la API gpt-4”, concluye el sitio web. El miércoles, la organización vinculada a la cuenta de OpenAI tenía 27 miembros, según una captura de pantalla. Para el jueves, ese número había aumentado a 40, según otro.
“Mi cuenta [account] todavía no está prohibido después de hacer locuras como esta”.
Discodtehe no respondió a una solicitud de comentarios. Un administrador del servidor r/ChatGPT Discord llamado «Dawn» le dijo a Motherboard que sus moderadores voluntarios no pueden verificar todos los proyectos, y «estamos emitiendo una prohibición para el usuario».
Un portavoz de OpenAI le dijo a Motherboard en un correo electrónico que “realizamos escaneos automatizados de grandes repositorios abiertos y revocamos cualquier clave de OpenAI descubierta. Recomendamos que los usuarios no revelen su clave de API después de generarla. Si los usuarios creen que su clave de API puede haber estado expuesta, les instamos a rotar su clave de inmediato”.
Sin embargo, el miembro de la comunidad dijo: «Creo que OpenAI también tiene un poco de culpa aquí por cómo funciona su proceso de autenticación».
«No se entera de que el acceso API a las cuentas de Google Cloud sea robado de esta manera porque Google tiene una mejor autenticación[entication] procedimientos. Espero que la integración de OpenAI con Microsoft brinde una mejor seguridad para los usuarios en el futuro”, dijeron.
Discodtehe se refirió al uso como «simplemente tomar prestado» en otro mensaje. Escribieron que el uso es «solo citar, aún no se han pagado facturas».
“Al final, es probable que OpenAI pague la factura”, dijeron.
OpenAI no respondió de inmediato a una pregunta de seguimiento sobre si pagaría la factura.
Suscríbete a nuestro podcast de ciberseguridad, CYBER. Suscríbete a nuestro canal de Twitch.