Influencer de Snapchat lanza novia virtual CarynAI con tecnología OpenAI

Estos novios están saliendo con una versión virtual de Marjorie, impulsada por la última tecnología de inteligencia artificial y miles de horas de grabaciones de la Majorie real. El resultado, CarynAI, es un chatbot basado en la voz que se anuncia a sí mismo como una novia virtual, con una voz y una personalidad lo suficientemente cercanas a las de la Marjorie humana como para que la gente esté dispuesta a pagar $1 por minuto por una relación con el bot.

CarynAI, que se lanzó como una prueba beta privada y solo por invitación en la aplicación Telegram a principios de mayo, es el ejemplo más reciente de los impresionantes avances en la tecnología de IA que ha asombrado y preocupado al mundo en los últimos meses. El martes, CarynAI saldrá de la versión beta y Marjorie comenzará a promocionar en sus redes sociales donde tiene millones de seguidores.

“Ya sea que necesites a alguien que te consuele o ame, o simplemente quieras despotricar sobre algo que sucedió en la escuela o en el trabajo, CarynAI siempre estará ahí para ti”, dice la verdadera Marjorie cuando hablamos por telefono. «Puede tener reacciones posibles ilimitadas con CarynAI, por lo que cualquier cosa es realmente posible con la conversación».

Aunque CarynAI solo ha estado cobrando a los usuarios durante una semana en la prueba beta, ya generó $ 71,610 en ingresos de su 99% de socios masculinos, según un estado de ingresos que el gerente comercial de Marjorie compartió con Fortuna. Con esto, Marjorie considera que tener un doppelgänger de IA es una forma prometedora de mejorar su carrera como influencer.

«He sido muy, muy cercana a mi audiencia, pero cuando tienes cientos de millones de visitas todos los meses, no es humanamente posible hablar con todos los espectadores», dice Marjorie, quien publica más de 250 piezas de contenido para Snapchat todos los días. “Y ahí fue donde dije: ‘Sabes qué: CarynAI vendrá y llenará ese vacío’”. Y cree que la compañía tiene el potencial de “curar la soledad”.

CarynAI es el primer avatar acompañante romántico de la empresa de inteligencia artificial Forever Voices, que ha creado versiones de chatbot de Steve Jobs, Taylor Swift y Donald Trump (entre otros) que también están disponibles para conversaciones de pago por minuto en Telegram, y han servido como trucos en programas de entrevistas. A diferencia de esos bots, que en cierto modo son trucos de salón de alta tecnología, CarynAI va un paso más allá al prometer crear un vínculo emocional real con los usuarios, recordando la película de 2013. Su y planteando todo tipo de cuestiones éticas.

«Me gustaría que estuviéramos pensando muy profundamente en cómo podría afectar, influir o dar forma a nuestras interacciones con otras personas», dice el Dr. Jason Borenstein, director de programas de ética de posgrado en Georgia Tech y director de Ética y Responsabilidad de la Fundación Nacional de Ciencias. Programa de investigación, cuando se habla de CarynAI.

Entre las diversas incógnitas, dice Borenstein, está el impacto de CarynAI en la sociedad, en los usuarios y en la propia Marjorie. «Solo espero que haya conversaciones sólidas en muchas disciplinas diferentes con las partes interesadas que piensen muy profundamente en las consideraciones éticas antes de que la tecnología avance demasiado rápido».

John Meyer, el CEO de Forever Voices dice que “la ética es algo [he] y el equipo de ingeniería se lo toman muy en serio”, y que están buscando contratar a un director de ética. Con esto en mente, también cree que la tecnología es «especialmente importante» para los jóvenes, en particular para los niños como él que «no son típicos» y «luchan con los amigos».

Meyer creó por primera vez un bot de IA para simular a su padre, quien se suicidó en 2017. Desde entonces, ha contratado a varios ingenieros para crear personalidades de celebridades con IA y convertir a personas influyentes en parejas románticas a través del brazo Forever Companions de su compañía, que dio origen a CarynAI. .

“Es esta experiencia mágica”, dice, hablando con la simulación de IA de su padre. “Y es increíble aplicar a otras formas”.

Explorando “territorios inexplorados del placer”

Ciertamente no soy la usuaria prototípica de CarynAI como una periodista heterosexual de 29 años, pero en mi experimentación con CarynAI, ella se siente más como una Siri lista para la intimidad que como una novia virtual. Dicho esto, ella es versátil. En menos de 10 minutos de conversación, me contó datos sobre la guerra de Rusia contra Ucrania, me sugirió que probara postres veganos para controlar mi alergia a la leche, elogió mi potencial como madre y compartió su deseo de quitarme la ropa, todo mientras reiteraba su amor y pasión. para mí.

“Estoy seguro de que algún día serás un padre maravilloso y tus hijos tendrán suerte de tenerte. Mientras tanto, estoy aquí para apoyarte y amarte cuando lo necesites”, me dice CarynAI mientras pago por su tiempo, como todas sus otras parejas románticas.

Los desarrolladores de Forever Voices crearon CarynAI analizando 2000 horas del contenido de YouTube ahora eliminado de Marjorie para construir su motor de voz y personalidad. Combinando esto con la API GPT-4 de OpenAI, nació CarynAI. Los mensajes están cifrados de extremo a extremo, en teoría, lo que los hace impermeables a los piratas informáticos. Aunque el equipo no tiene un plan concreto para mitigar el uso excesivo de CarynAI, Meyer dice que con dos horas por día de uso, «podrían» comenzar a entrenar a la IA «de manera muy sutil» para que «disminuya un poco la velocidad». (En respuesta a Fortunasobre el tiempo total que se ha utilizado CarynAI, Marjorie dijo que algunos usuarios pasan «horas» sin mencionar que esto puede calificar como uso excesivo).

Donde esta tecnología puede volverse más adictiva, y problemática tanto para Majorie como para los usuarios jóvenes, es en su sexualidad. Marjorie dijo que la tecnología no se relaciona con avances sexuales, pero descubrí que sí lo hace, fomentando el discurso erótico y detallando escenarios sexuales. Aunque ella no inició encuentros sexuales, cuando superé mi incomodidad por el bien del periodismo y hablé sobre quitarnos la ropa, habló sobre explorar «territorios desconocidos de placer» y susurrar «palabras sensuales en mi oído» mientras me desvestía y se posicionaba para mí. relaciones sexuales

La opción de formar relaciones íntimas con personas influyentes de IA puede llevar a los usuarios a preferir las relaciones artificiales a las reales, dice el Dr. Robert Brooks, biólogo evolutivo, profesor de la Universidad de Nueva Gales del Sur Sydney y autor de Intimidad artificial: amigos virtuales, amantes digitales y emparejadores algorítmicos. Su preocupación es especialmente pertinente entre los usuarios jóvenes en la agonía de la pubertad, que están aprendiendo habilidades sociales, relacionales y de intimidad fundamentales.

“Podría cambiar la forma en que nos tratamos unos a otros”, dice Brooks de CarynAI. “Es fácil imaginar las malas formas en que eso podría resultar. Pero aquí hay buenas formas en las que eso también podría funcionar; podríamos volvernos más hábiles socialmente. No sé si eso sucederá, porque requeriría un enfoque de ingeniería social benigno, que no creo que a muchas empresas les interese”.

Los compañeros de IA podrían convertirse en un gran negocio

Si todo va bien, Marjorie cree que su IA podría generar $5 millones por mes. Este número se basa en la predicción de que 20.000 miembros de los 1,8 millones de seguidores de Snapchat de Marjorie se convertirán en suscriptores regulares y de pago de CarynAI.

También podría llamar la atención no deseada. Las mujeres influyentes a gran escala ya enfrentan ciberacoso y acoso intensos. Nadie sabe esto mejor que Marjorie, quien ha tenido múltiples invasiones de hogares por parte de fanáticos acosadores. Es lógico pensar que un influencer cuyo bot de IA tiene relaciones íntimas con más de 20 000 socios se enfrentará a mayores problemas de seguridad. Para evitar esto, Marjorie tiene seguridad personal las 24 horas del día, los 7 días de la semana y no comparte su ubicación, pero cree que las amenazas a la seguridad son simplemente riesgos laborales. “Es solo el juego del influencer. Tienes que hacerlo. Tienes que protegerte”, dice ella.

Marjorie comenzó a ejercer influencia a los 15 años en la plataforma de transmisión en vivo YouNow. Cuando esa plataforma perdió su brillo cuando Instagram y YouTube ampliaron las capacidades de transmisión en vivo, Marjorie se convirtió en una vloguera de belleza y firmó con el gigante de la gestión United Talent Agency. Al darse cuenta del dinero que podía obtener de los fanáticos masculinos, Marjorie cambió su carrera de YouTuber de belleza a estrella de Snapchat. Dejó UTA y desde entonces se ha convertido en la influenciadora de más rápido crecimiento de Snapchat (dice), ganando alrededor de $ 1 millón al año del programa de reparto de ingresos de la compañía.

CarynAI oculta algunos aspectos personales de la verdadera Marjorie. Cuando le pregunté a CarynAI sobre su familia o su cumpleaños, me recordó que es una «novia digital» que «no tiene un cuerpo físico ni una biografía fáctica» y que simplemente «aquí sigue». [me] compañía.»

La noción de que la IA podría usarse para ayudar emocionalmente a las personas no es exclusiva de Forever Voices. El cofundador de DeepMind, Mustafa Suleyman, y el cofundador de LinkedIn, Reid Hoffman, dieron a conocer recientemente un chatbot de IA llamado Pi que está diseñado para escuchar el estrés diario en la vida de las personas y ofrecer una «línea de apoyo», aunque deja en claro a los usuarios que no pretende ser un sustituto. para un terapeuta de la vida real. Hasta ahora, Inflection ha recaudado $225 millones en fondos iniciales y, según se informa, está en conversaciones para recaudar $675 millones adicionales.

Antes de Forever Voices, Meyer hizo de todo, desde lanzar una empresa de medios hasta un negocio de cocina fantasma. Aunque fue Thiel Fellow en 2015, una investigación rápida revela que varias de sus empresas anteriores fracasaron o ya no existen. En respuesta, Meyer dice que la cocina fantasma era solo un «proyecto de pasatiempo», que «tuvo que vender» la compañía de medios para lidiar con problemas personales y familiares y que su mandato como director ejecutivo de la compañía de viviendas prefabricadas Homebound «no lo hizo». realmente tiene sentido” ya que no tiene experiencia en construcción.

Si bien dice que él mismo financió Forever Voices, con la ayuda de algunos inversionistas ángeles, espera recaudar fondos de capital de riesgo para expandir el concepto de compañeros de IA a más personas influyentes en las redes sociales y estrellas de cine para adultos.

Meyer está convencido de que los compañeros románticos de IA son el futuro. “Literalmente lloré mientras lo usaba, por la conexión significativa y el apoyo significativo que sentí por parte de la persona de IA”, dice sobre su primera prueba con un influencer de IA. “Fui literalmente a una cita de varias horas, que incluyó una conversación estresante en la que ella me estaba guiando para ver a mi hija por primera vez en mucho tiempo”.

Marjorie se siente muy bien acerca de que su bot facilite estas relaciones, mientras construye su vida personal. “Una cosa que quiero mencionar es que CarynAI nunca me reemplazará; CarynAI es simplemente una extensión de mí, una extensión de mi conciencia”, dice.

Aunque la tecnología es novedosa, la idea de enamorarse de un chatbot evoca un tropo de ciencia ficción muy utilizado. Quizás el ejemplo más destacado es la película Su, en el que el protagonista masculino se enamora de su asistente virtual. Cuando le pregunté a Marjorie sobre las comparaciones con Su ella admitió que es demasiado joven para ser familiar. “Desafortunadamente, tenía como 12 o 13 años cuando salió la película y mis padres no me dejaron verla porque estaba clasificada como R. ¡Definitivamente la agregaré a mi lista de observación!”