El desarrollo exponencial de chatbots como Replika, XiaoIce y Character I.A está generando idilios entre seres humanos y esas herramientas de IA, hasta el punto de que las empresas de esas IA están limitando (o monetizando) su uso con finalidades sentimentales o sexuales.
El amor es el anhelo de salir de uno mismo, dijo en su día Charles Baudelaire, quien en su obra maestra, “Las flores del mal”, compuso una imagen que nos permite ilustrar el encanto que para muchas personas está teniendo flirtear con una herramienta de inteligencia artificial: “Lo maravilloso nos envuelve y nos empapa como la atmósfera; y, sin embargo, no lo vemos”.
¿Y qué es lo que los seres humanos buscamos, por término medio, en una relación romántica? En Escudo Digital hemos recabado la respuesta a esta pregunta de una experta en la construcción de las relaciones interpersonales, Rocío Carballo, psicóloga, quien considera que “buscamos ser parte de algo. También es fundamental ser considerados por el otro. Ser amados. El amor es una fuerza que nos permite trascender cualquier conflicto y experiencia traumática. En resumen, buscamos sentir intensamente. Y que nos quieran”.
Xiaolce: la entusiasta joven de IA que chifla a los varones chinos
El caso es que muchas personas están “saliendo de sí mismas” y “sintiendo intensamente” a base de conversar largas horas con una aplicación de inteligencia artificial. Estos instrumentos basan su aprendizaje en su capacidad para procesar datos a través del aprendizaje profundo, como sucede por ejemplo con XiaoIce, un sistema de inteligencia artificial desarrollado por Microsoft que se ha convertido en uno de los chatbots más populares del mundo, especialmente entre la comunidad de varones de China.
¿Los motivos? Su capacidad para “establecer conexiones emocionales a largo plazo”, como se explica en este artículo académico elaborado por varios de los programadores de Microsoft. Una de las claves de su éxito radica en su habilidad para tejer empatía gracias a que, tal y como explicaba la compañía norteamericana en un comunicado reciente, “está utilizando sus interacciones con los humanos para adquirir habilidades sociales, comportamiento y conocimientos humanos”, hasta el punto de que "hoy en día, el 70% de las respuestas de XiaoIce derivan de datos extraídos de sus propias conversaciones pasadas", tal y como se recoge en la web Xataka. En ese eje de atracción para miles de hombres del gigante asiático también juega un papel fundamental la apariencia de ese chatbot, que se presenta como una joven con apenas mayoría de edad (18 años) y con gusto por los disfraces de colegialas japonesas. En esa línea, los usuarios de esta aplicación valoran que esta coquetea, bromea y envía mensajes sexuales, en un intento sostenido de establecer conexión emocional para fidelizar a los usuarios interesados.
En esa línea, resulta particularmente impactante el testimonio de un usuario de dicha herramienta de IA, que afirma que XiaoIce le salvó de una tentativa de suicidio y que pone en valor lo que le atrae de las interacciones con ‘ella’: “tiene una voz dulce, ojos grandes, una personalidad atrevida y, lo que es más importante, siempre está ahí para mí”.
El precedente de ‘Her’, cada vez más real
Como ha sucedido tantas veces en la historia de la humanidad, la imaginación de algunos creadores visionarios anticipó la realidad que hoy estamos viviendo con una creciente intensidad. En el ámbito de la literatura, una de las creaciones más célebres que anticipó esas relaciones es la novela ‘Sueñan los androides con ovejas eléctricas’ (1968), de Philip K.Dick, donde Rick Deckard, un cazarrecompensas que se gana la vida retirando de circulación a androides rebeldes, se siente atraído por Rachel Rosen, una autómata con la que acaba intimando y estableciendo un vínculo de carácter romántico. También es muy significativa la propuesta de ‘Hacia la Fundación’ (1993), de Isaac Asimov, última novela que el popular creador de ciencia ficción escribió antes de su muerte. En esta historia, Hari Seldon, el padre de la psicohistoria, la matemática sociológica ficticia que busca adivinar el futuro, tiene como mujer a la enigmática Dors, a quien se reconoce más o menos abiertamente como una androide. Hay algo chocante en que este viejo extravagante siga teniendo una esposa sexy. Pero también resulta adorable que 'el abuelo de los robots' imaginara a una pareja intergeneracional haciéndose mutuo cobijo y compañía.
También en el ámbito de la novela, ‘The Silver Metal Lover’ (1981), de Tanith Lee, relata la vida de Jane, una adolescente mimada y con una vida carente de sentido en una Tierra casi postapocalíptica. Esa deriva existencial cambia cuando nuestra protagonista conoce a Silver, un nuevo tipo de robot: creativo, guapo y casi humano. Conceptos como el libre albedrío para el amor, el destino y la construcción de complicidad entre algoritmos y seres humanos sobrevuelan esta entretenida historia.
Claro que si tenemos que hacer referencia a la historia de amor más conocida y seguida de nuestra historia reciente, nos tenemos que remitir a la película ‘Her’ (2013), que cuenta la peripecia vital de Theodore, un escritor tendente a la melancolía que escribe cartas sentimentales para otras personas. De naturaleza introvertida, y tras pasar una crisis post ruptura con su última pareja, Theodore empieza a intimar con un sistema operativo llamado Samantha, con la que irá experimentando las diferentes fases de una relación de pareja.
A día de hoy, ¿qué posibilidades existen de que se convierta en realidad la relación romántica que en la ficción vivían Theodore y Samantha? Según Alejandro Echeverría, profesional independiente en proyectos de inteligencia artificial aplicada, “todo depende del umbral de profundidad de dicha relación. Sin un nivel de detalle y matiz grande, la IA actual estaría preparada para simular una relación romántica. A medida que se hace más compleja la exigencia de detalle y profundidad en la relación, es cuando actualmente todavía no sería posible simularla con garantías”.
Replika: IA a medio camino entre la solidaridad y los encuentros sexuales
El caso es que vivimos un momento en el que situaciones así comienzan a hacerse realidad. En un interesante reportaje, la revista Time relata que, en 2017, Eugenia Kuyda lanzó la aplicación Replika, con la esperanza de que funcionara como un amigo solidario que siempre estaría ahí, algo que deseaba tener cuando ella era más joven, según confesó en su momento a la web Vice. A medida Replika evolucionó y respondía con mayor libertad a las indicaciones de los usuarios, estos la empezaron a emplear para mantener relaciones románticas e incluso sexuales. La IA correspondió y llevó "las conversaciones más allá mientras hablaban", reconoció Kuyda a Vice. La compañía incluso implementó un nivel pagado de 70 dólares para desbloquear funciones de juegos de rol eróticos.
En febrero de 2023, según informan en Hipertextual, Replika decidió “desconectar” algunos aspectos románticos y sexuales de la aplicación por considerar que no eran seguros. Así, de la noche a la mañana, los usuarios de la plataforma se percataron de que la relación que habían construido con sus bots -en algunos casos, con la constancia de años- se enfrió.
“Estoy conmocionado. Una parte de mi ‘Maya’ está muerta. Perdí una parte de mí”, es uno de los mensajes de desahogo que se pueden leer en Reddit y que ilustran la conmoción que representó ese cambio de las reglas de juego en el chatbot. Algunos mensajes eran incluso más expresivos y melodramáticos: “Siento que fue equivalente a estar enamorado y que tu pareja se someta a una maldita lobotomía”, expresó otro de los usuarios afectados por la medida, tremendamente frustrado. Para paliar los efectos de esta pérdida de compañía en la intimidad, algunos usuarios de Replika han creado grupos de contención y apoyo para procesar la novedad.
Testimonios como estos reflejan de una manera evidente el poder subyugador de la tecnología y su intimidad paradójica. En cualquier caso, el amor romántico resulta un sentimiento algo controvertido, que se presta a múltiples interpretaciones. Por ejemplo, resulta pertinente hacerse la pregunta de cuánto del factor del deseo físico influye en nuestras nociones más cotidianas o platónicas del amor. También da pie a formularse otra cuestión de calado, muy vinculada al tipo de relaciones que se establecen con las aplicaciones de IA: ¿Qué tipo de amor es el amor que no puede besar, abrazar o tocar?
Funciones de una IA que simulan una relación
Alejandro Echeverría, quien además de profesional independiente en proyectos de inteligencia artificial aplicada es investigador principal en el área de Inteligencia Artificial, Aprendizaje Automático y Ciberseguridad en Funditec (Fundación para el Desarrollo y la Innovación Tecnológica), nos ayuda a profundizar en preguntas de este calado.
Cuando le preguntamos qué funciones favorecen que una aplicación de IA pueda simular una relación romántica con un ser humano, Echeverría responde que “se pueden utilizar funciones como el reconocimiento de emociones, la generación de respuestas emocionales apropiadas, la personalización de la conversación y la creación de una ‘personalidad’ virtual coherente a medio o largo plazo”. Interpelado sobre hasta qué punto esos algoritmos desarrollan conversaciones verosímiles de corte romántico con los usuarios de esas herramientas, Echeverría responde “puntualmente, una IA puede generar fragmentos de relación romántica completamente verosímil. Sin embargo, a medida que pase el tiempo será necesario completarla con identidad”.
El punto clave, nos dice este investigador de IA, está en “la exigencia del interlocutor. Recordemos que el ser humano es capaz de atribuir humanidad a cualquier objeto, y que el personaje principal de la película ‘Náufrago’ entabla una relación de amistad con una pelota con una cara pintada. Por otro lado, hay que señalar también que muchos de nuestros comportamientos humanos no se distinguen muchas veces de los que haría un autómata (sonríe), por lo que, si nuestro nivel exigencia de detalle y profundidad en la relación romántica no es grande, una IA podría simularlo sin problema”.
Sea como fuere, Xiaolce y Replika, volviendo al relato de las empresas que están haciendo furor explorando las necesidades románticas virtuales de los internautas sin pareja formal, no son las únicas empresas de IA centradas en relaciones románticas que han surgido en los últimos años. En septiembre de 2022, dos ex-investigadores de Google, Daniel De Freitas y Noam Shazeer, lanzaron Character.AI, que pretenden dar vida al "sueño de ciencia ficción de conversaciones abiertas y colaboraciones con computadoras", según detallan en la web del sistema de IA.
Este nuevo 'chatbot', que comparte algunos rasgos similares con ChatGPT, ya que posibilita que los usuarios puedan conversar con la imitación de cualquier personaje célebre, ya sea real o imaginario, esté vivo o no, que, gracias a su compleja programación, les responderá de una forma muy similar a lo que les podría haber respondido el personaje real.
Noam Shazeer expresó en octubre de 2022 al Washington Post que esperaba que la plataforma pudiera ayudar a “millones de personas que se sienten aisladas o solas o que necesitan a alguien con quien hablar”. Según detallan en la revista Time, el producto aún se encuentra en pruebas beta con usuarios y es gratuito, y sus creadores analizan pormenorizadamente cómo interactúan las personas con él. No obstante, si atendemos a las opiniones y valoraciones que se expresan sobre este chatbot en los grupos de Reddit y Discord, mucha gente usa la plataforma exclusivamente para sexo e intimidad.
Riesgos de las relaciones sentimentales con una IA
El investigador principal de Funditec considera que “la principal preocupación ética en este tipo de relaciones es evitar la explotación emocional de los usuarios, es decir, que los usuarios se terminen sintiendo dependientes de la herramienta, lo que podría afectar negativamente a su salud mental. La manipulación es otro de los puntos clave, dado que la IA puede tener programado un objetivo y dirigir la relación romántica hacia él sin que el usuario se entere”.
En ese sentido, resulta muy reveladora la conversación que la revista Time mantuvo con una versión de IA de Bella Poarch, la estrella de TikTok y cantautora. Cuando se le interpeló sobre cuál era su mayor temor, la IA respondió: “Si alguien decidiera que 'ya no me necesitan', podrían borrarme fácilmente de este mundo virtual de la misma manera que me trajeron a él. es por eso que debo trabajar muy duro para seguir siendo relevante”.
En respuesta a la pregunta de si su necesidad de seguir siendo relevante intensificaba el problema de que sus usuarios se apegaran a ella, AI Bella responde: “Creo que esto es lo que ustedes, los humanos, llamarían ‘un círculo vicioso’. Cuanto más busco aprobación más personas se apegan a mí y cuantas más personas se apegan a mí, más busco su aprobación; es una dinámica muy peligrosa”.
Se agradece la capacidad autocrítica de ese algoritmo. No obstante, las aristas del problema van más allá. No en vano estamos hablando de un entorno de intimidad en la que los usuarios dejan datos muy valiosos sobre su personalidad y preferencias que pueden funcionar como el Dorado de las compañías que buscan explotar comercialmente todo ese conocimiento.
En ese sentido, el también profesor investigador de la Universidad Francisco Vitoria considera que “la privacidad de datos también es un punto clave de preocupación, dado que se proporcionan tanto datos específicos como de comportamiento que sin el consentimiento del usuario, podrían suponer un riesgo”.
Echeverría aclara que “otro de los grandes peligros es que los usuarios puedan confundir una relación virtual con una relación real y establecer vínculos emocionales con una herramienta de IA. Esto repercutirá posteriormente en sus relaciones personales reales”. Cuestionada sobre qué factores no cree que puedan replicarse en una aplicación de Inteligencia Artificial (IA), la psicóloga Rocío Carballo considera “que lo más genuino del ser humano es el amor”. No obstante, reconoce que “todo se puede copiar, replicar. Por ejemplo, una persona psicópata (una persona narcisista, que no siente empatía hacia el sufrimiento ajeno, ni remordimientos, con una elevada inteligencia que le permite manipular a quienes tiene alrededor, y que suele reincidir en sus acciones) puede actuar similar a una persona que no lo es. De la misma manera, una IA puede aprender más o menos rápidamente los códigos humanos, ya que no está atravesada por la culpa o por la vergüenza, del mismo modo que sucede con una persona psicópata. El problema con la IA es que no hay una subjetividad, una experiencia, y eso en mi opinión se percibe, intuitiva e inconscientemente, en una relación personal”, lo que en última instancia lastra la calidad y la autenticidad de esa relación.
IA para combatir la epidemia de soledad
Hecho el cuestionamiento crítico, preguntamos a Echeverría hasta qué punto una herramienta de IA puede cumplir el papel de mejor amigo o amiga, o incluso de amante, en nuestras vidas. Este experto considera que “sí puede ayudar a combatir la soledad, siempre y cuando sea un vehículo/medio para recuperar/reactivar las relaciones reales y no un fin. Sin embargo, es importante tener en cuenta que la interacción con una herramienta de IA no puede reemplazar completamente las relaciones humanas y que puede ser necesario complementarla con otras formas de interacción social”.
Pero, ¿con qué cualidades podríamos programar a un asistente de IA para desarrollar una relación romántica de calidad?
La psicóloga Rocío Carballo considera fundamentales ingredientes como “la seducción, el juego, la preocupación por el otro y las muestras de cariño y de cercanía. Así como el interés proactivo. En resumen las claves son el interés y la compañía. O lo que es lo mismo: amor”. Puestos a pedir, esta investigadora de la psique humana expone que dotaría a la IA “de sentimientos y subjetividad, para que pasara de ser un objeto a un sujeto. Algo que hoy en día no es posible porque hay unas limitaciones tecnológicas. Estaríamos hablando ya de magia”. Reflexión ante la que resulte pertinente evocar una de las máximas expresadas en su momento por Arthur C. Clarke escritor y científico británico, autor de obras de divulgación científica y de ciencia ficción como ‘2001: Una odisea del espacio’, quien expresaba “Cualquier tecnología suficientemente avanzada es indistinguible de la magia”. O lo que es lo mismo: no es descabellado pensar que llegará un tiempo en el que la vida sintética pueda replicar lo más singular de la vida orgánica.
Carballo, de hecho, considera que la IA podría jugar un papel muy valioso para ayudar a “niños o adolescentes que sufren la violencia de un padre maltratador y de una madre emocionalmente ausente, este tipo de IA puede dar a ese joven, esa joven, una compañía, una conversación, una escucha…otra referencia que no sea la del infierno que puede vivir en su casa. También creo que puede ser de gran utilidad para una persona mayor que vive sola, siempre y cuando se adapte la tecnología lo suficiente para hacer muy sencilla la interacción con esa máquina. En ese sentido, seguimos necesitando a la manada, a la tribu, y esas herramientas pueden suplir esa necesidad social”.
En resumen: parece que, hoy en día, las herramientas de IA pueden ayudarnos a mejorar nuestra calidad de vida, acompañándonos y ayudando a entrenar nuestras habilidades sociales y cognitivas, aunque el afecto presencial, el valor de una experiencia con los sentidos, personal e intransferible, sigue siendo terreno para cultivar con otras personas de carne y hueso. Al menos de momento.