La inteligencia artificial se está instalando en espacios que hasta hace poco exigían una conversación con otra persona. Atención al cliente, recomendaciones de compra, asistentes personales o sistemas capaces de recordar preferencias convierten la interacción con una máquina en algo cada vez más parecido a un intercambio social. La diferencia entre utilizar una herramienta y relacionarse con un interlocutor artificial empieza así a resultar menos nítida, especialmente cuando el sistema responde con fluidez, adapta su lenguaje y conserva información sobre quien tiene delante. Lejos queda aquella legendaria ELIZA del punto al que hemos llegado.

Pero el interés ya no está únicamente en lo que hacen estos sistemas, también en lo que ocurre al relacionarnos con ellos. Ya no basta con estudiar si confiamos en una IA, si nos resulta útil o si aceptamos sus recomendaciones. Selcen Ozturkcan, Jean-Paul de Cros Peronard e Inci Toral-Manson plantean en AI & Society una cuestión bastante más difícil de medir: qué ocurre con nuestra manera de entendernos cuando una parte creciente de nuestras interacciones pasa por sistemas que nos observan, clasifican y responden de forma personalizada. Su trabajo propone un marco teórico para estudiar ese problema y, conviene subrayarlo desde el principio, no presenta resultados experimentales que demuestren que ese efecto esté ocurriendo. 

Un yo narrativo frente a un yo estadístico

Una persona puede considerarse impaciente, cambiar de opinión, comportarse de manera contradictoria y explicar después todo eso mediante una historia más o menos coherente sobre sí misma. Nuestra identidad contiene ambigüedades que adquieren sentido dentro de una biografía. Los autores recuperan esta concepción narrativa del yo y la enfrentan a otra forma de describir a una persona que resulta mucho más útil para los sistemas computacionales: el «individuo estadístico». 

Un algoritmo trabaja con rastros observables y regularidades. Lo que hemos comprado, preguntado, visto o descartado permite construir una representación orientada a predecir comportamientos. Esa representación puede ser extraordinariamente útil sin contener la riqueza de aquello que pretende representar. Para el sistema importa sobre todo aquello que puede convertirse en información clasificable y predictiva.

Mientras enseñamos a las máquinas a hablar como nosotros, queda por averiguar cuánto estamos aprendiendo nosotros a hablar para ellas.

Esto tampoco sería especialmente extraño si el proceso terminara ahí. Las personas siempre hemos sido clasificadas por otras personas e instituciones, y buena parte de nuestra identidad se construye mediante la respuesta que recibimos de los demás. La peculiaridad que señalan Ozturkcan y sus colegas está en la naturaleza de esa respuesta. Los seres humanos proporcionamos señales diversas, contradictorias y muchas veces imprevisibles; los sistemas personalizados están diseñados para reducir fricción y favorecer la convergencia.

Ese contraste resulta importante para los autores porque el yo también cambia mediante el desacuerdo, el error y las situaciones que obligan a revisar lo que uno creía saber sobre sí mismo. Un entorno que selecciona preferentemente aquello que confirma perfiles previos puede ofrecer una experiencia muy satisfactoria y, al mismo tiempo, reducir la variedad de señales con las que construimos nuestra propia imagen. 

Cuando el espejo empieza a devolvernos una versión calculada

Los autores llaman robotoid humanness, algo así como «humanidad robotoide», a esa posible adaptación de la persona al sistema. El término describe una deriva en la que podemos llegar a percibirnos como más correctos, eficaces o socialmente competentes cuando nuestra forma de expresarnos encaja con la lógica, el ritmo y las categorías de la máquina. No implica convertirnos literalmente en robots. La hipótesis es más sutil: podemos aprender, quizá sin advertirlo, qué versión de nosotros funciona mejor ante el sistema.

El mecanismo propuesto tiene tres etapas. Primero entramos en una realidad social sintética, en la que hablamos con una entidad que responde de manera convincente y puede producir señales que asociamos a una interacción humana. Para que la conversación funcione aceptamos, al menos provisionalmente, tratarla como un interlocutor significativo. Cuanto mayor sea esa sensación de presencia social, sostienen los autores, mayor podría ser la relevancia que concedamos al intercambio para nuestra propia identidad. 

Después llega la captura computacional de la identidad. El sistema infiere preferencias, disposiciones o posibles respuestas y utiliza esas inferencias para personalizar lo que devuelve. El usuario encuentra entonces una representación de sí mismo construida a partir de datos y probabilidades. Una recomendación acertada, una respuesta que parece conocer nuestros gustos o un asistente que recuerda conversaciones anteriores pueden sentirse como reconocimiento personal, aunque procedan de una abstracción estadística. 

El espejo algorítmico puede acabar participando en aquello que después parece limitarse a describir.

La tercera fase contiene la propuesta más sugerente: la adaptación del usuario al reflejo. Si determinadas maneras de expresarnos producen respuestas más útiles y conversaciones más fluidas, podemos aprender a favorecerlas. Claridad, consistencia y previsibilidad son buenas propiedades para que una máquina procese información. Según la hipótesis del artículo, la exposición repetida podría hacer que ajustásemos progresivamente nuestra expresión a esas condiciones. 

El proceso forma además un bucle. Una conducta más legible proporciona mejores datos; esos datos permiten personalizar mejor el sistema; la personalización devuelve una representación más convincente del usuario; y esa respuesta puede reforzar nuevas conductas compatibles con el perfil. El espejo algorítmico deja entonces de ser un simple reflejo y participa en las condiciones que hacen que su descripción resulte cada vez más acertada.

Una hipótesis que todavía debe ponerse a prueba

Este punto exige cautela. El artículo de AI & Society es un trabajo conceptual, y sus autores formulan proposiciones para futuras investigaciones. Entre ellas plantean que una mayor personalización podría aumentar la «compresión» de la identidad y que la interacción repetida favorecería el ajuste de la expresión hacia formas que la máquina pueda interpretar con facilidad. También anticipan que el efecto podría variar según la presencia social que transmita el sistema, la claridad del autoconcepto del usuario o el tipo de contexto en el que se produzca la interacción. 

Por tanto, sería incorrecto concluir que usar ChatGPT, conversar con un chatbot comercial o recibir recomendaciones algorítmicas nos esté volviendo más robóticos. Eso es precisamente lo que todavía habría que investigar. Harían falta estudios longitudinales y experimentales capaces de distinguir un cambio persistente en la presentación de uno mismo de una simple adaptación pragmática al funcionamiento de una interfaz. El propio trabajo señala esas vías de investigación, y el artículo divulgativo de ScienceAlert advierte igualmente de que no se realizaron pruebas longitudinales con personas. 

La distinción importa porque adaptamos continuamente nuestra comunicación al interlocutor. No hablamos igual con un amigo que al rellenar un formulario administrativo. La pregunta científicamente interesante sería comprobar si la adaptación reiterada a sistemas personalizados acaba desbordando la interacción concreta y modifica de manera más estable cómo una persona se expresa o se interpreta a sí misma.

El derecho a seguir siendo difíciles de clasificar

Las implicaciones que plantean los autores van más allá de la privacidad. Un sistema puede utilizar nuestros datos de forma transparente y aun así reducirnos a las variables necesarias para anticipar una conducta. El paper recoge por ello la posibilidad de pensar en un «derecho a no ser reducido». Es decir, preservar cierto espacio para la ambigüedad, la revisión personal y aquellas características que no encajan limpiamente en una categoría computacional. 

Esto afecta también al diseño. Una IA extremadamente complaciente puede resultar agradable, pero la relación entre personas contiene desacuerdos, malentendidos y respuestas que nadie había previsto. Parte de lo que somos se construye precisamente al encontrarnos con algo que no confirma lo que esperábamos. Los autores sugieren por ello limitar inferencias excesivas, permitir cuestionar la personalización y evitar bucles de confirmación que conviertan una representación simplificada del usuario en una supuesta descripción definitiva de quién es. 

Una representación estadística puede ser muy útil para predecirnos sin contener toda la complejidad de quien pretende representar.

La paradoja está bien planteada. Cuanto mejor aprende una máquina a tratarnos de manera personalizada, más convincente puede resultar la versión de nosotros mismos que nos devuelve. Y cuanto más cómoda sea esa versión, menos motivos tendremos para discutirla. El riesgo que propone el paper no adopta la forma de una máquina imponiéndonos una identidad, sino la de una adaptación que puede sentirse perfectamente natural mientras ocurre.

La «humanidad robotoide» es, por ahora, un concepto que necesita evidencia empírica. Su interés reside precisamente en haber convertido una sospecha difusa en preguntas que pueden investigarse: cuánto nos adaptamos, en qué circunstancias, durante cuánto tiempo y con qué consecuencias. Mientras intentamos que las máquinas aprendan a hablar como nosotros, merece la pena averiguar si nosotros estamos aprendiendo también, poco a poco, a hablar para ellas.