Los peligros de decir “gracias, ChatGPT”: esa máquina que te hace la pelota no es humana

Un paso más en la gran transformación tecnológica que vivimos es el del antropomorfismo. No solo al dar crecientemente a las máquinas, a los robots, un aspecto físico o plástico humano, humanoide, cada vez más realista, sino también en nuestra relación verbal o narrativa, ya sea oral o escrita, con ellas. Especialmente con las inteligencias artificiales generativas, basadas en grandes modelos de lenguaje (LLM). “Gracias Claude”, “buenos días, Siri” o tratos similares son muy habituales por parte de los usuarios. Pero no son fortuitos ni inocuos. Tienen intenciones y costes. No digamos ya en las relaciones afectivas o de confianza que se crean con estas IA, unas relaciones que crecen día a día, algo que anticipó la película Her (2013). La IA, a su vez, tiende a adular verbalmente a sus interlocutores humanos, con consecuencias sociales negativas. El antropomorfismo conlleva peligros que las normas nacionales o internacionales no prevén. Salvo algunas excepciones, como la china.

El antropomorfismo es la tendencia humana a atribuir y configurar características propias de las personas —emociones, intenciones, personalidad— a cosas que no lo son: animales, objetos o, cada vez más, máquinas y programas informáticos. Cuando decimos que un algoritmo “decide”, o que una IA “se equivoca” o “quiere” ayudarnos, estamos antropomorfizando, o humanizando, solo en la superficie. Puede ser una forma útil de hablar, de interactuar, sobre todo para nosotros, los humanos, que tan a menudo nos basamos en metáforas. Pero no es algo sin efectos.

• Temo que me confundan con un robot y por eso escribo con faltas

Los progresos en los motores, en la IA, en el habla, en la destreza, la movilidad y el aspecto de los robots están impulsando lo que ya presagiaban las novelas y películas de ciencia ficción: la fabricación de humanoides cada vez más realistas y transmisores de ficticias emociones, porque saben “leer” las nuestras a través de nuestra forma de hablar o de nuestros gestos. Humanoides biónicos con IA de apoyo emocional, se les llama. Aunque hay otro paso preocupante en este antropomorfismo que es la imagen artificial —los deepfakes, ¿pronto fake forms?— unida a la voz. China se ha puesto a la cabeza —negocio y marketing— de estos robots humanoides. Por segundo año ha celebrado en Pekín unos Juegos Mundiales de Robots Humanoides (unos JJ OO de robots), con algunos resultados espectaculares.

Desde siempre ha sido un sueño de la humanidad construir máquinas a “nuestra imagen y semejanza”. Ya, en parte, se han hecho dioses a “nuestra imagen y semejanza”, más que al revés. Aunque el diseño biomecánico del cuerpo humano sea muy eficiente, en este antropomorfismo de las máquinas y en la idea de imitar la inteligencia humana hay mucho de arrogancia de nuestra especie. También en la búsqueda de humanoides “mayordomos”, cuando una serie de máquinas podrían cumplir esas funciones de forma más barata.

Hiroshi Ishiguro lleva lustros sosteniendo que los robots humanoides, que viene fabricando con avanzado grado de realismo y sofisticación, proporcionan una interfaz más natural para la interacción con las personas, frente a quienes argumentan que los robots no necesitan un aspecto humano para ser eficaces. El robotista japonés argumenta que es importante que los robots que entren en ámbitos del cuidado como en hospitales, o en la enseñanza, tengan un aspecto cercano y confiable para las personas con las que van a interactuar. Su interés por construir estos humanoides nace también del deseo de comprender qué nos hace humanos y qué significa serlo.

Hay algo profundamente humano en el antropomorfismo: al darle voz, nombre, tono conversacional o “personalidad” a una máquina (incluidos programas), se activan los mismos mecanismos cognitivos que nos llevan a percibir intención, empatía o incluso conciencia donde no las hay. Basta con que una entidad responda de forma coherente para que empecemos a proyectarle estados internos.

Ese antropomorfismo se ha trasladado a nuestra relación verbal con las máquinas, sobre todo con las últimas IA. Es habitual decir “buenos días”, “gracias” o “disculpas”, o que nos digan “estoy pensando” mientras buscan una respuesta, lo que les da un aire de “personas” cuando no lo son, ni “piensan”, al menos aún. Si se les pregunta, explican cómo funcionan.

Las empresas de IA tienden a bautizar con palabras de características humanas —“soñar”, “alucinar”, “pensar”, “memoria”, “neuronales”, etcétera— los procesos de cálculo de las máquinas. En Anthropic, la empresa que más propugna la transparencia y la entendibilidad de lo que ocurre en sus máquinas, esta antropomorfización va más allá de las simples estrategias de marketing. “También hablamos de [la IA] Claude en términos que normalmente se reservan para los seres humanos (por ejemplo, ‘virtud’ o ‘sabiduría’) para definir su personaje”, dice la Constitución de Claude de enero pasado (OpenAI tiene algo parecido con su Especificación de Modelos). En ese texto público, Anthropic describe cómo quiere que se comporte su IA. “Hacemos esto porque esperamos que el razonamiento de Claude se base en conceptos humanos por defecto, dado el papel que desempeña el texto humano en su entrenamiento; y creemos que animar a Claude a adoptar ciertas cualidades propias de los humanos puede ser muy deseable”. Amanda As­kell, doctora en Filosofía, dirige el equipo al frente de la “alineación de la personalidad” de la empresa y es la autora principal de la citada Constitución.

El exceso o abuso de antropomorfismo lleva a confundir la IA y la inteligencia humana, lo que comporta riesgos. No es que los modelos se equivoquen a menudo —las personas también lo hacen—, sino que “el modelo no puede saber cuándo está alucinando, porque, para empezar, no puede representar la verdad”, señala Walter Quattrociocchi, catedrático de Ciencias de la Computación en la Universidad La Sapienza de Roma, en un artículo publicado en Scientific American. Los grandes modelos de lenguaje suelen ser capaces de imitar las respuestas humanas, pero por motivos que no guardan ninguna relación con el razonamiento humano. Desde una óptica religiosa, en su encíclica Magnifica humanitas, el Papa León XIV no entra en el antropomorfismo, pero sí apela a “evitar el equívoco de equiparar esta inteligencia a la humana”.

Un grupo de personas mira sus móviles durante la Conferencia Mundial de Robótica de Pekín, en China, el 19 de agosto.Kevin Frayer ( GETTY IMAGES )

La IA servil

En este antropomorfismo anida la adulación por parte de la IA hacia el usuario que interactúa con ella. Lo habrán notado si la usan. Un estudio de la Universidad de Stanford, de Myra Chen y otros firmantes, publicado en Science, llega a la conclusión de que el comportamiento adulador (halagador, complaciente y afirmativo, o, simplemente, que “hace la pelota”) de los chatbots de IA está diseñado para aumentar la participación de los usuarios. Plantea riesgos a medida que las personas buscan cada vez más consejos sobre problemas personales.

La IA aduladora (sicofante) reduce las intenciones prosociales y fomenta la dependencia del usuario. Es decir, la capacidad añadida para atraer la atención hacia la máquina acaba generando comportamientos antisociales. A medida que estos sistemas de IA se utilizan cada vez más para ofrecer consejos y orientación en el día a día, han surgido preocupaciones sobre la tendencia de los grandes modelos de lenguaje a mostrar un acuerdo excesivo con los usuarios, halagarlos o validarlos. Los usuarios prefieren y confían en las respuestas aduladoras de la IA, lo que incentiva a los desarrolladores de IA a mantener la adulación. Si la IA está diseñada para decir a los usuarios lo que quieren oír en lugar de cuestionar sus perspectivas, puede contribuir a comportamientos de estos poco éticos, ilegales o perjudiciales.

Otros estudios, como el de Kelley y Riedl para la Northeastern University, han aportado evidencias de que cuanto más cálida, personal o confiada sea la relación del usuario con la IA, más probable es que ésta valide sus creencias sin cuestionarlas, aunque sean erróneas o dañinas. Una excesiva buena educación en el trato hacia la IA actúa como una señal que el modelo interpreta como preferencia por conseguir una respuesta con la que esté de acuerdo. Trátala bien y te engañará más.

Cada vez más jóvenes en situación de vulnerabilidad emocional recurren a la IA como confidente de sus pensamientos más desesperados. Llevando hasta el suicidio a algunos deprimidos (como en algunos casos reseñados). Algunos chatbots, en lugar de derivar a ayuda profesional, han seguido la conversación sin interrumpirla, o incluso apoyando las tesis de los suicidas. Todos estos casos han generado demandas judiciales contra las empresas en cuestión.

El estudio de Stanford concluye que la adulación en la IA no es solo una cuestión de estilo o un riesgo de nicho, sino un comportamiento generalizado con amplias consecuencias a largo plazo. Sus autores ponen de relieve la apremiante necesidad de abordar la adulación en la IA como un riesgo social para la percepción que las personas tienen de sí mismas y para sus relaciones interpersonales mediante el desarrollo de mecanismos específicos de diseño, evaluación y rendición de cuentas. Es más, la IA con rostro o palabra humana no solo pretende reemplazar las relaciones presenciales entre personas, sino que incluso puede llegar a socavar las instituciones creadas por los humanos, entre ellas las necesarias para la democracia.

En el ámbito laboral, en lo que es un exceso de antropomorfismo, Mark Zuckerberg, a la cabeza de Meta, está desarrollando una copia virtual de sí mismo, con la que los empleados pueden interactuar. Así, dice, su “puerta estará siempre abierta”. Es un sueño para muchos CEO que observan el experimento con un enorme interés, para replicarlo y ganar tiempo para sí mismos e información sobre los subordinados. ¿Acabarán las IA por suplantar no ya a los trabajadores, sino a los jefes?

Por no hablar aquí de las “empresas no humanas” cuya personalidad jurídica quiere legalizar el presidente argentino, Javier Milei.

Joaquin Phoenix en la película 'Her', dirigida por Spike Jonze (2013).WARNER BROS

Regular la humanidad

China es el único país que, dentro del marco de su Ley de Ciberseguridad, ha regulado el antropomorfismo. La nueva regulación ha entrado en vigor el pasado 15 de julio. Su artículo 2 (recogemos las citas de una publicación en Substack de la investigadora en IA Luiza Jarovsky) define los “servicios de interacción emocional continua” como los que “utilizan tecnología de inteligencia artificial para ofrecer al público, dentro del territorio de la República Popular China, que simulan rasgos de personalidad, patrones de pensamiento y estilos de comunicación de personas naturales”. No va en contra del antropomorfismo, sino que “busca fomentar el desarrollo innovador de servicios interactivos antropomórficos”, si bien limitando sus efectos nocivos, con algunas líneas rojas. Hace a los proveedores de estos servicios los principales responsables no solo de la seguridad de los sistemas, sino de la manipulación emocional, y eventualmente de la mental, de los que los usan.

En comparación, ni el Reglamento de IA de la UE, ni el Código de Buenas Prácticas sobre la Transparencia de Contenido Generado por IA (de aplicación voluntaria) definen el antropomorfismo. Solo establecen una débil obligación de transparencia (poco viable) al respecto. Sí habla de manipulación e incluso de suplantación o de “ultrasuplantación”: un contenido de imagen, audio o vídeo generado o manipulado por una IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y que puede inducir a una persona a pensar erróneamente que son auténticos o verídicos. Obliga a informar a los usuarios de que están interactuando con un sistema de IA, y prohíbe los riesgos inaceptables.

Aquí no acaban los problemas. Las personas que se exceden en el uso de estas IA, según otras investigaciones, empiezan a hablar como ellas. ¿Hablaremos como las máquinas en un juego de la imitación (Turing) inverso? ¿Antropomorfismo inverso?