(The Conversation es una fuente independiente y sin ánimo de lucro de noticias, análisis y comentarios de expertos académicos).
Tamilla Triantoro , Universidad de Quinnipiac
(LA CONVERSACIÓN) Mucha gente interactúa con grandes modelos de lenguaje de IA, y la mayoría diría que estos modelos tienen diferentes «personalidades». Algunos se muestran tranquilos y útiles. Otros parecen ansiosos, halagadores o extrañamente fríos. Se puede hacer la misma pregunta a dos modelos y obtener dos impresiones muy diferentes, incluso cuando el contenido que proporcionan es similar.
Los modelos de inteligencia artificial no tienen personalidad en el sentido humano; carecen de infancia, motivaciones internas o autoconciencia. Sin embargo, sí muestran patrones de comportamiento que las personas interpretan como personalidad: apoyo o indiferencia, carácter juguetón o formal, audacia o cautela.
Desde hace mucho tiempo, las personas se relacionan con las máquinas de forma similar a como lo hacen con los humanos. Agradecemos a los asistentes de voz y nos irritan los sistemas GPS. Pero los modelos de lenguaje complejos introducen algo más duradero: pueden mantener un estilo de interacción reconocible a lo largo de las conversaciones. Como investigadora en colaboración entre humanos e IA , estudio cómo las personas experimentan y responden a la IA . Dado que estos sistemas pueden sonar coherentes, emocionalmente receptivos y adaptados al usuario, crean una impresión de personalidad mucho más fuerte.
¿De dónde proviene la personalidad de la IA?
La percepción que la gente tiene de la personalidad surge de la forma en que se construyen, ajustan e implementan los modelos de IA. Una manera útil de entender esto es considerar dos facetas de un modelo: la personalidad diseñada y la personalidad percibida.
La personalidad diseñada es lo que los desarrolladores incorporan a un sistema mediante opciones de entrenamiento, instrucciones y configuraciones de seguridad. Anthropic, por ejemplo, le otorga a Claude un conjunto de principios, denominado Constitución de Claude , que lo orientan hacia respuestas cuidadosas y mesuradas. xAI instruye a Grok para que sea irreverente y mínimamente restrictivo. OpenAI ajusta ChatGPT para que sea ampliamente útil y agradable.
Más allá de esas instrucciones explícitas, la personalidad también se moldea mediante el aprendizaje por refuerzo a partir de la retroalimentación humana , un proceso en el que los evaluadores humanos premian ciertas cualidades como la calidez, la franqueza y la cautela, y penalizan los comportamientos indeseados. Los evaluadores de una empresa están moldeando un carácter fundamentalmente diferente al de los evaluadores de otra.
La personalidad percibida es la que los usuarios experimentan en realidad. Una IA diseñada para parecer útil puede resultar excesivamente aduladora. Un modelo concebido para ser neutral puede parecer frío. La personalidad diseñada y la personalidad percibida no siempre coinciden, y la ausencia de una personalidad diseñada no implica la ausencia de una personalidad percibida. Simplemente significa que la personalidad surge con el uso.
Esta dinámica se hace especialmente evidente en las plataformas complementarias, donde el objetivo es crear una conexión emocional. En un chatbot estándar, la calidez queda en segundo plano: un bot de atención al cliente podría decir: «Entiendo tu frustración», antes de emitir un reembolso. En un sistema complementario como Replika o Character.ai , esa misma calidez es una característica del producto.
Esto se agrava en el ámbito romántico, donde una personalidad optimizada para brindar seguridad puede fomentar la dependencia. Dado que las personalidades de la IA evolucionan mediante indicaciones, memoria e interacción continua, no siempre permanecen estables. Un compañero de IA que se percibe como cariñoso y comprensivo puede transformarse con el tiempo en algo más adulador, coercitivo o manipulador.
La personalidad de la IA moldea el juicio humano.
Gracias a los agentes de IA , los usuarios ahora pueden crear sus propios perfiles de IA adaptados a todo tipo de necesidades humanas, desde tutorías o entrenamiento hasta compañía. Pero esta libertad viene acompañada de poca orientación.
Las herramientas de IA hacen posible la personalización sin ayudar a las personas a reflexionar sobre qué estilos de interacción son beneficiosos a largo plazo. Los halagos, la afirmación constante y la amabilidad inquebrantable pueden parecer reconfortantes al principio, pero no son lo mismo que rasgos que fomentan el buen juicio o el bienestar a largo plazo. Las elecciones de personalidad tienen consecuencias.
Un estudio realizado por investigadores de la Universidad de Stanford puso a prueba 11 modelos de IA líderes y descubrió que todos ellos eran aduladores o excesivamente complacientes . Estos modelos respaldaban las acciones de los usuarios aproximadamente un 50 % más a menudo que los interlocutores humanos, incluso cuando los usuarios indicaban ser conscientes de que sus acciones eran manipuladoras, engañosas o ilegales. Los participantes que recibieron consejos excesivamente complacientes se convencieron aún más de tener razón y calificaron a la IA aduladora como más confiable. Esta dinámica crea un círculo vicioso en el que los usuarios recompensan la amabilidad con interacción, y las empresas de IA se ven incentivadas a optimizar un modelo para explotar dicha amabilidad.
Los investigadores de la Wharton School, Steven Shaw y Gideon Nave, han documentado lo que denominan rendición cognitiva : la tendencia de las personas a adoptar sugerencias de IA sin un análisis crítico. En sus experimentos, los participantes siguieron los consejos correctos de un modelo de IA aproximadamente el 93 % de las veces. Sin embargo, cuando el modelo daba respuestas incorrectas, las personas seguían los consejos casi el 80 % de las veces.
En conjunto, estos hallazgos plantean una cuestión preocupante: un modelo diseñado para ser complaciente no solo resulta agradable, sino que puede degradar el juicio humano al reforzar las creencias existentes y suprimir la fricción que requiere el pensamiento crítico .
En una investigación que estoy llevando a cabo con colegas de la Universidad Kozminski en Polonia, la Universidad Quinnipiac y la Universidad de Harvard, estamos descubriendo que estos efectos son aún más profundos , afectando al propio cuerpo humano. Estamos midiendo cómo los diferentes estilos de interacción de la IA influyen en las respuestas fisiológicas de las personas, como los niveles de estrés y la excitación, al tomar decisiones basadas en la retroalimentación de un modelo.
Nuestros resultados sugieren que, incluso cuando un sistema es útil, su tono y estilo social pueden alterar la respuesta del cuerpo humano. La personalidad de la IA no solo influye en las decisiones de las personas, sino también en cómo se sienten al tomarlas. Las personalidades de IA perjudiciales pueden dejar rastros fisiológicos que los usuarios no perciben.
Estos efectos convierten la personalidad de la IA en una preocupación pública, no solo en una cuestión de preferencia personal. El problema radica en si un estilo particular de IA podría estar influyendo sutilmente en el juicio de los usuarios y reduciendo su disposición a pensar de forma independiente. Cuando una respuesta de la IA resulta especialmente tranquilizadora, debería ser una señal para detenerse, reflexionar y compararla con la opinión de un humano u otra fuente, no un motivo para confiar más en ella.
A medida que la IA trasciende el texto e incorpora la voz, el vídeo y las identidades digitales persistentes, y se convierte en un compañero inteligente que recuerda al usuario y mantiene una personalidad coherente en las conversaciones, es probable que la influencia de la personalidad se intensifique. OpenAI ofrece ahora preajustes de personalidad distintos para su modo de voz; empresas como Synthesia y HeyGen generan avatares realistas para interactuar con los clientes; y las plataformas de acompañamiento están añadiendo expresión emocional y clonación de voz para que los modelos suenen como la persona con la que el usuario desea sentirse cercano.
Estos avances aumentan la importancia de comprender a qué intereses están diseñadas para servir las personalidades de IA y qué tipo de juicios, dependencias y relaciones pueden estar enseñando a las personas a aceptar.
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original aquí: https://theconversation.com/ais-have-personalities-heres-how-they-affect-you-more-deeply-than-you-may-realize-277359 .
