(The Conversation es una fuente independiente y sin ánimo de lucro de noticias, análisis y comentarios de expertos académicos).
András Molnar , Universidad de Michigan
(THE CONVERSATION) Dos nuevos experimentos demuestran que la mayoría de la gente ni siquiera considera la posibilidad de que un mensaje personal pueda ser generado por IA, incluso cuando ellos mismos utilizan inteligencia artificial para escribir.
Para ver cómo la gente juzga a alguien por su escritura en la era de ChatGPT , mi colega Jiaqi Zhu y yo reclutamos a más de 1300 participantes estadounidenses, de entre 18 y 84 años, y les mostramos mensajes generados por IA, como una disculpa enviada por correo electrónico. Dividimos a nuestros voluntarios en cuatro grupos: algunas personas vieron los mensajes sin información sobre quién o qué los escribió, como en la vida cotidiana. A otros se les dijo que los mensajes definitivamente habían sido escritos por un humano, definitivamente generados por IA, o que la fuente podía ser cualquiera de las dos.
Encontramos una clara “ penalización por divulgación de IA ”. Cuando las personas sabían que un mensaje había sido generado por IA, calificaban al remitente de forma mucho más negativa (“vago”, “poco sincero”, “falta de esfuerzo”) que cuando creían que el mismo texto había sido escrito por una persona (“genuino”, “agradecido”, “considerado”).
Pero aquí está el giro: los participantes a quienes no se les dijo nada sobre la autoría se formaron impresiones tan positivas como las de las personas a quienes se les dijo que los mensajes eran genuinamente humanos.
Esta total falta de escepticismo nos sorprendió y plantea nuevas preguntas. Quizás los participantes no estaban lo suficientemente familiarizados con la IA como para darse cuenta de que los modelos actuales pueden producir mensajes detallados y personalizados (y de hecho pueden ). O tal vez nunca habían usado IA ( es probable que sí ). Por lo tanto, también analizamos si el uso que los participantes hacían de la IA influía en su forma de juzgar a los remitentes.
Para nuestra sorpresa aún mayor, encontramos poco o ningún efecto. Las personas que usan IA generativa con bastante frecuencia en su vida diaria (al menos cada dos días) penalizaron el uso de IA ligeramente menos cuando se reveló la autoría de la IA, en comparación con las personas que nunca o rara vez usan IA. Pero los participantes no se mostraron más escépticos por defecto: cuando no se reveló la autoría, los usuarios intensivos de IA, los usuarios ocasionales de IA y los no usuarios tendieron a asumir que el texto había sido escrito por una persona y se formaron esencialmente las mismas impresiones.
Por qué es importante
La ausencia de escepticismo y de impresiones negativas es importante porque las personas emiten juicios sociales a partir de mensajes de texto constantemente. Quienes reciben un mensaje escrito consideran que el tiempo y el esfuerzo dedicados a enviarlo son una muestra de la sinceridad, autenticidad o competencia del remitente, y esas impresiones influyen en las decisiones que toman las personas en sus amistades, relaciones amorosas y trabajo.
Sin embargo, nuestros principales hallazgos revelan una sorprendente contradicción: la gente generalmente no sospecha del uso de la IA a menos que sea obvio . Esta falta de conciencia crea un dilema moral: quienes usan la IA en secreto pueden disfrutar de los beneficios sin correr prácticamente ningún riesgo de ser descubiertos. Mientras tanto, paradójicamente, quienes son transparentes y admiten usar la IA sufren un daño a su reputación .
Con el tiempo, la falta de escepticismo y conciencia podría transformar el significado de la escritura en la vida cotidiana. Los lectores podrían llegar a considerar la escritura como un indicador menos fiable del carácter o el esfuerzo de una persona, y en su lugar recurrir a otras formas de comunicación. Por ejemplo, el uso generalizado de la IA ya ha llevado a los empleadores a restar importancia a las cartas de presentación de los solicitantes de empleo . En su lugar, confían más en las recomendaciones personales del supervisor actual del candidato o en los contactos establecidos a través de redes profesionales.
¿Qué otras investigaciones se están llevando a cabo?
Otros investigadores han documentado una amplia gama de impresiones negativas sobre las personas que revelan el uso de IA. Los estudios demuestran que esto hace que los solicitantes de empleo parezcan menos atractivos y los empleados menos competentes . Los lectores de textos creativos perciben a los usuarios de IA como menos creativos y menos auténticos. Las disculpas personales y corporativas derivadas del uso de IA se consideran menos efectivas. En general, revelar el uso de IA disminuye la confianza y socava la legitimidad.
Sin embargo, aunque no se divulgue, existen pruebas claras de que la mayoría de las personas no pueden detectar de forma fiable el texto generado por IA, ni siquiera con la ayuda de herramientas de detección , especialmente cuando el texto es una mezcla de contenido escrito por humanos y generado por IA. Incluso cuando las personas confían en su capacidad para identificar texto generado por IA, su confianza puede no ser más que una ilusión autocomplaciente .
¿Qué sigue?
Aunque nuestros experimentos no revelaron sospechas sobre el uso de la IA, eso no significa que la gente nunca lo sospeche en la vida real. En algunos contextos, las personas ya pueden ser hipervigilantes respecto a la IA. Su uso en el ámbito académico es un ejemplo claro. En nuestros próximos estudios, queremos comprender cuándo y por qué las personas comienzan a sospechar del uso de la IA de forma natural, y qué factores desencadenan la transición entre la confianza y la duda.
Hasta entonces, si quieres que tu mensaje personal sea percibido como sincero, la estrategia más segura puede ser hacer una llamada telefónica, dejar un mensaje de voz o, mejor aún, decirlo en persona.
El Resumen de Investigación es una breve reseña de trabajos académicos interesantes.
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original aquí: https://theconversation.com/most-people-do-not-realize-when-a-personal-message-they-receive-was-written-by-ai-study-finds-278874 .
