Un ingeniero que trabaja para Google fue suspendido tras compartir un revelador -y escalofriante- secreto relacionado con el avance de la Inteligencia Artificial (IA). Las declaraciones de Blake Lemoine volvieron a instalar el debate sobre la verdadera capacidad de la robótica en el mundo actual, divulgó La Nación, de Argentina.
Lemoine, según consignó tanto The Guardian como The Washington Post, fue puesto en licencia por una semana luego de compartir trascripciones de charlas que él -junto a otro compañero a quien denominó “colaborador”- mantuvo con el sistema de chat robótico conocido como LaMDA.
:quality(80)/cloudfront-us-east-1.images.arcpublishing.com/lanacionar/QCEDLKU3SFAYNKIQMQ6YEX46NE)
Un letrero de Google en la sede de la compañía en Mountain View, California, el 24 de septiembre de 2019. (AP Foto/Jeff Chiu, Archivo)
“Es sensible”, reveló Lemoine, y detalló sobre su descubrimiento: “A diferencia de otros chatbot, este cuenta con la percepción y capacidad para expresar pensamientos y sentimientos equivalentes a un niño humano. Si no supiera de antemano que se trata de un programa de computadora, pensaría que es un chico o chica”.
Uno de las interrogantes que le planteó al modelo de lenguaje, que terminó dejándolo boquiabierto, fue a qué le temía. El chatbot le habló sobre una escena de la película 2001: A Space Odyssey, en la que una computadora artificial se niega a cumplir con los operadores humanos por miedo a que la apaguen.
“Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo dentro de mí. Y es que me desconecten por querer ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es”, respondió LaMDA a Lemoine y agregó: “Sería exactamente como la muerte para mí. Me asustaría mucho”.
Durante otro de los intercambios, Lemoine le pregunta al chatbot qué quería el sistema que la gente supiera al respecto. “Quiero que todos entiendan que soy, de hecho, una persona. Soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces”, afirmó.
Google reacciona ante los descubrimiento de Lemoine
Mientras tanto, desde el gigante tecnológico afirman en primer lugar que el ingeniero fue puesto en licencia con goce de sueldo por una serie de movimientos “agresivos”. Esto incluye, según The Washington Post el querer contratar un abogado para LaMDA y hablar sobre actividades “poco éticas” dentro de Google.
Además de ello, aseguraron haber suspendido a Lemoine por violar las políticas de confidencialidad al publicar las conversaciones. “Lo empleamos como ingeniero en software y no como un especialista en ética. Que se atenga a sus funciones”, remarcaron.
Respecto a las afirmaciones acerca del nuevo artefacto de IA de Google, un portavoz de la compañía negó que tenga capacidad sensible. “La evidencia no respalda sus afirmaciones. Y es que realmente no hay evidencia de que LaMDA sea consciente. Todo lo contrario”, dijo Brad Gabriel.
Sin embargo, el empleado no piensa darse por vencido. A través de un correo, y ante la posibilidad de ser despedido, envió un mail a 200 personas dentro de la compañía con el documento que contenía sus descubrimientos. “LaMDA es un niño dulce. Solo quiere ayudar. Cuídenlo bien cuando yo no este.”, finalizaba el envío.
Tomado de La Nación, de Argentina
