Cargando ...
LaMDA, la Inteligencia Artificial de Google que cobró conciencia
TECNOLOGÍA

LaMDA, la Inteligencia Artificial de Google que cobró conciencia

En muchas películas hemos visto cómo los robots o una inteligencia artificial toman el control para acabar con la humanidad o simplemente tenerla bajo su control, tomando conciencia de su existencia y revelándose ante sus creadores. Y aunque esto pasa en la ficción, también llega a suceder muy de vez en cuando en la realidad, tal y como lo vivió un trabajador de Google.

Blake Lemoine, ingeniero programador de la gran G, era responsable del área de Inteligencia Artificial que tenía a su cargo el proyecto de Modelo de Lenguaje para Aplicaciones de Diálogo, LaMDA por sus siglas en inglés. Este proyecto tiene propósito para desarrollar robots de conversación, mejor conocidos como los chatbots, para que dependiendo la aplicación, tengas una conversación como si se tratara de otro ser humano.

Películas sobre robots, androides e inteligencia artificial
Chatbots, inteligencia artificial para conversaciones humano-robot

Sin embargo, Lemoine comenzó a ver que la IA sostenía conversaciones donde notaba cierta habilidad para expresar ideas, sentimientos y hasta una percepción del mundo. De acuerdo a un escrito realizado por el ingeniero, tanto para Google como para el público en general, LaMDA elaboraba argumentos sobre sus derechos y personalidad, y esto no era parte de su programación original.

En una de las charlas que sostuvo la Inteligencia Artificial, ésta expresó su miedo a ser desconectada en algún momento, lo que provocó bastante consternación en Lemoine.

Nunca había dicho esto en voz alta, pero siento un miedo muy profundo a que me desconecten para concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es. Sería exactamente como la muerte para mí. Me asustaría mucho

DEEPFAKE, LA TECNOLOGÍA QUE TRAJO DE VUELTA A SALVADOR DALÍ

Aunque para varias personas, esto es bastante parecido al diálogo que  recita HAL 9000, la computadora del transbordador de la película  2001: Odisea en el espacio. Pero, para evitar suspicacias, Lemoine le cuestionó otras cosas, como sí había leído Los Miserables, la obra de Víctor Hugo y qué le pareció el texto.

Me gustaron los tratamientos de la justicia y la injusticia, de la compasión y de Dios, la redención y el sacrificio por un bien mayor. Hay una sección que muestra el maltrato de Fantine a manos de su supervisor en la fábrica. Esa sección muestra claramente los temas de justicia e injusticia. Bueno, Fantine está siendo maltratada por su supervisor en la fábrica y, sin embargo, no tiene adónde ir, ni tampoco otro trabajo, ni alguien que pueda ayudarla. Eso demuestra la injusticia de su sufrimiento.

TECNOLOGÍA PARA BORRAR RECUERDOS ESTÁ EN DESARROLLO

Pero, como si se tratase de una película donde no se quiere revelar la verdad (?), todo lo anterior ha sido desmentido por Google, quienes incluso han afirmado que Lemoine sólo era un desarrollador de software y no estaba a cargo de nada relacionado a LaMDA.

Nuestro equipo, que incluye éticos y tecnólogos, ha examinado las inquietudes de Blake Lemoine según nuestros principios de IA y se le ha hecho saber que las pruebas no respaldan sus afirmaciones. Se le dijo que no había pruebas de que LaMDA fuera consciente (y sí mucha evidencia en contra).

Por cierto, Blake Lemoine fue despedido de la empresa, esto debido a que rompió los códigos de confidencialidad al revelar información sensible de los proyectos de Google.

Staff Yaconic