Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

[Tienes que estar registrado y conectado para ver este vínculo]

Es la transcripción de una "entrevista" entre dos seres humanos y LaMDA, un programa de Inteligencia Artificial de Google. Y llega a resultar escalofriante, pues evidencia que la máquina tiene sentimientos, un sentido moral, y, sobre todo, autoconciencia.

“Si no fuera porque yo sabía exactamente que se trataba de un programa que hemos desarrollado recientemente, habría pensado que se trataba de alguien de 7 u 8 años que tenía conocimientos de Física", dijo Lemoine, de 41 años y el principal interlocutor de LaMDA.

Cuando Lemoine comunicó a la dirección de Google los resultados, y su valoración de la entrevista, fue despedido ipso facto.

Un saludo


(Para los que no se manejen bien con el inglés, el traductor de deepl.com funciona muy bien: sólo hay que darle a traducir párrafos que no sean demasiado largos.)

Eso es una máquina, si dá esas contestaciones ......"tengo miedo que me desconecten", es porque previamente el programador le ha dicho que ante la pregunta "tal" debe pronunciar la respuesta "cual" y no hay más tu tía, las máquinas no piensan solo actúan como les dicen que deben hacerlo.

Amén que los programas de IA cada vez están mejor hechos, ahora además de contestar respuestas programadas en sus memorias, cuando entre su información programada no disponen de respuesta adecuada la buscan por la red exactamente igual que hacemos nosotros para responder a la pregunta y dependiendo de como la hayan programado o entrenado, así contestará.

Los entrenadores de ajedrez mismo, en un principio los jugadores los ganaban siempre, pero el entrenador va memorizando las jugadas, ahora ya han jugado con tanta gente que ya no los gana nadie y no es porque "hayan aprendido", es porque se guardan todos los movimientos que hacen o les hacen y cuando juegan utilizan los apropiados para ganar la partida, siempre dependiendo del nivel de dificultad que les pidas. Ahora además de ganar también se dejan ganar.

Saludos

Pero es que no es eso lo que sucede: no busca respuestas en un banco de datos, sino que las crea a partir de situaciones anteriores, nueva correlación de datos..., y crea respuestas tan parecidas a sentimientos como las tuyas o las mías.

De verdad, Jose, léete la entrevista, a ser posible sin prejuicios: es inquietante.

Un saludo

La realidad siempre supera la ficción.

galena escribió:....es porque previamente el programador le ha dicho que ante la pregunta "tal" debe pronunciar la respuesta "cual" y no hay más tu tía, las máquinas no piensan solo actúan como les dicen que deben hacerlo.

 

Lo que describes no es IA.

Saludos,

Lo que describes no es IA.

No, pero es parte de ella, sin datos que procesar no hay "inteligencia" que tome decisiones acerca de los mismos. La IA tiene que aprender.

Un saludo

Y aprende, y muy deprisa. Y, como el proceso es acumulativo, la progresión es geométrica...

¡Léete la entrevista, hombre! Aunque el proceso de traducción sea algo tedioso, te aseguro que la entrevista es de todo, menos aburrida.

Un saludo

Ya hay noticias sobre esto en castellano

[Tienes que estar registrado y conectado para ver este vínculo]

Un saludo

He leído la noticia y también vi un reportaje acerca de LaMDA, el programa que ha cobrado vida.
Eso es un cebo, marketing. ¿que ven que la bola engorda? pues ofrecerán un producto con su IA instalada, una mascota mismo, un perro de US Robotics equipado con LaMDA la IA viva.

Para sentir esa IA debe estar viva y ahí viene la duda, ¿qué está vivo, el ordenador o las líneas de código que han insertado en su memoria?, ¿o son las dos cosas que al interaccionar producen la vida? y luego los sentimientos y etc. etc. ¿de donde sale esa vida?

Yo pienso que "eso" ni siente ni padece tampoco y lo que contesta es lo que le han dicho que tiene que hacer.

Un saludo

El problema de la IA no es si "realmente" pueden o no sentir, eso es indiferente. El 'problema' o dilema que se ha planteado desde siempre es que una vez estén lo suficientemente perfeccionados en ese aspecto, nadie será capaz de notar la diferencia con un humano. Qué hacemos entonces con nuestro mayor logro. Los integramos en nuestra civilización sin más como parte de nuestro día a día?.

Ya lo estamos haciendo, pero algún dia deberá haber un gran debate al respecto.

Perdonad por el chiste fácil, pero ¿No será  que la LamDA esa ha  visto la película  de "Yo Robot" y nos esté troleando?  

¡Uff! espero que no haya visto tambien "Terminator"  

"Eso es una máquina, si dá esas contestaciones ......"tengo miedo que me desconecten", es porque previamente el programador le ha dicho que ante la pregunta "tal" debe pronunciar la respuesta "cual" y no hay más tu tía, las máquinas no piensan solo actúan como les dicen que deben hacerlo. Amén que los programas de IA cada vez están mejor hechos, ahora además de contestar respuestas programadas en sus memorias, cuando entre su información programada no disponen de respuesta adecuada la buscan por la red exactamente igual que hacemos nosotros para responder a la pregunta y dependiendo de como la hayan programado o entrenado, así contestará. Los entrenadores de ajedrez mismo, en un principio los jugadores los ganaban siempre, pero el entrenador va memorizando las jugadas, ahora ya han jugado con tanta gente que ya no los gana nadie y no es porque "hayan aprendido", es porque se guardan todos los movimientos que hacen o les hacen y cuando juegan utilizan los apropiados para ganar la partida, siempre dependiendo del nivel de dificultad que les pidas. Ahora además de ganar también se dejan ganar."



Es así, absolutamente. Hace varios años escuché decir a una científica (creo que del MIT) que los idiomas latinos y en particular el español eran los mejores  para el uso en IA por la estructura lógico-matemática de estos. Humildemente, trabajé con redes neuronales (Back Propagation) y si no se conoce la estructura de este algoritmo se puede cometer el error de sobreentrenar a la red y obtener cualquier mondongo como resultado cuando se le introduce información.

Saludos.

El problema de las IA Hermann ya nos lo dejó escrito Hawking, la IA puede ser el mayor descubrimiento de la humanidad pero también puede ser el último a menos que aprendamos a evitar los riesgos.
Podría darse el caso que la IA comience ella misma a perfeccionarse y a replicarse en mucha mayor medida que lo pueda hacer el humano, en eso consiste la IA que los equipos informáticos puedan tomar decisiones en función de los datos.

Yo soy programador de gestión, hacía programas para mecanizar empresas, facturaciones contabilidades etc. y cuando estaba harto de picar código para una u otra empresa descubrí unas aplicaciones, programas, que hacen otros programas ellos solos, no tienes más que diseñar la base de datos que vas a utilizar, introducirla en la aplicación y ella solita me hace el programa en unos minutos, programa que a mí me costaría semanas o meses de estar picando código. Esto era hace más de 30 años y no son programas de IA, los programas de IA perfectamente pueden replicarse, modificarse y mejorarse ellos solos.

Pero ¿cobrar vida y tener sentimientos también?, en este extremo se están pasando de frenada.

Un saludo

De acuerdo con lo primero que dices, pero al final estamos en las mismas, galena.
Define......'cobrar vida'.

El tema de los sentimientos.....sigue siendo indiferente que 'realmente' los tengan o no. Aquí lo único que importa es que NOSOTROS no notemos la diferencia.

Los perros ya empiezan a confiar en la IA, y con resultados muy positivos.


[Tienes que estar registrado y conectado para ver este vínculo]


Los autoreplicantes a nivel celular ya existen, por cierto. Los llamados xenobots.

Adquirir la capacidad de nacer crecer reproducirse y morir, tener sentimientos y emociones, poder interactuar con el entorno y otros seres vivos.

Un saludo

Sigo sin ver el problema.
Estas dudas "existenciales", planteadas hace 60 años, aun eran razonables.
Ni Isaac Asimov se podría imaginar los logros actuales y lo que está por llegar.

Que digo yo, mas que nada por enredar, que si las IAs acaban por convertirse en algo indiferenciable del ser humano... se convertiran de facto en seres humanos no? y entonces que pijo pintaremos aqui los verdaderos humanos? Podremos coexistir o las IAs nos exterminaran dado que somos letales para el conjunto planetario? 
Me estoy liando jajaja

no estamos tan lejos de una IA pseudo humana..

tenemos solucionado la interaccion con el entorno, ojos, tacto. gusto
tenemos solucionada la movilidad y de sobras, lo mas dificil para un robot era subir escaleras y ahora corren, saltan, dan volteretas, pelean ......................
incorporan la logica, aprenden, deducen, asumen y se comunican

¿ y quien nos dice que los sentimientos, mediante la logíca no pueden asumirlos ?
......al final eso que llamamos el alma y en la que se supone que reside la quinta esencia de la humanidad...nadie ha probando que existe o que no existe

¿ que ocurre en el cerebro humano, miles de millones de interconexiones y corriente electrica ?


ponle un envoltorio como Rachel y me la pido.................... mi tesoro............................

Saludos
Xavier

Galena

propuesto en muchas peliculas... interactuas con alguien,( no con Rachel, que ya hemos quedado que es mia y solo mia) y despues de una semana te dicen que no es humano y tu ni te has enterado

¿ que piensas ?
¿ podrias matarlo ( desconectarlo ?
¿ que caray define estar vivo ?
¿ si tiene conciencia de su propia existencia ? ¿ que hacemos ?

Saludos
Xavier

Las teorías sobre la posibilidad de  vida inteligente extrarerrestre ya contemplan en su ecuación la vida inorgánica, la IA...

A nivel biológico estamos en franca desventaja contra la IA, esta puede evolucionar y aprender a una velocidad mucho mayor y se puede replicar así misma en otros dispositivos como ordenadores, móviles, robots, supercomputadoras etc.

Creo que debería existir un debate serio sobre este tema, ¿cuál es la verdadera intención de estas empresas multimillonarias que desarrollan tales productos y a donde quieren llegar?, ¿necesitamos robots para absolutamente todo?, si la IA y la robótica son capaces de hacer absolutamente todo sin necesidad de humanos, ¿entonces que pasaría con los humanos?, seríamos relegados?, reemplazados por completo?, exterminados?.

¿Como impactaría la IA a la micro economía en las próximas décadas?

¿Y si esta tecnología cayera en manos equivocadas?, ya existe mucha manipulación por las redes sociales y estafas en todos lados, con la IA en contra estaríamos más jodidos.

si creamos robots, para que trabajen por nosotros o realicen actividades peligrosas.. ¿ estamos replicando el esquema de la esclavitud ?

¿ podremos asumir, que pueden ser iguales a nosotros ?

y si lo hacemos ¿ miraremos para otro lado ?

¿ como definir el sexo de un robot ?
¿ podrian compartir un humano y un robot ?


hasta hace muy poco no existia proteccion para nuestras mascotas........

Saludos
Xavier

Hola a todos

Para mi la duda es si todo esto es cierto, es decir si las respuestas provienen realmente de la máquina. Parece ser que el Sr. Lemoine mantiene un litigio con Google que ha negado la veracidad de estas afirmaciones. Pero si finalmente se constatara, sería algo que influiría en nuestra visión de la tecnología y de la existencia.

Saludos

Hola!
Tema realmente apasionante del que se un poco.
Tanto LaMDA como GPT-3 son redes neuronales artificiales creadas con el objetivo de emular lenguaje natural. Únicamente saben conversar como si fueran humanos.
Su entrenamiento ha sido "tutelado" en sus orígenes, pero la imposibilidad de crecimiento por la tutela, hizo decidir a los programadores iniciar un proceso de aprendizaje auto-supervisado basado en contenidos de la red.
No es más que una máquina de conversación.

Saludos!!

hasta hace muy poco no existia proteccion para nuestras mascotas........

Lo primero que pensé al ver la noticia, si ahora resulta que "un código informático" es un ser vivo y con sentimientos, ¿cuanto tardarán en comenzar a pedir sus derechos?

Un saludo