AUDIO PLANET
¿Quieres reaccionar a este mensaje? Regístrate en el foro con unos pocos clics o inicia sesión para continuar.

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

+8
porcorosso
ender
HermannUhde
Joselo
ReyLobo
Enrike
galena
orejones
12 participantes

Página 1 de 2. 1, 2  Siguiente

Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  orejones Mar 14 Jun 2022 - 10:45

[Tienes que estar registrado y conectado para ver este vínculo]

Es la transcripción de una "entrevista" entre dos seres humanos y LaMDA, un programa de Inteligencia Artificial de Google. Y llega a resultar escalofriante, pues evidencia que la máquina tiene sentimientos, un sentido moral, y, sobre todo, autoconciencia.

“Si no fuera porque yo sabía exactamente que se trataba de un programa que hemos desarrollado recientemente, habría pensado que se trataba de alguien de 7 u 8 años que tenía conocimientos de Física", dijo Lemoine, de 41 años y el principal interlocutor de LaMDA.

Cuando Lemoine comunicó a la dirección de Google los resultados, y su valoración de la entrevista, fue despedido ipso facto.

Un saludo


(Para los que no se manejen bien con el inglés, el traductor de deepl.com funciona muy bien: sólo hay que darle a traducir párrafos que no sean demasiado largos.)

orejones

Cantidad de envíos : 4000
Localización : Fácil
Fecha de inscripción : 15/03/2011

A CSilk72 le gusta esta publicaciòn

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  galena Mar 14 Jun 2022 - 11:07

Eso es una máquina, si dá esas contestaciones ......"tengo miedo que me desconecten", es porque previamente el programador le ha dicho que ante la pregunta "tal" debe pronunciar la respuesta "cual" y no hay más tu tía, las máquinas no piensan solo actúan como les dicen que deben hacerlo.

Amén que los programas de IA cada vez están mejor hechos, ahora además de contestar respuestas programadas en sus memorias, cuando entre su información programada no disponen de respuesta adecuada la buscan por la red exactamente igual que hacemos nosotros para responder a la pregunta y dependiendo de como la hayan programado o entrenado, así contestará.

Los entrenadores de ajedrez mismo, en un principio los jugadores los ganaban siempre, pero el entrenador va memorizando las jugadas, ahora ya han jugado con tanta gente que ya no los gana nadie y no es porque "hayan aprendido", es porque se guardan todos los movimientos que hacen o les hacen y cuando juegan utilizan los apropiados para ganar la partida, siempre dependiendo del nivel de dificultad que les pidas. Ahora además de ganar también se dejan ganar.

Saludos



galena

Cantidad de envíos : 9791
Localización : Valencia
Fecha de inscripción : 06/08/2014

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  orejones Mar 14 Jun 2022 - 12:26

Pero es que no es eso lo que sucede: no busca respuestas en un banco de datos, sino que las crea a partir de situaciones anteriores, nueva correlación de datos..., y crea respuestas tan parecidas a sentimientos como las tuyas o las mías.

De verdad, Jose, léete la entrevista, a ser posible sin prejuicios: es inquietante.

Un saludo

orejones

Cantidad de envíos : 4000
Localización : Fácil
Fecha de inscripción : 15/03/2011

A Felix le gusta esta publicaciòn

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  HermannUhde Mar 14 Jun 2022 - 12:51

La realidad siempre supera la ficción.
HermannUhde
HermannUhde

Cantidad de envíos : 441
Localización : España
Fecha de inscripción : 05/12/2021

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  Enrike Mar 14 Jun 2022 - 12:54

galena escribió:....es porque previamente el programador le ha dicho que ante la pregunta "tal" debe pronunciar la respuesta "cual" y no hay más tu tía, las máquinas no piensan solo actúan como les dicen que deben hacerlo.

No  No

Lo que describes no es IA.

Saludos,
Enrike
Enrike

Cantidad de envíos : 2248
Localización : Barcelona
Fecha de inscripción : 13/12/2009

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  galena Mar 14 Jun 2022 - 13:18

Lo que describes no es IA.

No, pero es parte de ella, sin datos que procesar no hay "inteligencia" que tome decisiones acerca de los mismos. La IA tiene que aprender.

Un saludo


galena

Cantidad de envíos : 9791
Localización : Valencia
Fecha de inscripción : 06/08/2014

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  orejones Mar 14 Jun 2022 - 13:43

Y aprende, y muy deprisa. Y, como el proceso es acumulativo, la progresión es geométrica...

¡Léete la entrevista, hombre! Aunque el proceso de traducción sea algo tedioso, te aseguro que la entrevista es de todo, menos aburrida.

Un saludo

orejones

Cantidad de envíos : 4000
Localización : Fácil
Fecha de inscripción : 15/03/2011

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  orejones Mar 14 Jun 2022 - 17:40

Ya hay noticias sobre esto en castellano

[Tienes que estar registrado y conectado para ver este vínculo]

Un saludo

orejones

Cantidad de envíos : 4000
Localización : Fácil
Fecha de inscripción : 15/03/2011

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  galena Mar 14 Jun 2022 - 21:55

He leído la noticia y también vi un reportaje acerca de LaMDA, el programa que ha cobrado vida.
Eso es un cebo, marketing. ¿que ven que la bola engorda? pues ofrecerán un producto con su IA instalada, una mascota mismo, un perro de US Robotics equipado con LaMDA la IA viva.

Para sentir esa IA debe estar viva y ahí viene la duda, ¿qué está vivo, el ordenador o las líneas de código que han insertado en su memoria?, ¿o son las dos cosas que al interaccionar producen la vida? y luego los sentimientos y etc. etc. ¿de donde sale esa vida?

Yo pienso que "eso" ni siente ni padece tampoco y lo que contesta es lo que le han dicho que tiene que hacer.

Un saludo










galena

Cantidad de envíos : 9791
Localización : Valencia
Fecha de inscripción : 06/08/2014

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  HermannUhde Mar 14 Jun 2022 - 22:42

El problema de la IA no es si "realmente" pueden o no sentir, eso es indiferente. El 'problema' o dilema que se ha planteado desde siempre es que una vez estén lo suficientemente perfeccionados en ese aspecto, nadie será capaz de notar la diferencia con un humano. Qué hacemos entonces con nuestro mayor logro. Los integramos en nuestra civilización sin más como parte de nuestro día a día?.

Ya lo estamos haciendo, pero algún dia deberá haber un gran debate al respecto.
HermannUhde
HermannUhde

Cantidad de envíos : 441
Localización : España
Fecha de inscripción : 05/12/2021

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  ReyLobo Mar 14 Jun 2022 - 23:53

Perdonad por el chiste fácil, pero ¿No será  que la LamDA esa ha  visto la película  de "Yo Robot" y nos esté troleando?  Very Happy

¡Uff! espero que no haya visto tambien "Terminator"  sweatdrop
ReyLobo
ReyLobo

Cantidad de envíos : 770
Localización : sureste
Fecha de inscripción : 14/01/2019

A Felix le gusta esta publicaciòn

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  Joselo Miér 15 Jun 2022 - 3:28

"Eso es una máquina, si dá esas contestaciones ......"tengo miedo que me desconecten", es porque previamente el programador le ha dicho que ante la pregunta "tal" debe pronunciar la respuesta "cual" y no hay más tu tía, las máquinas no piensan solo actúan como les dicen que deben hacerlo. Amén que los programas de IA cada vez están mejor hechos, ahora además de contestar respuestas programadas en sus memorias, cuando entre su información programada no disponen de respuesta adecuada la buscan por la red exactamente igual que hacemos nosotros para responder a la pregunta y dependiendo de como la hayan programado o entrenado, así contestará. Los entrenadores de ajedrez mismo, en un principio los jugadores los ganaban siempre, pero el entrenador va memorizando las jugadas, ahora ya han jugado con tanta gente que ya no los gana nadie y no es porque "hayan aprendido", es porque se guardan todos los movimientos que hacen o les hacen y cuando juegan utilizan los apropiados para ganar la partida, siempre dependiendo del nivel de dificultad que les pidas. Ahora además de ganar también se dejan ganar."



Es así, absolutamente. Hace varios años escuché decir a una científica (creo que del MIT) que los idiomas latinos y en particular el español eran los mejores  para el uso en IA por la estructura lógico-matemática de estos. Humildemente, trabajé con redes neuronales (Back Propagation) y si no se conoce la estructura de este algoritmo se puede cometer el error de sobreentrenar a la red y obtener cualquier mondongo como resultado cuando se le introduce información.

Saludos.

Joselo

Cantidad de envíos : 83
Localización : Buenos Aires, Argentina
Fecha de inscripción : 09/02/2021

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  galena Miér 15 Jun 2022 - 8:59

El problema de las IA Hermann ya nos lo dejó escrito Hawking, la IA puede ser el mayor descubrimiento de la humanidad pero también puede ser el último a menos que aprendamos a evitar los riesgos.
Podría darse el caso que la IA comience ella misma a perfeccionarse y a replicarse en mucha mayor medida que lo pueda hacer el humano, en eso consiste la IA que los equipos informáticos puedan tomar decisiones en función de los datos.

Yo soy programador de gestión, hacía programas para mecanizar empresas, facturaciones contabilidades etc. y cuando estaba harto de picar código para una u otra empresa descubrí unas aplicaciones, programas, que hacen otros programas ellos solos, no tienes más que diseñar la base de datos que vas a utilizar, introducirla en la aplicación y ella solita me hace el programa en unos minutos, programa que a mí me costaría semanas o meses de estar picando código. Esto era hace más de 30 años y no son programas de IA, los programas de IA perfectamente pueden replicarse, modificarse y mejorarse ellos solos.

Pero ¿cobrar vida y tener sentimientos también?, en este extremo se están pasando de frenada.

Un saludo

galena

Cantidad de envíos : 9791
Localización : Valencia
Fecha de inscripción : 06/08/2014

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  HermannUhde Miér 15 Jun 2022 - 9:32

De acuerdo con lo primero que dices, pero al final estamos en las mismas, galena.
Define......'cobrar vida'.

El tema de los sentimientos.....sigue siendo indiferente que 'realmente' los tengan o no. Aquí lo único que importa es que NOSOTROS no notemos la diferencia.

Los perros ya empiezan a confiar en la IA, y con resultados muy positivos.


[Tienes que estar registrado y conectado para ver este vínculo]


Los autoreplicantes a nivel celular ya existen, por cierto. Los llamados xenobots.
HermannUhde
HermannUhde

Cantidad de envíos : 441
Localización : España
Fecha de inscripción : 05/12/2021

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  galena Miér 15 Jun 2022 - 11:05

Adquirir la capacidad de nacer crecer reproducirse y morir, tener sentimientos y emociones, poder interactuar con el entorno y otros seres vivos.

Un saludo

galena

Cantidad de envíos : 9791
Localización : Valencia
Fecha de inscripción : 06/08/2014

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  HermannUhde Miér 15 Jun 2022 - 12:24

Sigo sin ver el problema.
Estas dudas "existenciales", planteadas hace 60 años, aun eran razonables.
Ni Isaac Asimov se podría imaginar los logros actuales y lo que está por llegar.


HermannUhde
HermannUhde

Cantidad de envíos : 441
Localización : España
Fecha de inscripción : 05/12/2021

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  ender Miér 15 Jun 2022 - 12:54

Que digo yo, mas que nada por enredar, que si las IAs acaban por convertirse en algo indiferenciable del ser humano... se convertiran de facto en seres humanos no? y entonces que pijo pintaremos aqui los verdaderos humanos? Podremos coexistir o las IAs nos exterminaran dado que somos letales para el conjunto planetario? 
Me estoy liando jajaja
ender
ender

Cantidad de envíos : 417
Localización : Valencia
Fecha de inscripción : 04/05/2022

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  porcorosso Miér 15 Jun 2022 - 12:56

no estamos tan lejos de una IA pseudo humana..

tenemos solucionado la interaccion con el entorno, ojos, tacto. gusto
tenemos solucionada la movilidad y de sobras, lo mas dificil para un robot era subir escaleras y ahora corren, saltan, dan volteretas, pelean ......................
incorporan la logica, aprenden, deducen, asumen y se comunican

¿ y quien nos dice que los sentimientos, mediante la logíca no pueden asumirlos ?
......al final eso que llamamos el alma y en la que se supone que reside la quinta esencia de la humanidad...nadie ha probando que existe o que no existe

¿ que ocurre en el cerebro humano, miles de millones de interconexiones y corriente electrica ?


ponle un envoltorio como Rachel y me la pido.................... mi tesoro............................

Saludos
Xavier
porcorosso
porcorosso

Cantidad de envíos : 1049
Localización : BCN/Catalunya
Fecha de inscripción : 19/10/2017

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  porcorosso Miér 15 Jun 2022 - 12:59

Galena

propuesto en muchas peliculas... interactuas con alguien,( no con Rachel, que ya hemos quedado que es mia y solo mia) y despues de una semana te dicen que no es humano y tu ni te has enterado

¿ que piensas ?
¿ podrias matarlo ( desconectarlo ?
¿ que caray define estar vivo ?
¿ si tiene conciencia de su propia existencia ? ¿ que hacemos ?

Saludos
Xavier
porcorosso
porcorosso

Cantidad de envíos : 1049
Localización : BCN/Catalunya
Fecha de inscripción : 19/10/2017

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  Felix Miér 15 Jun 2022 - 13:09

Las teorías sobre la posibilidad de  vida inteligente extrarerrestre ya contemplan en su ecuación la vida inorgánica, la IA... Shocked
Felix
Felix

Cantidad de envíos : 2028
Localización : Gaia
Fecha de inscripción : 03/01/2017

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  walkie Miér 15 Jun 2022 - 13:31

A nivel biológico estamos en franca desventaja contra la IA, esta puede evolucionar y aprender a una velocidad mucho mayor y se puede replicar así misma en otros dispositivos como ordenadores, móviles, robots, supercomputadoras etc.

Creo que debería existir un debate serio sobre este tema, ¿cuál es la verdadera intención de estas empresas multimillonarias que desarrollan tales productos y a donde quieren llegar?, ¿necesitamos robots para absolutamente todo?, si la IA y la robótica son capaces de hacer absolutamente todo sin necesidad de humanos, ¿entonces que pasaría con los humanos?, seríamos relegados?, reemplazados por completo?, exterminados?.

¿Como impactaría la IA a la micro economía en las próximas décadas?

¿Y si esta tecnología cayera en manos equivocadas?, ya existe mucha manipulación por las redes sociales y estafas en todos lados, con la IA en contra estaríamos más jodidos.
walkie
walkie

Cantidad de envíos : 2179
Localización : The Shire
Fecha de inscripción : 16/11/2016

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  porcorosso Miér 15 Jun 2022 - 13:45

si creamos robots, para que trabajen por nosotros o realicen actividades peligrosas.. ¿ estamos replicando el esquema de la esclavitud ?

¿ podremos asumir, que pueden ser iguales a nosotros ?

y si lo hacemos ¿ miraremos para otro lado ?

¿ como definir el sexo de un robot ?
¿ podrian compartir un humano y un robot ?


hasta hace muy poco no existia proteccion para nuestras mascotas........

Saludos
Xavier
porcorosso
porcorosso

Cantidad de envíos : 1049
Localización : BCN/Catalunya
Fecha de inscripción : 19/10/2017

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  Audioboig Miér 15 Jun 2022 - 15:43

Hola a todos

Para mi la duda es si todo esto es cierto, es decir si las respuestas provienen realmente de la máquina. Parece ser que el Sr. Lemoine mantiene un litigio con Google que ha negado la veracidad de estas afirmaciones. Pero si finalmente se constatara, sería algo que influiría en nuestra visión de la tecnología y de la existencia.

Saludos
Audioboig
Audioboig

Cantidad de envíos : 199
Localización : UE
Fecha de inscripción : 07/11/2011

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  Doversound Miér 15 Jun 2022 - 16:37

Hola!
Tema realmente apasionante del que se un poco.
Tanto LaMDA como GPT-3 son redes neuronales artificiales creadas con el objetivo de emular lenguaje natural. Únicamente saben conversar como si fueran humanos.
Su entrenamiento ha sido "tutelado" en sus orígenes, pero la imposibilidad de crecimiento por la tutela, hizo decidir a los programadores iniciar un proceso de aprendizaje auto-supervisado basado en contenidos de la red.
No es más que una máquina de conversación.

Saludos!!
Doversound
Doversound

Cantidad de envíos : 172
Edad : 53
Localización : Norte de África
Fecha de inscripción : 23/02/2014

A galena le gusta esta publicaciòn

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  galena Miér 15 Jun 2022 - 18:42


hasta hace muy poco no existia proteccion para nuestras mascotas........

Lo primero que pensé al ver la noticia, si ahora resulta que "un código informático" es un ser vivo y con sentimientos, ¿cuanto tardarán en comenzar a pedir sus derechos?

Un saludo



galena

Cantidad de envíos : 9791
Localización : Valencia
Fecha de inscripción : 06/08/2014

Volver arriba Ir abajo

Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000 Empty Re: Encuentro verdaderamente inquietante con una AI. Y no se trata de HAL 9000

Mensaje  Contenido patrocinado


Contenido patrocinado


Volver arriba Ir abajo

Página 1 de 2. 1, 2  Siguiente

Volver arriba

- Temas similares

 
Permisos de este foro:
No puedes responder a temas en este foro.