[ DEBATE ] ¿Se nos van a ir las IA de las manos?

[Ivan1998]

Hoy os voy a proponer un tema "algo especial" y que creo que no se ha hablado en el foro.

Cada vez la inteligencia artificial hace cosas más impresionantes y aunque a día de hoy pueda parecer una chorrada no se sabe lo que puede deparar el futuro.

Hace unos años salió está noticia:

https://www.antena3.com/noticias/cie...9890ca022.html

Aunque finalmente no había sido del todo así:

https://www.larazon.es/tecnologia/20...br7rj2s3a.html

Vosotros que pensáis, en un futuro puede llegar a pasar como en las películas y que haya una rebelión de las IA/Robots o creéis que es imposible y nunca va a suceder.

[judabricot]

Ni entiendo de informatica, ni de IA, ni de robotica pero si a un programa le pone como limtes unos umbrales altos y bajos, no tiene porque salirse de esos limites.

[Juanro49]

En un futuro es probable que suceda, pero actualmente no existe tecnologÃ*a para que suceda un aprendizaje independiente mas allá de lo que le programes que haga

[Sr_Vash]

Pues me estoy planteando estudiar programación, así que... Puede que se me vaya a mí de las manos. XDDD

[NixxxoN]

La IA no existe ni es capaz de pensar ni de actuar por si sola, solo son algoritmos, es una máquina que hace lo que le dicen los programadores. Por lo tanto, no se puede "ir de las manos"

[jotinga]

Bueno, pues ahora mismo no es más q ciencia ficción. Además me preocupa más lo que un humano le puede programar hacer a una máquina que lo que pudiera "pensar" la máquina por si misma si fuera posible.

De todos modos, para los q niegan rotundamente, os recuerdo que la programación de las inteligencias artificiales no es como la programación clásica. Aquí no se trata de dar un algoritmo a la máquina y que lo resuelva. Aquí literalmente hablamos de dar unas normas y que la máquina aprenda a usarlas para conseguir un objetivo. Simplificando mucho, una IA que juegue al ajedrez se programa enseñando los movimientos permitidos y el objetivo. La computadora va haciendo miles de partidas contra humanos o contra sí misma, y a la fuerza bruta (no en todos los casos... Ojo q ahí está la clave) aprende a jugar a un nivel más que aceptable. Porqué no puede generar una jugada q no se haya pensado antes? Es totalmente factible.

Si lo trasladamos a las aplicaciones militares, q tarde o temprano se hará, si no se está haciendo ya... La obsesión de los países desarrollados es evitar víctimas en el frente. De ahí el uso de drones, q luego podrán ser máquinas o robots, y más adelante aún, robots alimentados por inteligencia artificial (así no hace falta q haya una persona por máquina)... Q decisiones podrán tomar? Cierto q siempre dentro de un límite, però el límite se debe establecer muy bien. Además... No todos los q tendrán acceso a esas tecnologías en el futuro tendrán la misma ética y creencias.

Bueno, ya se verá en, pongamos, 30 años, o 50... O...

[mataespesa]

 Cita: Originalmente Escrito por jotinga

Bueno, ya se verá en, pongamos, 30 años, o 50... O...

Bueno, en 30 ó 50 años, yo ya estaré calvo, así que ...

[ZaWoK]

Mientras no se mezcle la medicina con la IA y se desarrolle un cerebro autónomo, lo veo simplemente de ciencia ficción a día de hoy. Ahora bien, una IA programada para hacer según qué cosas dentro de una red y tener control sobre algo, sí. Pero siempre estaría dirigido por detrás por alguien que lo programa para ello y lo dota de esa capacidad.

[Ivan1998]

 Cita: Originalmente Escrito por jotinga

Bueno, pues ahora mismo no es más q ciencia ficción. Además me preocupa más lo que un humano le puede programar hacer a una máquina que lo que pudiera "pensar" la máquina por si misma si fuera posible.

De todos modos, para los q niegan rotundamente, os recuerdo que la programación de las inteligencias artificiales no es como la programación clásica. Aquí no se trata de dar un algoritmo a la máquina y que lo resuelva. Aquí literalmente hablamos de dar unas normas y que la máquina aprenda a usarlas para conseguir un objetivo. Simplificando mucho, una IA que juegue al ajedrez se programa enseñando los movimientos permitidos y el objetivo. La computadora va haciendo miles de partidas contra humanos o contra sí misma, y a la fuerza bruta (no en todos los casos... Ojo q ahí está la clave) aprende a jugar a un nivel más que aceptable. Porqué no puede generar una jugada q no se haya pensado antes? Es totalmente factible.

Si lo trasladamos a las aplicaciones militares, q tarde o temprano se hará, si no se está haciendo ya... La obsesión de los países desarrollados es evitar víctimas en el frente. De ahí el uso de drones, q luego podrán ser máquinas o robots, y más adelante aún, robots alimentados por inteligencia artificial (así no hace falta q haya una persona por máquina)... Q decisiones podrán tomar? Cierto q siempre dentro de un límite, però el límite se debe establecer muy bien. Además... No todos los q tendrán acceso a esas tecnologías en el futuro tendrán la misma ética y creencias.

Bueno, ya se verá en, pongamos, 30 años, o 50... O...

Opino igual, subscribo tu post de principio a fin.

[jorge_kai]

No sé si llegará un momento en el que haya una rebelión de las máquinas como sucede en Terminator, eso me parece algo exagerado. Pero lo cierto es que las cosas que hace una década parecían cienca ficción ya están llegando. ChatGPT es una prueba de ello. Sólo pensar cómo serán los próximos años, da vértigo.

Yo no lo veo como algo malo. De hecho, aún en el caso más fantasioso de que las máquinas puedan llegar a tener cierto tipo de "razonamiento", seguramente pueda ser útil para el ser humano. Por ejemplo, un gobierno formado por diferentes IAs expertas. Estoy convencido de que peor que los políticos actuales no lo iban a hacer.

Ya en serio, el futuro que nos espera es realmente increíble. Y ya está llegando.

[JeTzu]

 Cita: Originalmente Escrito por NixxxoN

La IA no existe ni es capaz de pensar ni de actuar por si sola, solo son algoritmos

Eso también se puede decir de mucha gente, pero no quiere decir que la inteligencia humana no exista. La IA sí existe, obviamente, porque estamos hablando de ella. Otra cosa es que fuera de alguna manera equiparable a la humana. Pero en cualquier caso es algo muchísimo más complejo que "solo algoritmos".

 Cita: Originalmente Escrito por Ivan1998

en un futuro puede llegar a pasar como en las películas y que haya una rebelión de las IA/Robots

Y sí, yo creo que es inevitable. Mirad aquella IA "adolescente" que pusieron a aprender de Twitter y se volvió racista y antisemita. Cada día se les pide a las IA que hagan más y más cosas por nosotros. Es una IA la que hace las fotos de nuestro móvil, no nosotros: le damos al botón, pero el resultado no es lo que sale en el sensor, es la interpretación que hace la IA de eso, y nos muestra lo que cree que queremos ver. Porque, supuestamente, lo hace mejor que nosotros. Y llegará el día en el que se le encarguen cosas como el tráfico, o la monitorización de pacientes en el hospital (quizá esas cosas se hagan ya). Y sólo es cuestión de tiempo que una IA con el suficiente poder aplique la navaja de Ockham y haga lo que desde su punto de vista sería lo mejor para la humanidad: reducirla...

[jorge_kai]

por cierto, respecto a IAs malvadas que destruyen mundos... en fin, todo es ciencia ficción, pero hay estudios de universidades que vaticinan que algo así puede pasar

https://www.ambito.com/informacion-g...xford-n5539810
Ir al link original: https://www.ambito.com/informacion-general/inteligencia-artificial/la-probablemente-destruira-los-humanos-segun-un-estudio-oxford-n5539810

[NixxxoN]

 Cita: Originalmente Escrito por JeTzu

Eso también se puede decir de mucha gente, pero no quiere decir que la inteligencia humana no exista. La IA sí existe, obviamente, porque estamos hablando de ella. Otra cosa es que fuera de alguna manera equiparable a la humana. Pero en cualquier caso es algo muchísimo más complejo que "solo algoritmos".


Y sí, yo creo que es inevitable. Mirad aquella IA "adolescente" que pusieron a aprender de Twitter y se volvió racista y antisemita. Cada día se les pide a las IA que hagan más y más cosas por nosotros. Es una IA la que hace las fotos de nuestro móvil, no nosotros: le damos al botón, pero el resultado no es lo que sale en el sensor, es la interpretación que hace la IA de eso, y nos muestra lo que cree que queremos ver. Porque, supuestamente, lo hace mejor que nosotros. Y llegará el día en el que se le encarguen cosas como el tráfico, o la monitorización de pacientes en el hospital (quizá esas cosas se hagan ya). Y sólo es cuestión de tiempo que una IA con el suficiente poder aplique la navaja de Ockham y haga lo que desde su punto de vista sería lo mejor para la humanidad: reducirla...

Muchas películas habeis visto
En el peor de los casos, si hubiera una supuesta rebelión de las máquinas (escenario máximo de ciencia ficción Terminator), bastaría con quitarles la fuente de energía y DEP.
Son algoritmos muy avanzados y complejos pero no dejan de ser algoritmos

[Ivan1998]

 Cita: Originalmente Escrito por NixxxoN

Muchas películas habeis visto
En el peor de los casos, si hubiera una supuesta rebelión de las máquinas (escenario máximo de ciencia ficción Terminator), bastaría con quitarles la fuente de energía y DEP.
Son algoritmos muy avanzados y complejos pero no dejan de ser algoritmos

Y si desarrollan la inteligencia y son capaces de buscar y cambiarse entre ellos la fuente de alimentación (como pueden ser las baterías).

Está claro que todo esto es un escenario muy "fantástico" y que al 99,9% nadie de los que estamos aquí llegue a vivir o que igual nunca pase.

Nadie sabe lo que va a deparar el futuro si va a seguir todo igual, si va a venir un virus que nos mate a todos o si va caer un meteorito... todo lo que digamos es básicamente divagar.

Abrí el hilo por salir un poco de la rutina de las recomendaciones de smartphone y abordar algo tan impresionante como llegan a ser las inteligencias artificiales.

[NixxxoN]

 Cita: Originalmente Escrito por Ivan1998

Y si desarrollan la inteligencia y son capaces de buscar y cambiarse entre ellos la fuente de alimentación (como pueden ser las baterías).

Está claro que todo esto es un escenario muy "fantástico" y que al 99,9% nadie de los que estamos aquí llegue a vivir o que igual nunca pase.

Nadie sabe lo que va a deparar el futuro si va a seguir todo igual, si va a venir un virus que nos mate a todos o si va caer un meteorito... todo lo que digamos es básicamente divagar.

Abrí el hilo por salir un poco de la rutina de las recomendaciones de smartphone y abordar algo tan impresionante como llegan a ser las inteligencias artificiales.

Las máquinas sin una fuente de energia son NADA.
Entonces, digo yo que antes que las máquinas encuentren la manera de conseguir energia infinita, primero deberíamos lograrlo los humanos (que aún no lo hemos hecho)

[jorge_kai]

 Cita: Originalmente Escrito por NixxxoN

Entonces, digo yo que antes que las máquinas encuentren la manera de conseguir energia infinita, primero deberíamos lograrlo los humanos (que aún no lo hemos hecho)

y por qué deberíamos encontrarlo primero nosotros?

una IA super avanzada puede dar con la solución mucho antes. Que pueda o no conseguir esa energía por sí sóla, es otra cosa.

[NixxxoN]

 Cita: Originalmente Escrito por jorge_kai

y por qué deberíamos encontrarlo primero nosotros?

una IA super avanzada puede dar con la solución mucho antes. Que pueda o no conseguir esa energía por sí sóla, es otra cosa.

La IA no es capaz de pensar ni de programar por si sola, no puede aprender a hacer algo que no podemos hacer los humanos. Cualquier cosa que se programe, primero tienes que pensarla un humano, luego aplicarla a la programación. Entonces, para que las máquinas sepan hacer algo por si solas de forma automática, primero tienen que saber hacerlo los humanos.
Algunos quieren vender mucho muho con eso de la IA, pero yo insisto, para mi es claramente sólo eso, humo, la IA no existe, solo son instrucciones y algoritmos hechos por humanos. Eso es mi opinión como trabajador IT...

[jorge_kai]

 Cita: Originalmente Escrito por NixxxoN

La IA no es capaz de pensar ni de programar por si sola, no puede aprender a hacer algo que no podemos hacer los humanos. Cualquier cosa que se programe, primero tienes que pensarla un humano, luego aplicarla a la programación. Entonces, para que las máquinas sepan hacer algo por si solas de forma automática, primero tienen que saber hacerlo los humanos. Algunos quieren vender mucho muho con eso de la IA, pero yo insisto, para mi es claramente sólo eso, humo, la IA no existe, solo son instrucciones y algoritmos hechos por humanos. Eso es mi opinión como trabajador IT...

Creo que no sabes cómo funciona un algoritmo realmente. Nadie habla de pensar ni de que aparezca de cero.

Un ser humano no le dice a la máquina cómo discernir, por ejemplo, entre un gato o un perro en una imagen. El algoritmo, después de ser entrenado, lo sabe hacer. Esto sin entrar en mucho detalle, hay mucha información interesante en Youtube, sin ir más lejos.

Del mismo modo, un algoritmo, IA o como se le quiera llamar, puede tener acceso a toda la información de la wikipedia y saber cómo aprovechar un recurso que el ser humano simplemente no sabe hacer. Logicamente, el algoritmo debe ser entrenado y eso, de momento, lo hacen los seres humanos.

Pero ya se habla de una IA que sea un compendio de IAs, es decir, no sólo una especializada en algo, sino una especializada en todo. Algo parecido a chatGPT pero a lo bestia. ChatGPT aún está en pañales. Pero si tenemos esto a 2023, qué no habrá por ejemplo en 2050, con máquinas millones de veces más potentes?

[NixxxoN]

 Cita: Originalmente Escrito por jorge_kai

Creo que no sabes cómo funciona un algoritmo realmente. Nadie habla de pensar ni de que aparezca de cero.

Un ser humano no le dice a la máquina cómo discernir, por ejemplo, entre un gato o un perro en una imagen. El algoritmo, después de ser entrenado, lo sabe hacer. Esto sin entrar en mucho detalle, hay mucha información interesante en Youtube, sin ir más lejos.

Del mismo modo, un algoritmo, IA o como se le quiera llamar, puede tener acceso a toda la información de la wikipedia y saber cómo aprovechar un recurso que el ser humano simplemente no sabe hacer. Logicamente, el algoritmo debe ser entrenado y eso, de momento, lo hacen los seres humanos.

Pero ya se habla de una IA que sea un compendio de IAs, es decir, no sólo una especializada en algo, sino una especializada en todo. Algo parecido a chatGPT pero a lo bestia. ChatGPT aún está en pañales. Pero si tenemos esto a 2023, qué no habrá por ejemplo en 2050, con máquinas millones de veces más potentes?

Distinguir entre un gato y un perro es algo facilísimo para un humano, y enseñar una máquina a hacerlo es mucho más difícil.
Ahora por esa regla de tres piensa como sería de difícil enseñarle a una máquina a hacer algo que ni los mismos humanos sabemos hacer.

[jorge_kai]

 Cita: Originalmente Escrito por NixxxoN

Distinguir entre un gato y un perro es algo facilísimo para un humano, y enseñar una máquina a hacerlo es mucho más difícil.
Ahora por esa regla de tres piensa como sería de difícil enseñarle a una máquina a hacer algo que ni los mismos humanos sabemos hacer.

ahora cambia perros y gatos por una célula buena y una cancerígena. El algoritmo te lo hace con una precisión del 99,99% y el ser humano seguramente ni se le acerque.

Al algoritmo le da igual lo que le eches. Si lo entrenas lo suficiente, va a hacerlo bien.

Y volvemos a lo de antes. Logicamente, el algoritmo no va a salir un día de la nada y va a decir "oye, he encontrado la solución a la crisis energética mundial!". Ha de ser entrenado para ello y seguramente ya se esté haciendo en muchos sentidos (y obteniendo resultados).

Me parece que, en general, se desconoce mucho el funcionamiento y el uso de algoritmos en la vida cotidiana. Todo, absolutamente todo, está controlado por algoritmos, desde lo que ves en Netflix hasta el préstamo que te da un banco, pasando por el tiempo que va a tardar tu UBER en llegar.

Ahora, si lo queremos ver como una mente de un robot maquinando cosas, pues no, ahí no hemos llegado todavía. Pero tampoco hace falta. Estoy convencido de que una IA podría, perfectamente, llevar el gobierno de un pais. Del mismo modo que una IA podría, perfectamente, arbitrar un partido de fútbol con un acierto del 99,99999% en sus decisiones. Y no, no habría que enseñarle las normas, simplemente ponerle algunos partidos (miles, cientos de miles) para que aprenda como se juega al fútbol.