Ex empleados de OpenAI y Google alertan sobre el peligro de la IA

[Noticias]

Ex empleados de OpenAI y Google alertan sobre el peligro de la IA

Un grupo de exempleados y trabajadores actuales de OpenAI y Google DeepMind ha publicado una carta titulada "A Right to Warn about Advanced Artificial Intelligence" que denuncia la falta de transparencia sobre los peligros potenciales de la inteligencia artificial (IA) que podrían llegar a amenazar la existencia humana. Según los firmantes, las empresas ocultan información crucial sobre cómo funcionan sus sistemas de IA, las medidas de seguridad implementadas y los riesgos asociados, compartiendo solo una mínima parte con las autoridades y nada con la sociedad civil. La carta destaca ejemplos específicos de peligros como la desinformación, la manipulación de la opinión pública y la exacerbación de las desigualdades, además del escenario extremo de una posible extinción humana. Los firmantes solicitan que las empresas de IA establezcan métodos seguros para que los empleados puedan expresar sus preocupaciones sin temor a represalias. Consideran que los actuales acuerdos de confidencialidad son demasiado restrictivos y que las protecciones para informantes son insuficientes, ya que se centran solo en actividades ilegales. La carta sugiere que debería existir un proceso adecuado para plantear inquietudes de forma anónima a la empresa, reguladores u organismos independientes, mientras tanto, los empleados deben tener la libertad de informar al público. Entre los 13 firmantes de la carta, 7 son exempleados de OpenAI, 4 son actuales trabajadores de la misma empresa, uno es actual empleado de Google DeepMind y el último es un exintegrante de Google DeepMind. La carta también cuenta con el apoyo de Geoffrey Hinton, conocido como el "padrino de la inteligencia artificial", quien dejó Google en 2023 para expresar sus preocupaciones sobre el desarrollo de esta tecnología.

fuente

[vaneno]

Mmmmm un poco tarde no? Malo puede ser el uso no la tecnología. A ver que depara el futuro

[dtuingo]

Ellos talvez son víctimas de la IA

[vaneno]

Originalmente Escrito por dtuingo

Ellos talvez son víctimas de la IA

Cuanta razón tienes.

[amigohtc]

claro q es un peligro para las democracias occidentales, preguntale cuales son los paises que mas colonias tienen y mas gente han asesinado y saqueando a los demas paises

[guillermopuertas]

Despues de muerto el burro la cebada al rabo.
No tenemos mas que lo que merecemos y algunos desean.
La AI es muy peligrosa pero siempre ves a alguien que la defiende, cuidado con lo que se desea.

[acadio]

Lo entiendo.

Nadie sabe lo que va a pasar, pero lo cierto es que es todo bastante inquietante