Noticias
05/06/24, 21:00:01
Ex empleados de OpenAI y Google alertan sobre el peligro de la IA
https://static.htcmania.com/2023-09-126-09-01-19-05062024-41878-htcmania.webp
Un grupo de exempleados y trabajadores actuales de OpenAI y Google DeepMind ha publicado una carta titulada "A Right to Warn about Advanced Artificial Intelligence" que denuncia la falta de transparencia sobre los peligros potenciales de la inteligencia artificial (IA) que podrían llegar a amenazar la existencia humana. Según los firmantes, las empresas ocultan información crucial sobre cómo funcionan sus sistemas de IA, las medidas de seguridad implementadas y los riesgos asociados, compartiendo solo una mínima parte con las autoridades y nada con la sociedad civil. La carta destaca ejemplos específicos de peligros como la desinformación, la manipulación de la opinión pública y la exacerbación de las desigualdades, además del escenario extremo de una posible extinción humana. Los firmantes solicitan que las empresas de IA establezcan métodos seguros para que los empleados puedan expresar sus preocupaciones sin temor a represalias. Consideran que los actuales acuerdos de confidencialidad son demasiado restrictivos y que las protecciones para informantes son insuficientes, ya que se centran solo en actividades ilegales. La carta sugiere que debería existir un proceso adecuado para plantear inquietudes de forma anónima a la empresa, reguladores u organismos independientes, mientras tanto, los empleados deben tener la libertad de informar al público. Entre los 13 firmantes de la carta, 7 son exempleados de OpenAI, 4 son actuales trabajadores de la misma empresa, uno es actual empleado de Google DeepMind y el último es un exintegrante de Google DeepMind. La carta también cuenta con el apoyo de Geoffrey Hinton, conocido como el "padrino de la inteligencia artificial", quien dejó Google en 2023 para expresar sus preocupaciones sobre el desarrollo de esta tecnología.
fuente (https://hipertextual.com/2024/06/openai-google-ocultan-peligros-ia-exepleados)
https://static.htcmania.com/2023-09-126-09-01-19-05062024-41878-htcmania.webp
Un grupo de exempleados y trabajadores actuales de OpenAI y Google DeepMind ha publicado una carta titulada "A Right to Warn about Advanced Artificial Intelligence" que denuncia la falta de transparencia sobre los peligros potenciales de la inteligencia artificial (IA) que podrían llegar a amenazar la existencia humana. Según los firmantes, las empresas ocultan información crucial sobre cómo funcionan sus sistemas de IA, las medidas de seguridad implementadas y los riesgos asociados, compartiendo solo una mínima parte con las autoridades y nada con la sociedad civil. La carta destaca ejemplos específicos de peligros como la desinformación, la manipulación de la opinión pública y la exacerbación de las desigualdades, además del escenario extremo de una posible extinción humana. Los firmantes solicitan que las empresas de IA establezcan métodos seguros para que los empleados puedan expresar sus preocupaciones sin temor a represalias. Consideran que los actuales acuerdos de confidencialidad son demasiado restrictivos y que las protecciones para informantes son insuficientes, ya que se centran solo en actividades ilegales. La carta sugiere que debería existir un proceso adecuado para plantear inquietudes de forma anónima a la empresa, reguladores u organismos independientes, mientras tanto, los empleados deben tener la libertad de informar al público. Entre los 13 firmantes de la carta, 7 son exempleados de OpenAI, 4 son actuales trabajadores de la misma empresa, uno es actual empleado de Google DeepMind y el último es un exintegrante de Google DeepMind. La carta también cuenta con el apoyo de Geoffrey Hinton, conocido como el "padrino de la inteligencia artificial", quien dejó Google en 2023 para expresar sus preocupaciones sobre el desarrollo de esta tecnología.
fuente (https://hipertextual.com/2024/06/openai-google-ocultan-peligros-ia-exepleados)