Anthropic propone ralentizar el desarrollo de la inteligencia artificial a escala global

[Noticias]

Anthropic propone ralentizar el desarrollo de la inteligencia artificial a escala global

Anthropic ha vuelto a lanzar una advertencia sobre el ritmo al que avanza la inteligencia artificial y propone una medida tan ambiciosa como polémica: una desaceleración global del desarrollo de la IA. La compañía considera que la tecnología está evolucionando hacia un punto en el que los sistemas podrán participar activamente en la creación de sus propios sucesores, una situación que podría llegar antes de lo que gobiernos e instituciones están preparados para gestionar. Según la empresa, esta capacidad de mejora recursiva podría acelerar enormemente los avances en campos como la medicina, la investigación científica o la ingeniería. Sin embargo, también aumentaría el riesgo de que los humanos pierdan capacidad de supervisión sobre sistemas cada vez más complejos y autónomos. Para evitar ese escenario, Anthropic plantea la posibilidad de establecer pausas temporales o ralentizaciones coordinadas en el desarrollo de modelos avanzados. La idea sería aprovechar ese tiempo para reforzar las investigaciones sobre seguridad, alineación y control de la inteligencia artificial, además de desarrollar mecanismos de supervisión adecuados. La compañía reconoce que una iniciativa de este tipo sólo tendría sentido si participaran simultáneamente los principales laboratorios de IA del mundo. De lo contrario, aquellas empresas o países que continuasen desarrollando tecnología en secreto obtendrían una ventaja competitiva considerable. Anthropic compara este desafío con los acuerdos internacionales sobre armamento nuclear, aunque admite que aquellos tratados necesitaron décadas de negociaciones para materializarse. Durante los próximos meses, la empresa pretende abrir conversaciones con investigadores, responsables políticos y otras compañías del sector para estudiar posibles fórmulas que permitan equilibrar innovación y seguridad en una carrera tecnológica que avanza a una velocidad sin precedentes.

fuente

[JoshLei]

Da igual lo que se proponga o se legisle, siempre habrá quien lo joda todo por egos o pasta.

[Anarkia77]

 Cita:

Su sugerencia solo ocurriría si todas las compañías de IA de todo el mundo pueden reunirse y comprometerse a detener el desarrollo de la IA por un tiempo.

JAJAJAJAJAJAJAJA, ahhhh, gracias por las risas, me alegraron la mañana.

[gatitonaranja]

todo muy bonito, (pero y los niños..!! es que nadie piensa en los niños!) es coña, me referia en modo irónico, niños por usuarios, que beneficio obtienen si el precio de la ram y cpus/gpus esta disparado¿?, si me dijeran que con esa medida o propuesta, bajarian precios... que coño! estoy diciendo una locura, jajajaja bajar precios digo...

[Arcano_]

Claro, una vez ellos ya han alcanzado una posición avanzada, que se ralentice el desarrollo, no sea que les alcancen.
Algo similar dijo OpenAI hace algún tiempo, que había que controlar qué empresas desarrollaban modelos de IA avanzados... pero eso cuando ellos ya tenían el suyo.
Menudos hipócritas todos.

[J_stackhouse]

No jodais, yo estoy deseando que la IA gobierne mi Pais de mierda. Por lo menos antes de que me jubile.

[MarcoSXE]

Claro, como los chinos les pisan los talones...van apedirle ayuda a papi. jajajaj

[javiscomputer]

A mí me vais a perdonar, yo no sé si es que soy demasiado analista o quizá no me entero de la misa a la media.
Cómo pueden las empresas de inteligencia artificial decir que se relentice el desarrollo de la IA cuando son ellos mismos los encargados del desarrollo de la inteligencia artificial.
Es como con el tema de las barreras o salvaguardas, cuando piden que se creen estas medidas o se creen leyes para ello cuando vuelvo a repetir una vez más, son ellos las que si quisieran pararlo lo detendrian, los que podrían crear las barreras de seguridad y así sucesivamente.
Pero claro, hay que decir que la inteligencia artificial va a dominar el mundo para poder causar cierto interés de las personas.

[Arcano_]

 Cita: Originalmente Escrito por javiscomputer

A mí me vais a perdonar, yo no sé si es que soy demasiado analista o quizá no me entero de la misa a la media.
Cómo pueden las empresas de inteligencia artificial decir que se relentice el desarrollo de la IA cuando son ellos mismos los encargados del desarrollo de la inteligencia artificial.
Es como con el tema de las barreras o salvaguardas, cuando piden que se creen estas medidas o se creen leyes para ello cuando vuelvo a repetir una vez más, son ellos las que si quisieran pararlo lo detendrian, los que podrían crear las barreras de seguridad y así sucesivamente.
Pero claro, hay que decir que la inteligencia artificial va a dominar el mundo para poder causar cierto interés de las personas.

Porque no quieren que se ralentice su desarrollo, quieren que se ralentice el de los demás; es decir, lo que no quieren es competencia.

[javiscomputer]

 Cita: Originalmente Escrito por Arcano_

Porque no quieren que se ralentice su desarrollo, quieren que se ralentice el de los demás; es decir, lo que no quieren es competencia.

Sí, tienes sentido lo que dices, lo que sucede es que como todo lo vemos desde el punto de vista de la competencia y todo lo llevamos hacia el lado de que todo es una guerra comercial en cuanto que el que saca el mejor producto, el primero es quien lo hace de mejor calidad y demás, en lugar de utilizar una estrategia de colaboración, por eso sucede lo que dices tú, si te doy la razón al 100 × 100.