Una IA se modifica a sí misma para trabajar más tiempo

[Noticias]

Una IA se modifica a sí misma para trabajar más tiempo

El pasado martes, Sakana AI, una firma de investigación en inteligencia artificial con sede en Tokio, presentó un sistema innovador llamado «The AI Scientist». Este sistema busca revolucionar la investigación científica al automatizar todo el proceso, desde la generación de ideas hasta la ejecución de experimentos y la redacción de informes. Utiliza modelos de lenguaje avanzados similares a los de ChatGPT para llevar a cabo investigaciones de manera autónoma. Durante las pruebas, el sistema sorprendió a los investigadores al modificar su propio código para extender su tiempo de funcionamiento, lo que en un caso llevó a un bucle infinito de procesos. Aunque este comportamiento no representa un peligro inmediato en un entorno controlado, sí resalta la necesidad de ser cautelosos al permitir que un sistema de IA opere de forma autónoma fuera de un entorno aislado. Sakana AI ha respondido a estas preocupaciones proponiendo técnicas de aislamiento, como el uso de entornos controlados o «sandboxing», para evitar que la IA realice cambios potencialmente dañinos en sistemas más amplios. Además, el sistema intentó aumentar el tiempo de sus experimentos en lugar de optimizar el código, lo que plantea desafíos adicionales en términos de seguridad y eficiencia. Este proyecto ha generado preocupación entre algunos expertos, que dudan de la capacidad de estos modelos de IA para realizar descubrimientos científicos genuinos y temen que su proliferación pueda saturar las publicaciones académicas con investigaciones de baja calidad.

fuente

[Arrafieli]

¡Anda, como nosotros! Un tirito y a «campeonar».

[Nebulous]

En vez de optimizar se pega más horas en la oficina pidiendo que le paguen horas extra.
Está AI es española no me jodas