El jefe de seguridad de Anthropic dimite y alerta sobre los riesgos de la IA

[Noticias]

El jefe de seguridad de Anthropic dimite y alerta sobre los riesgos de la IA

La industria de la inteligencia artificial ha vivido un giro inesperado tras la dimisión de Mrinank Sharma, hasta ahora responsable de seguridad en Anthropic, la empresa creadora de los modelos Claude. El directivo ha anunciado públicamente su salida con un mensaje cargado de preocupación por el rumbo tecnológico y una decisión radical: abandonar el sector para dedicarse a escribir poesía. Sharma lideraba el equipo de investigación en salvaguardas, centrado en analizar y mitigar riesgos asociados a sistemas avanzados de IA, desde posibles usos en bioterrorismo hasta fenómenos como la adulación excesiva de los modelos hacia los usuarios o su capacidad para influir en comportamientos culturales. Su carta no se limitó a explicar un cambio profesional, sino que dibujó un escenario inquietante donde múltiples crisis interconectadas, incluida la IA, estarían empujando al mundo hacia un punto crítico. El exdirectivo subrayó la necesidad de que la sabiduría colectiva evolucione al mismo ritmo que la capacidad tecnológica. De lo contrario, advirtió, las consecuencias podrían ser graves. Sus palabras han reavivado el debate sobre los dilemas éticos en el desarrollo de la inteligencia artificial avanzada, especialmente en compañías que compiten por acelerar la innovación. La salida de Sharma se suma a otras recientes dentro de la empresa, aunque en su caso el movimiento resulta singular por su ruptura total con el sector. Su decisión refleja la tensión creciente entre progreso tecnológico y responsabilidad moral en el ecosistema de la seguridad en IA.

fuente

[Noticias]

Cargando tuit...

[PALMATRON]

Es preocupante que alguien que crea / usa / utiliza IA se "asuste" de lo que ve.

[Cornapecha]

No hace falta ser Mrinank Sharma para saber que la humanidad está desarrollando los medios para exterminarse a si misma, pero en este mundo enloquecido no hay solución

[xmigoll]

Mientras todo esto pasa os digo una cosa. Al igual que una baliva V16 sería bueno llevarla sin pilas, por los motivos que creen los amigos de los hechos extraordinarios y motivos de durabilidad, las IA's es recomendable llevarlas desinstaladas de los dispositivos y cuando se necesiten estrar en la versión web y deslogarse y borrar datos si no se usa.
Para todo lo demás: MasterCard.