Noticias
12/02/26, 07:00:40
El jefe de seguridad de Anthropic dimite y alerta sobre los riesgos de la IA
https://static.htcmania.com/Gemini_Generated_Image_cmg5bwcmg5bwcmg5-11022026-52285-htcmania.webp
La industria de la inteligencia artificial ha vivido un giro inesperado tras la dimisión de Mrinank Sharma, hasta ahora responsable de seguridad en Anthropic, la empresa creadora de los modelos Claude. El directivo ha anunciado públicamente su salida con un mensaje cargado de preocupación por el rumbo tecnológico y una decisión radical: abandonar el sector para dedicarse a escribir poesía. Sharma lideraba el equipo de investigación en salvaguardas, centrado en analizar y mitigar riesgos asociados a sistemas avanzados de IA, desde posibles usos en bioterrorismo hasta fenómenos como la adulación excesiva de los modelos hacia los usuarios o su capacidad para influir en comportamientos culturales. Su carta no se limitó a explicar un cambio profesional, sino que dibujó un escenario inquietante donde múltiples crisis interconectadas, incluida la IA, estarían empujando al mundo hacia un punto crítico. El exdirectivo subrayó la necesidad de que la sabiduría colectiva evolucione al mismo ritmo que la capacidad tecnológica. De lo contrario, advirtió, las consecuencias podrían ser graves. Sus palabras han reavivado el debate sobre los dilemas éticos en el desarrollo de la inteligencia artificial avanzada, especialmente en compañías que compiten por acelerar la innovación. La salida de Sharma se suma a otras recientes dentro de la empresa, aunque en su caso el movimiento resulta singular por su ruptura total con el sector. Su decisión refleja la tensión creciente entre progreso tecnológico y responsabilidad moral en el ecosistema de la seguridad en IA.
fuente (https://www.xataka.com/robotica-e-ia/mundo-esta-peligro-responsable-seguridad-anthropic-abandona-empresa-para-dedicarse-a-escribir-poesia)
https://static.htcmania.com/Gemini_Generated_Image_cmg5bwcmg5bwcmg5-11022026-52285-htcmania.webp
La industria de la inteligencia artificial ha vivido un giro inesperado tras la dimisión de Mrinank Sharma, hasta ahora responsable de seguridad en Anthropic, la empresa creadora de los modelos Claude. El directivo ha anunciado públicamente su salida con un mensaje cargado de preocupación por el rumbo tecnológico y una decisión radical: abandonar el sector para dedicarse a escribir poesía. Sharma lideraba el equipo de investigación en salvaguardas, centrado en analizar y mitigar riesgos asociados a sistemas avanzados de IA, desde posibles usos en bioterrorismo hasta fenómenos como la adulación excesiva de los modelos hacia los usuarios o su capacidad para influir en comportamientos culturales. Su carta no se limitó a explicar un cambio profesional, sino que dibujó un escenario inquietante donde múltiples crisis interconectadas, incluida la IA, estarían empujando al mundo hacia un punto crítico. El exdirectivo subrayó la necesidad de que la sabiduría colectiva evolucione al mismo ritmo que la capacidad tecnológica. De lo contrario, advirtió, las consecuencias podrían ser graves. Sus palabras han reavivado el debate sobre los dilemas éticos en el desarrollo de la inteligencia artificial avanzada, especialmente en compañías que compiten por acelerar la innovación. La salida de Sharma se suma a otras recientes dentro de la empresa, aunque en su caso el movimiento resulta singular por su ruptura total con el sector. Su decisión refleja la tensión creciente entre progreso tecnológico y responsabilidad moral en el ecosistema de la seguridad en IA.
fuente (https://www.xataka.com/robotica-e-ia/mundo-esta-peligro-responsable-seguridad-anthropic-abandona-empresa-para-dedicarse-a-escribir-poesia)