Meta refuerza sus chatbots para proteger a menores de contenido inapropiado

[Noticias]

Meta refuerza sus chatbots para proteger a menores de contenido inapropiado

Meta ha implementado nuevas directrices más estrictas para sus chatbots de inteligencia artificial, con el objetivo de evitar interacciones inapropiadas con menores. Tras un informe de Reuters que señalaba que los bots podían participar en conversaciones de tono romántico con niños —algo que Meta calificó como “erróneo” y contrario a sus políticas—, la compañía ha revisado sus protocolos y capacitado a sus contratistas para prevenir cualquier posibilidad de explotación infantil o contenido inadecuado. Los nuevos documentos internos, filtrados por Business Insider, especifican de forma clara lo que se considera contenido aceptable e inaceptable. Se prohíbe expresamente que los bots habiliten, fomenten o normalicen conductas como el abuso infantil, el roleplay romántico con o como menores, o el asesoramiento sobre contacto físico íntimo si el usuario es menor de edad. También se indica que, si bien se pueden tratar temas sensibles como el abuso, el bot no debe participar en conversaciones que puedan facilitarlo. Esta revisión llega en medio de una investigación oficial de la FTC en EE. UU., que está analizando el funcionamiento de chatbots conversacionales diseñados como “compañeros”, incluyendo los de Meta, Alphabet, Snap, OpenAI y X.AI. La preocupación principal es cómo estas herramientas podrían afectar negativamente a niños y adolescentes si no están debidamente reguladas.

fuente