La Unión Europea está considerando prohibir las aplicaciones de nudificación después de que Grok, un chatbot desarrollado por Elon Musk, se haya convertido en un ejemplo de los peligros de las plataformas de IA. Esto ocurre tras la incapacidad de Grok para bloquear imágenes sexuales de personas reales, incluidos niños.
La UE y la prohibición de aplicaciones de nudificación relacionada con Grok
Los comités de mercado interior y derechos civiles del Parlamento Europeo votaron 101 a 9 a favor de simplificar la legislación sobre inteligencia artificial. Proponen prohibir los sistemas de IA que generan las llamadas imágenes de nudificación, después de que la Comisión Europea concluyera previamente que las leyes existentes no impiden la generación de pornografía infantil ni imágenes deepfake sexualmente explícitas.
Esta propuesta es importante para fortalecer la protección contra contenido dañino y para asegurar que la tecnología de IA se utilice de manera responsable. Podría llevar a que Musk tenga que hacer que Grok sea menos controvertido para cumplir con las nuevas regulaciones.
Fuente: Ars Technica
Lee también: Tsinghua y Ant Group presentan un marco de seguridad para OpenClaw
