X refuerza restricciones a Grok tras polémica por imágenes manipuladas

La red social X ha decidido restringir aún más las funciones de edición y generación avanzada de imágenes de Grok, su sistema de inteligencia artificial, tras la controversia internacional generada por el uso indebido de esta herramienta para manipular fotografías y crear imágenes de desnudez no consentida.

La medida surge luego de una ola de denuncias por la circulación de imágenes alteradas sin autorización, muchas de ellas de mujeres y menores de edad. En una primera fase, la plataforma había limitado estas funciones únicamente a usuarios de pago, con el objetivo de vincular las acciones realizadas al perfil del suscriptor y facilitar su identificación en caso de abuso.

Sin embargo, X informó que ahora las restricciones se extenderán también a los usuarios que cuentan con suscripción, reduciendo de forma generalizada el acceso a estas capacidades de edición visual.

La empresa aseguró que el ajuste responde a su compromiso de garantizar un entorno seguro y reiteró su política de tolerancia cero frente a la explotación sexual infantil, la desnudez no consentida y cualquier contenido sexual no solicitado.

Desde la plataforma señalaron que estas decisiones forman parte de una estrategia para eliminar contenido considerado de alta prioridad infractora. Además, indicaron que se han tomado acciones contra cuentas que violan las normas y que los perfiles que busquen o difundan material relacionado con explotación sexual infantil serán denunciados ante las autoridades correspondientes.

La decisión inicial de permitir estas funciones solo a usuarios de pago fue presentada por la empresa de Elon Musk como una medida de control y responsabilidad. No obstante, fue duramente cuestionada por organizaciones y autoridades, que la consideraron insuficiente e incluso problemática, al interpretarse como una posible forma de lucrar con el abuso.

El endurecimiento de las restricciones se produce en un contexto de creciente presión regulatoria en Europa y el Reino Unido. En países como España, el Gobierno ha solicitado a la Fiscalía General del Estado que investigue si el uso de Grok podría estar relacionado con delitos vinculados a la difusión de material de violencia sexual contra menores.