La plataforma Grok, integrada a la red social X, decidió restringir el acceso a su generador de imágenes con inteligencia artificial únicamente a usuarios con suscripción activa. La medida se tomó tras una serie de episodios de uso indebido que incluyeron la creación y modificación de imágenes sexualizadas, algunas potencialmente vinculadas a menores.
La limitación comenzó a aplicarse a fines de diciembre y se intensificó en estos últimos días, cuando el volumen de solicitudes para “desnudar” o sexualizar imágenes se disparó en la plataforma.
Según reportes periodísticos, el fenómeno se expandió rápidamente en X y activó alertas de reguladores nacionales e internacionales, que iniciaron investigaciones por posibles delitos de explotación digital infantil y violencia sexual facilitada por herramientas de IA.
Como respuesta inmediata, Grok bloqueó el acceso gratuito a la creación y edición de imágenes. Desde entonces, cuando usuarios no verificados intentan usar la función, reciben el aviso: “La creación y edición de imágenes actualmente solo está disponible para miembros de pago. Puedes suscribirte para desbloquear estas funciones”.
La generación y edición de imágenes están actualmente limitadas a los suscriptores de pago. Puede suscribirse para desbloquear estas funciones: https://t.co/IRs3vdbU8V
— Grok (@grok) January 9, 2026
En paralelo, la Comisión Europea ordenó a X conservar todos los documentos internos y datos relacionados con Grok hasta finales de 2026. La exigencia busca garantizar la disponibilidad de pruebas para investigaciones en curso o futuras bajo la normativa de seguridad digital del bloque, tras constatarse casos de generación de representaciones sexualizadas de menores mediante IA.
En el Reino Unido, voceros oficiales advirtieron que las restricciones “no son una solución” y que “todas las opciones están sobre la mesa” si la plataforma no elimina el material dañino. España, por su parte, pidió la intervención de la Fiscalía para analizar si se cometieron delitos vinculados a la difusión de material de violencia sexual infantil.
Desde la compañía, Elon Musk se refirió públicamente al tema y sostuvo: “Cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. A su vez, las directrices la empresa detrás de Grok prohíben explícitamente la generación de imágenes pornográficas o sexualizadas, especialmente cuando involucran a menores.
Un portavoz de la Comisión afirmó que “suscripción de pago o no, no queremos ver tales imágenes”, subrayando que el problema es estructural y requiere salvaguardas técnicas y legales más robustas.
Comentarios